OpenAI veröffentlicht kostenloses GPT-Modell für den Einsatz auf Laptops

OpenAI hat ein neues KI-Modell vorgestellt, das kostenlos heruntergeladen und direkt auf deinem Laptop betrieben werden kann. Dieses Ereignis markiert einen bedeutenden Schritt im Bereich der frei verfügbaren künstlichen Intelligenz und stärkt die Position von OpenAI im Wettbewerb um offene Sprachmodell-Plattformen. Der Schritt folgt auf jahrelange Zurückhaltung des Unternehmens bei der Veröffentlichung von Open-Weight-Modellen.

Technische Details zu GPT-OSS

Das neue Modell heißt GPT-OSS und wird in zwei Varianten angeboten. Eine Version verfügt über 120 Milliarden Parameter und kann auf einer einzelnen Nvidia-GPU betrieben werden. Die kleinere Variante arbeitet mit 20 Milliarden Parametern und benötigt nur 16 GB Arbeitsspeicher. Beide Modelle stehen ab sofort auf Plattformen wie Hugging Face, Databricks, Azure und AWS bereit. Die Lizenzierung erfolgt über Apache 2.0. Das erlaubt umfangreiche Modifikationen, auch für kommerzielle Anwendungen.

Die größere Version bietet laut OpenAI eine vergleichbare Leistung wie das hauseigene geschlossene o4-mini-Modell. Die kleinere Version orientiert sich in ihrer Performance am o3-mini-Modell. Damit kannst du je nach Hardware und Leistungsbedarf flexibel wählen.

Sicherheitsaspekte und Nachvollziehbarkeit

OpenAI betont, dass GPT-OSS das bislang umfassend getestete Modell des Unternehmens ist. Externe Fachfirmen analysierten das Modell insbesondere im Hinblick auf Risiken in Bereichen wie Cybersicherheit oder biologische Gefahren. Der sogenannte „Chain-of-Thought“-Prozess ist sichtbar. Dadurch kannst du die Entscheidungsfindung des Modells Schritt für Schritt nachvollziehen und auf Verhaltensauffälligkeiten oder Missbrauch prüfen.

Das Modell liefert ausschließlich Text als Ausgabe. Die genaue Zusammensetzung der Trainingsdaten bleibt nicht offengelegt. Diese Vorsichtsmaßnahme soll allerdings Sicherheitsrisiken minimieren.

Vergleich zu anderen Modellen und Ausblick

OpenAI nennt keine direkten Benchmark-Ergebnisse im Vergleich mit anderen offenen Modellen wie Llama, DeepSeek oder Gemma von Google. Die Leistung bei Programmieraufgaben und komplexen Reasoning-Tests sei mit den besten geschlossenen OpenAI-Modellen auf Augenhöhe. Zielgruppe sind Entwickler:innen und kleinere Unternehmen, die Kontrolle über Verarbeitung und Datenschutz wünschen.

Aktuell gibt es noch keinen Zeitplan für zukünftige Releases von GPT-OSS. OpenAI betont aber, dass die Offenheit Innovationen fördert. Gerade die Möglichkeit, das Modell frei zu modifizieren, könnte neue Anwendungsfälle ermöglichen. Somit bleibt abzuwarten, wie dieses offene Modell von Community und Unternehmen angenommen wird.

Via: https://www.theverge.com

Den Beitrag in unserem Forum kommentieren