gpt-oss-120b: Offenes Reasoning-Modell von OpenAI jetzt auf Schweizer Infrastruktur

Das Modell auf einen Blick:

• Open-Weight-Modell von OpenAI, Apache-2.0-Lizenz.
• Mixture-of-Experts: 128 Experten pro Schicht, 4 aktiv pro Token.
• Kontextfenster bis 128k Token.
• Reasoning-Aufwand einstellbar (low, medium, high).
• Gemanagter Betrieb auf Schweizer Infrastruktur.

OpenAI hat mit gpt-oss-120b ein Open-Weight-Modell unter der Apache-2.0-Lizenz veröffentlicht. Wir bieten es ab sofort als Teil unseres AI on Demand Portfolios auf Schweizer Infrastruktur an, komplett gemanagt. Damit erhalten Unternehmen ein leistungsfähiges Sprachmodell für Analyse, Coding und agentic workflows, ohne die Infrastruktur selbst betreiben zu müssen.

Mit den gpt-oss-Modellen hat OpenAI seine ersten Sprachmodelle mit offenem Gewichtungssystem seit GPT-2 vorgestellt. Sie wurden unter Verwendung von Ansätzen des verstärkenden Lernens entwickelt, die auf Erkenntnissen aus den Pioniersystemen von OpenAI, darunter o3, basieren. Für Unternehmen bedeutet dies: starke Schlussfolgerungsfähigkeiten, eine offene Lizenz und somit die Möglichkeit, die Modelle auf ihrer eigenen oder einer souveränen Infrastruktur einzusetzen.

gpt-oss-120b nutzt eine «Mixture-of-Experts»-Architektur: 36 Schichten mit je 128 Experten, von denen pro Token nur 4 aktiviert werden. Das Modell aktiviert somit pro Token rund 5.1 Milliarden Parameter und verbindet so eine hohe Modellkapazität mit effizienter Inferenz. Die native Kontextlänge beträgt bis zu 128 Tausend Tokens. Zudem lässt sich der Rechenaufwand pro Aufgabe in drei Stufen (niedrig, mittel, hoch) anpassen, was eine gezielte Abwägung zwischen Latenz und Leistung ermöglicht.

Das Modell eignet sich für komplexe Aufgaben, die eine Kombination aus Analyse, Schlussfolgerungen, Programmierung und mehreren Verarbeitungsschritten erfordern. Zu den typischen Anwendungsbereichen zählen Wissensassistenten, RAG-Lösungen, Code-Analyse und Code-Generierung, die Verarbeitung strukturierter Daten, Tool-Aufrufe und agentenbasierte Workflows. Es unterstützt zudem strukturierte Ausgaben und den Einsatz von Tools, wie beispielsweise Websuchen oder die Ausführung von Python-Code, sofern eine Verbindung zu den entsprechenden Tools und der entsprechenden Ausführungsumgebung besteht.

Wir bieten gpt-oss-120b als Teil unseres AI on Demand Portfolios an: Das Modell läuft auf Schweizer Infrastruktur, wobei stepping stone für die Bereitstellung, Überwachung, Wartung, den Support und die individuelle Beratung zuständig ist. Die Modellinferenz findet in der Schweiz statt, während wir uns um den laufenden Betrieb kümmern. Bei der Anbindung externer Tools oder Dienste bestimmt die jeweilige Integration, wo allfällige zusätzliche Verarbeitungsschritte stattfinden.

→ Mehr über gpt-oss-120b erfahren