Am 25. August stellte OpenAI mit Jalapeño seinen ersten eigenen KI-Chip vor. Er liefert bis zu 13,4 Petaflops Rechenleistung bei 4 Bit und 232 Gigabyte Speicher mit 15,4 Terabyte pro Sekunde Anbindung. Laut OpenAI senkt der Chip die Latenz gegenüber Nvidias GB300 um bis zu das 3,6-fache.
OpenAI hat am 25. August seinen ersten eigenen KI-Beschleuniger namens Jalapeño vollständig vorgestellt. Der Chip bietet bis zu 13,4 Petaflops Rechenleistung bei 4 Bit sowie Zugriff auf 232 Gigabyte Speicher mit einer Anbindung von 15,4 Terabyte pro Sekunde. Nach Angaben von OpenAI senkt Jalapeño die Latenz zwischen Eingabe und letzter Antwort um bis zu das 3,6-fache gegenüber Nvidias GB300, dem Chip, auf den das Unternehmen bisher setzt, und das bei geringerem Stromverbrauch. Entwickelt wurde der Chip mit Broadcom als Fertigungspartner, wobei OpenAI selbst das Systemdesign und Broadcom die physische Umsetzung übernahm. Vom ersten Architekturkonzept bis zum ersten Silizium vergingen weniger als 20 Monate, von der ersten Logikbeschreibung bis zur Fertigungsfreigabe nur neun Monate.
Bemerkenswert ist der Weg dorthin: OpenAI setzte eigene große Sprachmodelle ein, um den Designprozess selbst zu beschleunigen. Nach Aussage von Hardware-Vizepräsident Richard Ho verschaffen die Modelle den Ingenieuren zusätzliche Fähigkeiten, ohne die Entscheidungshoheit zu übernehmen. Das kleine Team von durchschnittlich unter 100 Personen konnte dadurch deutlich mehr Entwurfspfade parallel prüfen als bei klassischen Entwicklungszyklen üblich. Für Unternehmen, die Chips oder Software entwickeln, zeigt der Fall, wie generative KI selbst in hochkomplexe technische Prozesse vordringt und Entwicklungszeiten verkürzen kann. Für OpenAI selbst verringert der eigene Chip zudem die Abhängigkeit von Nvidia als einzigem Lieferanten für Rechenleistung.
Offen bleibt, ob sich die im Labor gemessenen Vorteile bei Latenz und Stromverbrauch im produktiven Einsatz in OpenAIs Inferenz-Flotte tatsächlich bestätigen. Auch die Frage, wie stark sich der Trend zu KI-gestütztem Chipdesign in den kommenden Jahren beschleunigt und wie andere Hersteller darauf reagieren, ist noch nicht beantwortet. Klar ist bislang nur, dass die Entwicklungszeit für Jalapeño kurz war und OpenAI bereits an einer zweiten und dritten Generation arbeitet.
Was das für Entscheider bedeutet
- Beobachten Sie, wie sich KI-gestützte Chipentwicklung auf Entwicklungszeiten in der Branche auswirkt.
- Prüfen Sie Lieferantenrisiken, falls große Kunden künftig eigene Chips statt Nvidia-GPUs einsetzen.
- Verfolgen Sie Benchmarks zu Jalapeño, sobald der Chip im produktiven Einsatz bei OpenAI läuft.
Diese Meldung wurde automatisch aus der genannten Quelle erstellt und vor der Veröffentlichung maschinell geprüft. Das Bild ist ein Symbolbild und zeigt weder den Vorgang noch eine reale Person. Wie diese Zeitung entsteht