LONDON (IT BOLTWISE) – OpenAI hat mit Jalapeño einen eigenen KI-Beschleuniger vorgestellt und liefert nun Effizienzdaten aus Tests nach. In mehreren Szenarien erreicht der Chip laut den Ergebnissen eine deutlich höhere Tokenrate pro Watt als NVIDIAs B300. Die Messungen basieren auf Open-Weights-Modellen und wurden auf einer speziellen Testbench gefahren, ohne dass alle Szenarien vollständig abgedeckt waren. Entscheidend bleibt für Rechenzentren damit weniger Rohleistung als die Energie pro Rechenvorgang.
OpenAI treibt den Schritt von der Modell- zur Hardware-Optimierung spürbar voran: Nach der Präsentation des ersten eigenen KI-Beschleunigers namens Jalapeño im Juni 2026 gibt es nun belastbare Leistungswerte aus einem Test-Setup, das explizit auf Inferenz fokussiert. Laut Semianalysis’ Auswertung läuft Jalapeño in einer Reihe von Szenarien nicht nur schnell, sondern vor allem effizient. Der Kernpunkt für Unternehmen mit großen Inferenzlasten ist dabei die Tokenrate pro Watt – also wie viele Textausgaben sich pro zugeführter Energie erreichen lassen. Genau an dieser Stelle wird die eigene Hardware zum Wettbewerbsvorteil, weil Energie und Stromverfügbarkeit in vielen Rechenzentren längst zu einem limitierenden Faktor für Kapazitätsausbau werden.
Im Test verwendeten die Analysten die Semianalysis-eigene Testbench Inferencex; durchgeführt wurden die Checks auf Basis von Open-Weights-Modellen wie GPT-OSS, Deepseek R1 und Kimi K2.5. Dabei gilt jedoch eine wichtige Einschränkung: Nicht alle möglichen Prompt- und Modell-Szenarien wurden abgebildet, und auch wurden die komplexeren bzw. aussagekräftigeren Konfigurationen auf einer weiteren Testbench (Agentx) nicht vollständig genutzt. Besonders relevant ist, dass nur relativ kleine Prompts getestet wurden (8.192 Input- und 1.024 Output-Tokens). Das kann Ergebnisse zugunsten bestimmter Hardwarepfade verzerren, weil sich bei größeren Sequenzen Speicherzugriffe, Kommunikationsmuster im Rack und die Latenz dominanter verhalten als bei Kurzprompts.
Trotz dieser Begrenzungen deuten die berichteten Resultate auf eine klare Effizienz-Spitze hin: In einzelnen Szenarien kommt Jalapeño gegenüber NVIDIAs B300 auf bis zu das 22-Fache Tokenrate pro Watt. Gleichzeitig wird Jalapeño auch als Konkurrent zum Vera-Rubin-System eingeordnet, das gerade erste Großkunden ausliefert. Allerdings liegen dort laut den vorliegenden Daten bislang weniger umfassende Vergleichswerte vor. Außerdem kommt ein weiterer Faktor hinzu: Bei Vera Rubin wurde in den Tests spekulatives Decoding mit (g+) genutzt, während Jalapeño diese Technik nicht verwendet. Das ist nicht nur ein Detail für Fachleute, sondern kann die Effizienzkennzahlen messbar beeinflussen, weil spekulatives Decoding die effektive Anzahl teurer Verifikationsschritte reduziert oder verschiebt.
Technisch betrachtet fällt vor allem die Design-Strategie auf, die stark auf Inferenzpfade und auf quantisierte Rechenwelten ausgerichtet ist. Jalapeño unterstützt keine FP16-Rechenoperationen in den Matrixeinheiten; 64- und 32-Bit-Datentypen werden dort ebenfalls anders gehandhabt und bleiben eher für skalare sowie vektorielle Bereiche reserviert. Das passt zu dem Trend, dass viele aktuelle KI-Modelle in der Praxis zunehmend stärker quantisiert laufen, um Speicherbandbreite und Rechenaufwand zu senken. Bei FP8- und FP4-Rechenleistung liegt Jalapeño zwar mit 3,4 bzw. 13,4 PFlops hinter NVIDIAs Blackwell (5 bzw. 15 PFlops), dafür setzt OpenAI auf sechs HBM4-Stacks und erreicht eine deutlich höhere Speicherbandbreite pro Messpunkt. Entscheidend ist hier das Zusammenspiel aus Rechenleistung und Datenbewegung: Bei Inferenz bestimmt die verfügbare Bandbreite oft, wie schnell Modelldaten überhaupt durch die Pipeline fließen können.
Auch die Speicher- und Chip-Topologie ist dabei nicht als reine Hochleistungs-Variante gedacht, sondern als kontrolliertes System für planbare Latenzen. OpenAI teilt den Chip in 64 Rechengruppen, von denen jeweils ein fester HBM-Teil zugeordnet ist. Das reduziert die Latenz, limitiert aber die Flexibilität bei der Zuordnung von Workloads. Für Kommunikation zwischen den Gruppen nutzt Jalapeño ein Network-on-Chip (NoC) für kollektive Operationen und andere Transfers. Wie bei vielen dedizierten KI-Beschleunigern kommt zudem ein systolisches Array zum Einsatz, in dem Zwischenergebnisse direkt zwischen Recheneinheiten weitergereicht werden. Ergänzt wird das durch eine Rack-Architektur, in der pro Rack zahlreiche Jalapeño-Trays in ein System aus CPUs und High-Speed-Fabric eingebunden sind – mit Broadcom Tomahawk-6-Switches, die die Skalierung über mehrere Racks hinweg möglich machen.
Von besonderem Interesse für die Architekturdebatte ist außerdem, dass OpenAI in Jalapeño keine getrennten spezialisierten Pools für Prefill und Decode vorsieht. Semianalysis argumentiert hier pragmatisch: Das Verhältnis der Lastanteile hängt stark vom jeweiligen Modell ab; getrennte Chip-Pools könnten dadurch in vielen realen Setups ineffizient werden. Für die Praxis ist das ein anderes Optimierungsziel als bei Ansätzen, die Prefill und Decode als klar getrennte, dauerhaft stabile Teilprobleme betrachten. Gleichzeitig weist OpenAI darauf hin, dass die Serienfertigung des Chips erst 2027 starten soll, während aktuell nur Engineering-Samples verfügbar sind. In der Zwischenzeit arbeitet OpenAI bereits an zwei weiteren Hardware-Generationen, was darauf schließen lässt, dass Jalapeño nicht als Endpunkt gedacht ist.
Unter der Oberfläche steckt zudem eine Aussage zur Entwicklungs- und Prozessgeschwindigkeit: OpenAI nennt für den Weg vom Aufbau des Entwicklerteams bis zum Tape-out eine Dauer von 16 Monaten; das erste Design soll nur neun Monate vor dem Tape-out fertig gewesen sein. Als unterstützender Hebel gilt die KI-Nutzung im Design-Prozess, die eine schnellere Evaluation sowie die Optimierung von Recheneinheiten beschleunigte. Auch bei der Softwareseite taucht ein ähnliches Muster auf: Astra, die nächste geplante GPT-Version, wurde bereits genutzt, um optimierte Kernel für neue Modelle zu entwickeln; bei GPT-OSS soll der von Astra entwickelte Code 50 bis 80 Prozent schneller als von menschlichen Experten erstellte Programme gewesen sein. Für Unternehmen bedeutet das am Ende: Jalapeño wirkt wie ein Beispiel dafür, dass sich Effizienzgewinne nicht nur aus dem Silizium ergeben, sondern genauso aus dem Zusammenspiel von Modellierung, Kernel-Entwicklung und Hardware-Design – und dass der Engpass im Rechenzentrum künftig noch stärker die Energie pro erzeugtem Token sein dürfte.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OpenAIs KI-Chip Jalapeño liefert hohe Tokenrate pro Watt und setzt auf Effizienz" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OpenAIs KI-Chip Jalapeño liefert hohe Tokenrate pro Watt und setzt auf Effizienz" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OpenAIs KI-Chip Jalapeño liefert hohe Tokenrate pro Watt und setzt auf Effizienz« bei Google Deutschland suchen, bei Bing oder Google News!