NVIDIA kündigt Rubin CPX für KI-Inferencing an

LONDON (IT BOLTWISE) – NVIDIA plant, Ende 2026 mit dem Rubin CPX einen spezialisierten Beschleunigerchip für KI-Anwendungen auf den Markt zu bringen. Dieser Chip soll insbesondere Anwendungen mit hohen Context-Anforderungen beschleunigen, die als besonders profitabel gelten. Rubin CPX gehört zur kommenden Vera-Rubin-Generation von Rechenzentrumsbeschleunigern und hat bereits seinen Tape-Out hinter sich.

NVIDIA hat angekündigt, Ende 2026 mit dem Rubin CPX einen neuen Beschleunigerchip für KI-Anwendungen auf den Markt zu bringen. Dieser Chip ist speziell darauf ausgelegt, Anwendungen mit hohen Context-Anforderungen zu beschleunigen, die als besonders profitabel gelten. Dazu gehören KIs, die Programmcode generieren oder Filme erstellen können. Rubin CPX wird Teil der Vera-Rubin-Generation von Rechenzentrumsbeschleunigern sein, die bereits ihren Tape-Out-Prozess abgeschlossen hat.

Die Technik, die hinter diesen KI-Modellen steht, nennt sich Mixture-of-Experts (MoE). Dabei werden spezialisierte neuronale Netze für unterschiedliche Anfragen eingesetzt, was die Anforderungen an Speicher und Rechenleistung reduziert. Die Herausforderung besteht darin, die optimale Verteilung der Anfragen auf die Experten zu gewährleisten, insbesondere wenn Reasoning-Komponenten integriert sind. Dies führt zu einer exponentiellen Zunahme der zu berücksichtigenden Token, was die Komplexität der Antworten erhöht.

Ein neuer Ansatz zur Optimierung ist das entkoppelte Beantworten der Anfragen, bekannt als disaggregated serving. Hierbei werden verschiedene Stufen der Anfragebearbeitung unterschiedlichen Beschleunigern zugewiesen. NVIDIA nutzt diese Technik bereits in seinen aktuellen GB200-Blackwell-Systemen. In optimierten Einreichungen zu den KI-Benchmarks der MLCommons MLPerf Inference v5.1 arbeiten 56 von 72 GPUs eines NVL72-Racks nur am Context, während die restlichen 16 GPUs die Inhalte erzeugen. Diese Optimierung führt zu einem geschätzten Performance-Sprung von 40 bis 45 Prozent.

Der Rubin CPX wird im Vergleich zu den heutigen GB300-Systemen den dreifachen Exponential-Durchsatz erreichen und mit 128 GByte GDDR7-Speicher ausgestattet sein, um die Anforderungen der Context-Phase zu erfüllen. NVIDIA plant, mit Rubin NVL144 eine Leistung von 3,6 EFlops zu erreichen, während ein Rubin-CPX-Rack auf 8 EFlops projektiert wird. Diese Fortschritte versprechen eine erhebliche Beschleunigung der KI-Inferenzierung und könnten die Effizienz in Rechenzentren maßgeblich steigern.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

152,91 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

152,91 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

64,59 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!