LONDON (IT BOLTWISE) – d-Matrix stellt die Kombination aus Corsair und NVIDIA Rackscale in Aussicht und verlagert den Fokus von GPU-Rechenleistung hin zu speicherzentrierter KI-Verarbeitung. Im Zentrum steht Raptor: eine XPU-Plattform, die DRAM- und SRAM-Komponenten in einem Rack eng mit NVIDIA-Interconnect und MGX-Architektur verzahnt. Die Partnerschaft zielt darauf, Low-Latency-Inferencing und Token-Generierung in Unternehmen, HPC-Rechenzentren und KI-Labs skalierbarer zu machen. Gleichzeitig liefert d-Matrix frühe Benchmarks aus dem Hot Chips-Umfeld, die zeigen sollen, wie stark sich Decode-Workloads beschleunigen lassen.
Der Engpass bei KI-Inferenz ist in vielen Deployments längst nicht mehr allein die rohe Rechenleistung. Entscheidend wird, wie schnell ein System pro Request neue Tokens ausspucken kann – und wie effizient es dafür die Speicherhierarchie nutzt. Genau dort setzt d-Matrix an: Das Startup entwickelt seit 2019 hardware- und softwareseitig eine „memory-centric“ Architektur, die die Latenz bei der Token-Generierung senken soll. Dass der Bedarf in kurzer Zeit stark gestiegen ist, untermauert das Unternehmen mit dem Aufkommen agentischer KI-Tools wie Claude Code und weiteren Workflows, die Inferenzschleifen deutlich häufiger auslösen als klassische „eine Antwort, fertig“-Szenarien.
Technisch betrachtet kombiniert d-Matrix bei seiner aktuellen Corsair-Inferenz-Accelerator-Plattform speichernahe Komponenten mit GPUs in demselben Rack. Die Logik dahinter folgt dem typischen Inferenz-Workflow in zwei Phasen: GPUs sind besonders stark bei der „prefill“-Phase, also beim Verarbeiten der Kontext-Tokens, während Corsair für den „decode“-Teil optimiert sein soll, in dem das Modell fortlaufend neue Ausgabe-Tokens erzeugt. In der Partnerschaft mit NVIDIA wird Corsair nun zusammen mit den „Blackwell“-GPU-Akzeleratoren betrieben, wobei das XPU-Konzept das Speichersubsystem (etwa SRAM oder 3D-RAM) eng mit CPU/GPU-Bausteinen koppelt, um Token-Generierung zu beschleunigen und laut d-Matrix die Kosten pro Inferenz zu senken. Mit der Hintergrundidee „Blackwell + XPU“ will das Unternehmen außerdem nicht nur einzelne Leistungsinseln verbessern, sondern die gesamte Rack-Integration als beschleunigenden Faktor verstehen.
Schon im Maschinenraum zeigt sich auch, wie stark d-Matrix seine Architektur als Rack-Referenzdesign denkt. Nach der Übernahme des Datacenter-Geschäfts von GigaIO im April brachte das Startup die SquadRack-Referenz ein, die es gemeinsam mit Arista Networks, Broadcom und Supermicro erarbeitet hat. Sid Seth, Mitgründer und CEO, ordnet den Ansatz dabei nicht als „mehr Hardware“, sondern als Effizienzstatement ein: „Our entire approach is predicated on doing more with the capital people deploy in our compute, “ wird er bei der Vorstellung zitiert. Die Aussicht ist für Rechenzentrumsbetreiber naheliegend: Wenn weniger Zeit und Energie pro erzeugtem Token benötigt werden, sinken indirekt auch die Betriebskosten und die Notwendigkeit zusätzlicher Kapazitäten. Seth verweist entsprechend auf Energieeffizienz als Teil des Wertversprechens und spricht davon, dass man perspektivisch die Erweiterung von Rechenzentren reduzieren wolle.
Der strategische nächste Schritt heißt Raptor und wird als XPU-Plattform vorbereitet, die d-Matrix auf der Hot Chips 2026 detaillierte. Für Raptor nennt das Unternehmen ein konkretes Chip-Setup: Ein 3D-RAM-Accelerator mit einem 4-Nanometer-Compute-Die von Taiwan Semiconductor Manufacturing Co, der auf einem kundenspezifischen DRAM-Die „gefus“ werden soll – bei 36-Mikrometer-Pitch und mit 100 TB/sec Bandbreite als Zielwert. Außerdem setzt d-Matrix laut Darstellung auf eine Variante des Chip-on-Wafer-Packaging, die auch bei HBM-Implementierungen zum Einsatz kommt, und kombiniert dabei DRAM-Speicherchips mit SRAM-Compute-Chips. Der Zeitplan ist ambitioniert: Tape-out soll bis zum Jahresende erfolgen, die Veröffentlichung für das vierte Quartal 2027 geplant sein; parallel steht als Nachfolger Lightning auf der Roadmap, das später ein „multi-high DRAM stack“ adressieren soll.
Die Einbettung in die NVIDIA-Rackscale-Welt kommt über eine Partnerschaft, die Raptor XPU-Plattformen über die MGX-Referenzarchitektur zugänglich machen soll. Seth begründet das Vorgehen pragmatisch: „Seth said Raptor needs a ‚house‘ to put it in, “ und dass d-Matrix sowohl den eigenen liquid-cooled Rack-Ansatz als Option geprüft habe, NVIDIA aber ein bestehendes Ökosystem bietet. Für NVIDIA wiederum passt das in die eigene AI-Factory-Strategie, die intern stark von Interconnect und standardisierten Rack-Layouts getrieben wird. Jesse Clayton, Principal Product Marketing Manager für das Data-Center-GPU-Geschäft, beschreibt die Architektur dabei als Plattformlogik: „completely fungible“ und „vertically integrated, but horizontally open.“ Gemeint ist, dass Komponenten des Stack flexibel austauschbar sein sollen, solange sie über definierte Schnittstellen wie NVLink-Fusion Ports andocken – wodurch d-Matrix gezielt seinen eigenen XPU-Ansatz in eine weitgehend vorhandene Infrastruktur integriert.
Im Kern dreht sich die technische Kopplung um NVLink und NVSwitch, die NVIDIA für das kohärente Verbinden von GPUs, CPUs und weiteren Beschleunigern vorsieht. Das angekündigte MGX-Setup sieht vor, dass d-Matrix denselben NVLink-Compute-Tray nutzen will wie im bekannten Vera-Rubin-Umfeld, jedoch statt Rubin Chips Raptor XPUs sowie Vera CPUs und Bluefield DPUs im Tray unterbringt. Zudem sollen ConnectX und Spectrum-X für Scale-out eingesetzt werden; Ziel ist, dass Raptor in den liquid-cooled NVL144 MGX-Rack mit 144 Raptor-XPUs pro Rack integriert wird. Für die Speicherperspektive liefert d-Matrix ebenfalls Zahlen: Der Rack soll 2,3 TB 3D-Stack-DRAM pro Karte mit 100 TB/sec Bandbreite bereitstellen, während die aggregierte Bandbreite im Rack-Kontext bei 7,2 Petabytes pro Sekunde liegen soll. Als nächste praktische Frage drängt sich daraus auf, wie gut sich die Workloads, besonders beim Decode, tatsächlich unter realen Rechenzentrumsbedingungen skalieren lassen.
Genau dafür liefert das Unternehmen Auszüge aus dem Hot Chips 2026-Umfeld: Zwei Modelle, Z.ai’s GLM 5.2 und Moonshot AI’s Kimi K3, sollen auf einem Raptor-Rack laufen. Für GLM 5.2 nennt d-Matrix etwa 3.000 Tokens pro Sekunde pro User; beim Kimi-Modell sollen es rund 1.000 Tokens pro Sekunde pro User sein. Seth ergänzt, dass sich diese Ergebnisse über acht Racks skalieren lassen sollen. Ergänzend positioniert NVIDIA die Marktchancen der AI-Factory nach eigenen Angaben: In der Kommunikation zu den Q2 2027 Zahlen spricht CFO und EVP Colette Kress von einer Revenue-Opportunity, die sich von etwa $18 Milliarden pro Gigawatt „seit“ Grace-Hopper auf rund $40 Milliarden pro Gigawatt mit den kommenden Vera-Rubin Systemen gesteigert habe. Damit wird verständlich, warum d-Matrix die Partnerschaft als Skalierungshebel nutzt: Nicht nur die XPU selbst wird erweitert, sondern auch die Wegstrecke zur Implementierung in bestehende Rechenzentrums-„Fabriken“.
Für Unternehmen und HPC-Umgebungen ergibt sich daraus ein klareres Bild, wie speicherzentrierte Inferenz in der Praxis „plug-and-play“ werden könnte. Wenn Raptor im gleichen MGX-Rack- und Interconnect-Rahmen wie bereits breit ausgerollte NVIDIA-Komponenten betrieben werden kann, sinkt der Integrationsaufwand im Vergleich zu proprietären, isolierten Lösungen. Gleichzeitig bleibt der Wettbewerbsdruck hoch, weil schnelle Low-Latency-Inferenz inzwischen als Differenzierungsmerkmal für KI-Agenten gilt, die permanent auf Eingaben reagieren müssen. d-Matrix setzt dafür auf eine Arbeitsteilung zwischen GPU und XPU – und will mit Raptor den nächsten Takt bei Bandbreite und Packaging erreichen. Ob sich das in der Breite als Kostenvorteil bestätigt, hängt nun vor allem davon ab, wie stabil die Performance unter wechselnden Sequenzlängen, Modellgrößen und Servicelasten ausfällt und wie gut sich die Lieferkette bis 2027 in den laufenden Rack-Rollouts integrieren lässt.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "d-Matrix koppelt Raptor-XPU an NVIDIA Rackscale MGX für schnelle KI-Token" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "d-Matrix koppelt Raptor-XPU an NVIDIA Rackscale MGX für schnelle KI-Token" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »d-Matrix koppelt Raptor-XPU an NVIDIA Rackscale MGX für schnelle KI-Token« bei Google Deutschland suchen, bei Bing oder Google News!