LONDON (IT BOLTWISE) – Der KI-Inferenz-Markt soll laut einer Branchenprognose bis 2032 auf 1,3 Billionen US-Dollar anwachsen und damit das Training nach Marktdimension überholen. Drei Chip- und Systemansätze stehen dabei besonders im Rampenlicht: NVIDIA setzt auf LPUs als Inferenzbeschleuniger, Cerebras positioniert sich mit wafer-skaligen SRAM-Chips, und AMD kombiniert Chiplets mit gezielter Speicher- und Beschleuniger-Zukaufstrategie. Entscheidend wird, wie gut sich die jeweiligen Architekturen in reale Latenz- und Kostenprofile von Cloud-Workloads übersetzen lassen. Für Entscheider verschiebt sich damit der Blick: Nicht nur Training zählt, sondern vor allem die Antwortzeit im Betrieb.
Der anhaltende Druck, KI-Produkte schneller und kostengünstiger „in Betrieb“ zu bekommen, rückt vom Training zunehmend die Inferenz in den Mittelpunkt. Inferenz ist die Phase, in der ein bereits trainiertes KI-Modell echte Anfragen verarbeitet und Antworten generiert. Genau dort entstehen im Rechenzentrum die dauerhaft laufenden Lasten: Jede Nutzeranfrage triggert wiederkehrende Rechen- und Speicherzugriffe, die sich in messbare Latenz, Betriebskosten und Skalierbarkeit übersetzen. In einer Prognose wird der Inferenz-Teilmarkt bis 2032 auf 1,3 Billionen US-Dollar taxiert und damit als größerer Brocken beschrieben als der reine Trainingsmarkt. Vor diesem Hintergrund erklären sich auch die unterschiedlichen Wege, mit denen NVIDIA, AMD und Cerebras sich den Zugang zu dieser Wertschöpfung sichern wollen.
Technisch gesehen lohnt ein Blick auf die Arbeitsabschnitte einer Sprachmodell-Inferenz: In der „Pre-Fill“-Phase werden große Teile des Eingabetextes verarbeitet, bevor die eigentliche Generierung startet. Später folgt die „Decode“-Phase, in der pro generiertem Token erneut Rechenzyklen und Speicherzugriffe anfallen. NVIDIA adressiert diese Trennung über einen Systembaukasten, bei dem GPUs für das Einlesen und den Datenfluss eingesetzt werden und speziell dafür entwickelte LPUs („Language Processing Units“) die Antwortgenerierung beschleunigen. Der zentrale Baustein stammt dabei aus der Übernahme von Chip-Vermögenswerten eines auf LPUs spezialisierten Startups. Der Unterschied zu klassischen GPU-Mechanismen liegt unter anderem im eingebauten SRAM-Schnellspeicher, der besonders bei den wiederholten Zugriffsmustern in der Decode-Phase Vorteile bringen soll.
Während NVIDIA sein Design als Komplettsystem versteht, geht Cerebras deutlich weiter in Richtung Maximierung des lokalen Speichers. Das Unternehmen setzt auf sehr große Wafer-Chips, die laut Beschreibung fünf- bis sechsmal schneller arbeiten sollen als die betrachteten LPUs. Der Kern der Idee: SRAM ist nicht beliebig skalierbar in kleinen Chips, daher wird ein größerer physischer Formfaktor gewählt, um ausreichend schnellen Speicher direkt „am Ort des Rechenens“ zu halten. Die Kehrseite liegt in der Infrastruktur: Solche Chips brauchen spezielle Kühlung und Energieversorgung, wodurch sie typischerweise nicht als frei kombinierbare Einzelkomponenten, sondern als Teil der eigenen CS-3-Systeme ausgeliefert oder vermietet werden. Dass sich dennoch namhafte Cloud- und KI-Anbieter dort einkaufen, deutet darauf hin, dass der vermeintliche Geschwindigkeitsgewinn in vielen Use-Cases die Systemkosten überkompensieren kann – allerdings hängt das stark von Lastprofil und benötigter Betriebszeit ab.
AMD wiederum versucht, Inferenz über eine Kombination aus Chiplet-Architektur, Bandbreite und gezielten Ergänzungen aus dem Startup-Umfeld zu positionieren. Chiplets helfen dabei, mehr „High Bandwidth Memory“ in ein Gesamtsystem zu integrieren und so Latenz zu senken. Für das Inferenz-Feintuning wird zudem die Zusammenarbeit mit Cerebras genannt: AMDs Helios-Rack-Lösung soll die Pre-Fill-Phase übernehmen, während Cerebras’ Wafer-Scale-Engine die Decode-Phase effizienter ausführt. Diese Aufteilung zielt darauf, zwei sehr unterschiedliche Stärken zusammenzubringen: Bei AMD liegt der Fokus auf dem skalierbaren Systemdesign mit Speicherbandbreite, bei Cerebras auf dem maximalen lokalen Speicher-Ansatz. In der Praxis ist das ein Ansatz, der weniger nach „ein Chip ersetzt alles“ klingt, sondern eher nach Workload-orientierter Systemkomposition.
Dass AMD Inferenz nicht nur durch Kooperationen, sondern auch durch weitere Zukäufe flankiert, lässt sich ebenfalls an den beschriebenen Technologien festmachen. Mit MEXT wird eine Speicheroptimierung in den Fokus gerückt, die selten genutzte Daten vom teuren DRAM auf Flash verlagern soll. Entscheidend ist dabei die Vorhersage: Mithilfe vorausschauender KI-Modelle sollen Daten rechtzeitig zurückgeholt werden, bevor eine Anwendung sie anfordert. Das adressiert einen klassischen Engpass in Rechenzentren, nämlich die Kosten pro Terabyte schneller Speichernutzung. Taalas wiederum steht für Chips, auf denen KI-Modelle stärker „fest verdrahtet“ sind: weniger Flexibilität als bei universellen Prozessoren, dafür potenziell niedrigere Kosten und hohe Geschwindigkeit. Über ein geplantes Zusammenspiel wird beschrieben, dass AMD-GPUs die Pre-Fill-Phase übernehmen, während Taalas-Chips die Decode-Phase beschleunigen sollen.
Für Unternehmen und Cloud-Provider stellt sich damit eine deutlich praktischere Frage als „wer hat den schnellsten Chip“. Stattdessen geht es um die Kombination aus Performance, Kostenstruktur und Verfügbarkeit im Betrieb: Welche Architektur reduziert die Gesamtkosten pro Anfrage, ohne die Service-Qualität durch zu hohe Latenz oder zu knappe Ressourcen zu gefährden? Genau hier wird auch sichtbar, warum sich die Ansätze von NVIDIA, AMD und Cerebras trotz gleicher Zielrichtung unterscheiden. NVIDIA wirkt stärker als Systemarchitekt, der mehrere Komponenten zu einem nutzbaren Inferenzangebot bündelt; Cerebras optimiert sichtbar auf maximalen lokal verfügbaren Speicher, akzeptiert dafür aber höhere Systembindung; AMD versucht, die eigene Plattformfähigkeit über Chiplet-Designs zu stärken und durch Speicher- sowie Beschleuniger-Zukäufe gezielt Engpässe zu entschärfen.
Für die nächsten Quartale dürfte außerdem entscheidend sein, wie schnell sich die beschriebenen Geschwindigkeits- und Kostenversprechen in breite Praxis-Workloads übertragen lassen. In der Quelle wird selbst darauf hingewiesen, dass solche Vorteile bislang häufig eher aus Unternehmensangaben stammen als aus breit verifizierten Benchmark-Ergebnissen im heterogenen Produktionsbetrieb. Bei Cerebras kommt hinzu, dass ein relevanter Teil der bisherigen Umsätze an wenige Großkunden gekoppelt sein soll, was das Geschäftsprofil anfälliger für Nachfrageschwankungen einzelner Abnehmer machen kann. Unabhängig davon zeigt die Entwicklung aber einen klaren Trend: Inferenz ist nicht nur ein „Add-on“ zum Training, sondern wird zunehmend zum zentralen Architekturthema für Rechenzentren. Wer heute KI-Services plant, sollte deshalb die gesamte Inferenz-Pipeline inklusive Speicherbewegungen, Latenzpfade und Lieferfähigkeit als System betrachten – und nicht ausschließlich die Trainingsleistung als Kaufkriterium verwenden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Inferenz wächst stark: Warum NVIDIA, AMD und Cerebras jetzt im Fokus stehen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Inferenz wächst stark: Warum NVIDIA, AMD und Cerebras jetzt im Fokus stehen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Inferenz wächst stark: Warum NVIDIA, AMD und Cerebras jetzt im Fokus stehen« bei Google Deutschland suchen, bei Bing oder Google News!