Meta und Cerebras: Neue Maßstäbe in der KI-Inferenz

MENLO PARK / MÜNCHEN (IT BOLTWISE) – Meta hat in Zusammenarbeit mit Cerebras Systems eine neue Ära der KI-Inferenz eingeleitet. Die Einführung der Llama API verspricht eine bis zu 18-fache Geschwindigkeitssteigerung im Vergleich zu herkömmlichen GPU-basierten Lösungen und markiert Metas Eintritt in den kommerziellen KI-Infrastrukturmarkt.

Meta hat kürzlich eine bedeutende Partnerschaft mit Cerebras Systems bekannt gegeben, um seine neue Llama API zu betreiben. Diese Kooperation ermöglicht es Entwicklern, Inferenzgeschwindigkeiten zu erreichen, die bis zu 18-mal schneller sind als herkömmliche GPU-basierte Lösungen. Die Ankündigung erfolgte auf der ersten LlamaCon Entwicklerkonferenz in Menlo Park und positioniert Meta als ernstzunehmenden Konkurrenten zu OpenAI, Anthropic und Google im wachsenden Markt für KI-Inferenzdienste.

Durch die Nutzung der spezialisierten KI-Chips von Cerebras kann die Llama API über 2.600 Tokens pro Sekunde verarbeiten, was einen erheblichen Vorteil gegenüber den etwa 130 Tokens pro Sekunde von ChatGPT darstellt. Diese Geschwindigkeit eröffnet neue Möglichkeiten für Anwendungen, die bisher aufgrund von Latenzproblemen nicht praktikabel waren, wie Echtzeit-Agenten und interaktive Code-Generierung.

Die Partnerschaft mit Cerebras markiert Metas formellen Einstieg in den Verkauf von KI-Rechenleistung. Während die Llama-Modelle von Meta bereits über eine Milliarde Downloads verzeichnet haben, bietet das Unternehmen nun erstmals eine eigene Cloud-Infrastruktur an, um Entwicklern den Aufbau von Anwendungen zu erleichtern.

James Wang von Cerebras betonte, dass die Geschwindigkeit der Llama API neue Kategorien von Anwendungen ermöglicht, die zuvor undenkbar waren. Dies umfasst unter anderem Echtzeit-Agenten und sofortige mehrstufige Schlussfolgerungen, die nun in Sekunden statt Minuten abgeschlossen werden können.

Meta plant, mit der Llama API nicht nur eine neue Einnahmequelle zu erschließen, sondern auch seine Investitionen in offene Modelle zu monetarisieren. Entwicklern wird die Möglichkeit geboten, ihre Modelle zu verfeinern und zu evaluieren, wobei Meta versichert, keine Kundendaten für das Training eigener Modelle zu verwenden.

Die Infrastruktur für diesen Dienst wird von Cerebras über ein Netzwerk von Rechenzentren in Nordamerika bereitgestellt. Diese strategische Partnerschaft folgt dem klassischen Modell eines Compute-Anbieters für einen Hyperscaler, ähnlich wie NVIDIA Hardware an große Cloud-Anbieter liefert.

Zusätzlich zur Partnerschaft mit Cerebras hat Meta auch eine Zusammenarbeit mit Groq angekündigt, um Entwicklern weitere schnelle Inferenzoptionen zu bieten. Diese strategischen Schritte könnten die bestehende Marktordnung, die von OpenAI, Google und Anthropic dominiert wird, erheblich stören.

Für Cerebras stellt die Partnerschaft mit Meta einen wichtigen Meilenstein dar und bestätigt den Ansatz, spezialisierte KI-Hardware zu entwickeln. Die Llama API ist derzeit in einer begrenzten Vorschau verfügbar, und Meta plant eine breitere Einführung in den kommenden Wochen.

Die Wahl von Meta für spezialisierte Siliziumlösungen signalisiert eine tiefgreifende Veränderung: In der nächsten Phase der KI geht es nicht nur darum, was Modelle wissen, sondern wie schnell sie denken können. Geschwindigkeit ist nicht nur ein Merkmal, sondern der zentrale Punkt.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!