SILICON VALLEY / LONDON (IT BOLTWISE) – SambaNova hat eine Finanzierung über 1 Milliarde US-Dollar bei einer Bewertung von 11 Milliarden US-Dollar angekündigt und damit das Tempo im Inference-Markt erhöht. Im Zentrum steht der neue Inference-Beschleuniger SN50, der laut Anbieter deutliche Vorteile bei Durchsatz und Latenz gegenüber NVIDIAs B200 verspricht. Das Unternehmen liefert die Chips als 16-Chip-Appliance im SambaRack SN50 aus und adressiert damit insbesondere On-Premise-Setups. Zusätzlich kündigt ein großer Finanzdienstleister die Integration in seine eigene Inferenz-Infrastruktur an.
SambaNova treibt die Spezialisierung im Inference-Stack weiter voran: Das Startup hat 1 Milliarde US-Dollar eingesammelt und bezieht den Schritt auf eine Bewertung von 11 Milliarden US-Dollar. General Atlantic führt die Series F an, begleitet von mehr als einem Dutzend weiteren Investoren; dabei werden unter anderem Intel Capital, Vista Equity Partners sowie JPMorgan als Beteiligte genannt. Die Meldung wirkt wie ein Wecksignal für ein Marktsegment, das lange hinter dem Hype um KI-Trainingsbeschleuniger zurückstand. Denn während Training oft durch GPU-Pools dominiert wird, entscheidet bei der Inferenz zunehmend der Systemdurchsatz inklusive Speicherzugriffen.
Technisch nimmt SambaNova dafür einen Ansatz ins Visier, der weniger auf rohe Rechenleistung setzt, sondern auf den Engpass „Daten bewegen“ abzielt. In den meisten Chat- und Generierungsworkflows wird ein Prompt iterativ verarbeitet: Neuronale Komponenten erzeugen zunächst eine vorläufige Antwort, speichern Zwischenergebnisse und rufen sie in der nächsten Iteration wieder ab. Genau diese Hin- und Rücktransfers zwischen Rechenlogik und Speicher dominieren laut Branchenrealität die Laufzeit. SambaNova argumentiert, dass die SN50-Architektur den On-Chip-Traffic beschleunigt und dadurch die Inferenzzeiten reduziert. Der Hersteller nennt außerdem Leistungsgewinne, die mit dem SN50 den Anspruch untermauern sollen, deutlich mehr Durchsatz als NVIDIAs B200 zu liefern.
Im Kern besteht der SN50 aus vielen kleinen Bausteinen, sogenannten Tiles. Jedes Tile kombiniert Rechenschaltungen mit Hochgeschwindigkeits-SRAM, und die räumliche Nähe zwischen Speicher und Verarbeitung soll die Latenz senken, die beim Datenverkehr über Distanzen entsteht. Wenn ein Tile die ihm zugewiesenen Berechnungen abgeschlossen hat, übergibt es die Ergebnisse an das nächste Tile für die weitere Verarbeitung. Das ist im Prinzip ein Ansatz, der auch aus klassischen „near data“-Überlegungen bekannt ist, jedoch im Kontext moderner KI-Inferenzsysteme konsequent in Hardware übersetzt wird. Entscheidend ist dabei, dass die Partitionierung der Arbeit auf Tiles die Taktung und das Datenlayout für wiederkehrende Prompt-Iterationen begünstigen kann.
Für den Speicher-Mix setzt SambaNova ebenfalls auf mehrere Ebenen: Neben SRAM beschreibt das Unternehmen einen HBM-Bereich, der Active-Model-Weights und den sogenannten KV-Cache aufnehmen kann. Diese Komponenten sind für die Mehrschritt-Berechnung bei Sprachmodellen zentral, weil sie die Kontextinformationen für nachfolgende Tokens bereitstellen. Zusätzlich gibt es ein DRAM-Modul, mit dem mehrere inaktive neuronale Netzwerke abgelegt werden können. Wenn eine Anwendung das gerade aktive Modell wechseln muss, kann die Hardware den Transfer von DRAM nach HBM in nur wenigen Millisekunden anstoßen. Technisch betrachtet adressiert das vor allem Szenarien mit wechselnden Workloads, in denen „Modell-Sharing“ im Rechenzentrum oder bei unterschiedlichen Kunden den TCO beeinflusst.
Die SN50-Chips werden nicht als isolierte Siliziumkomponente vermarktet, sondern als Teil eines 16-Chip-Systems namens SambaRack SN50. Laut Angaben liegt der Leistungsbedarf bei rund 20 Watt für das System, was im Vergleich zu vielen Hochleistungs-GPU-Servern eine vergleichsweise geringe Abwärme bedeutet. Dadurch kann das Rack mit Standard-Luftkühlung betrieben werden, statt auf komplexe Flüssigkühlung angewiesen zu sein. Das ist ein wichtiger Punkt für Enterprise-IT-Abteilungen: Rechenzentren investieren nicht nur in Chips, sondern auch in Stromverteilung, Kühlinfrastruktur und Betriebskosten. Im Wettbewerb mit GPU-lastigen Systemen verschiebt sich damit die Diskussion weg von „Wie viel TFLOPS?“ hin zu „Wie effizient laufen echte Inferenz-Workloads bei begrenztem Energie- und Kühlbudget?“
Auch der Go-to-Market-Aspekt unterstreicht, dass SambaNova den Markt nicht nur als Forschungsplattform betrachtet. JPMorgan wird in der Meldung als konkretes Einsatzbeispiel genannt: Das Institut plant die Adoption des SN50 und will zusätzlich den Vorgängerchip SN40 im On-Premise-Umfeld nutzen. Die Integrationsidee folgt dem pragmatischen Muster vieler Banken und Versicherer, die KI-Inferenz möglichst nahe an den eigenen Daten und Sicherheitsgrenzen betreiben. Eine solche Entscheidung hängt oft an regulatorischen und datenschutzrechtlichen Anforderungen, also etwa daran, wie personenbezogene oder geschäftskritische Daten verarbeitet, gespeichert und geloggt werden. In der Praxis steigt damit die Bedeutung von Auditierbarkeit, Rollen- und Zugriffskontrollen sowie nachvollziehbarer Datenflusstransparenz im Deployment-Prozess.
Für den Wettbewerb ist der Timing-Faktor relevant: SambaNova verweist darauf, dass der SN50 im Zuge der vorherigen Kapitalrunde vorgestellt wurde, inklusive Produkt- und Systemlinie. Gegenüber NVIDIAs B200 zeigt sich die typische Gegenüberstellung in der Inferenzwelt: GPU-basierte Systeme profitieren von Ökosystem, Tooling und breiter Softwarekompatibilität, während spezialisierte Inference-Chips eher über Speicherhierarchie, Datenbewegung und effiziente Kernel-Taktung ihre Vorteile ausspielen. Marktanalysen und Branchenbeobachter ordnen solche Schritte meist als „Performance pro Watt“ und „Kosten pro Anfrage“ ein, nicht als reine Benchmarks. Entscheidend wird sein, wie gut die Software-Schnittstellen in produktiven Umgebungen funktionieren, inklusive Modell-Loading, Batch-Strategien und Monitoring für Latenzspitzen.
Die nächsten Monate dürften damit weniger von einzelnen Durchsatzzahlen bestimmt werden, sondern von der Frage, wie schnell sich SambaNova in reale Software-Pipelines integrieren lässt. Das Unternehmen kündigt an, die Mittel in die Weiterentwicklung der Chip-Linie, das Rack-Design und Software zu investieren. Gleichzeitig soll die Markterschließung beschleunigt werden. Für Entwickler und Betriebsteams im Enterprise-Kontext bedeutet das: Es wird wichtiger, Inferenz-Workloads so zu modellieren, dass KV-Cache-Management, Modellwechsel und Speicherstrategie planbar werden. Wenn SambaNovas HBM- und DRAM-Mechanik in der Praxis stabil skaliert, könnte sich der Schwerpunkt von GPU-„Overprovisioning“ hin zu dedizierten Inference-Clustern verlagern. Gleichzeitig bleibt die regulatorische Seite bestehen: Je näher Inferenz an kritischen Daten ist, desto höher ist der Bedarf an sicheren Deployments, klaren Aufbewahrungs- und Zugriffsregeln sowie kontinuierlicher Sicherheitsüberwachung.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "SambaNova erhält 1 Milliarde US-Dollar und rückt mit SN50 ins Inference-Rennen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "SambaNova erhält 1 Milliarde US-Dollar und rückt mit SN50 ins Inference-Rennen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »SambaNova erhält 1 Milliarde US-Dollar und rückt mit SN50 ins Inference-Rennen« bei Google Deutschland suchen, bei Bing oder Google News!