NEW YORK / LONDON (IT BOLTWISE) – Infinity, ein Startup im Bereich KI-Infrastruktur, hat 15 Millionen US-Dollar eingesammelt und adressiert damit eines der größten Engpässe bei KI-Deployment: das Übersetzen von Modellen auf unterschiedliche Chips. Die Firma baut eine Inferenz-Software, die Low-Level-Code wie Kernel automatisiert schreibt, testet und optimiert. Damit soll KI schneller und kostengünstiger auf Hardware laufen, ohne dass Teams jedes Zielsystem manuell neu anpassen. Im Fokus steht dabei ein Ansatz, der wie eine „CUDA-Ersatzschicht“ funktionieren soll, aber plattformübergreifend.
Infinity hat am Montag eine Finanzierungsrunde über 15 Millionen US-Dollar bekanntgegeben – bewertet mit rund 100 Millionen US-Dollar. An Bord sind unter anderem Touring Capital sowie Principal VC; außerdem wird berichtet, dass Forschende aus dem Umfeld von OpenAI und Anthropic beteiligt sind. Für Unternehmen, die KI-Modelle produktiv betreiben, ist das Timing bemerkenswert: Seit Jahren dominiert NVIDIAs Software-Ökosystem den Weg vom Modell-Notebook zur effizienten Inferenz in der Produktion. Infinity setzt dagegen nicht zuerst bei neuen Modellarchitekturen an, sondern bei der Schicht darunter: bei der Frage, wie sich KI-Workloads für viele Hardwaretypen wiederholbar „schnell genug“ ausführen lassen.
Technisch betrachtet rückt Infinity genau den Teil ins Zentrum, den die meisten Teams beim Wechsel der Hardware am stärksten spüren: die Low-Level-Implementation. NVIDIA wurde nicht nur durch seine leistungsfähigen Chips zur Standardwahl, sondern durch CUDA – eine Softwareplattform, die GPUs von Grafik-Workloads in Richtung General-Purpose-Rechnen übersetzt. Die großen Frameworks wie PyTorch und TensorFlow bauen dabei auf CUDA-Fähigkeiten auf. Das erleichtert die Entwicklung, macht aber Portierungen auf nicht-nvidia-kompatible Chips teuer, weil Entwickler eigene Kernel schreiben oder zumindest tief in Optimierungsdetails eingreifen müssen. Infinity will deshalb eine „universelle“ Inferenzbibliothek schaffen, die Kernel-ähnlichen Code automatisch erzeugt und für verschiedene Architekturen anpasst.
Hier kommt ein Vergleich mit dem etablierten Wettbewerb ins Spiel: Neben NVIDIA arbeiten Chip-Anbieter an spezialisierten Beschleunigern, etwa im Umfeld von Googles TPU-Ansätzen oder an systolischen Arrays, die für Tensor-Operationen optimiert sind. Solche Plattformen können sehr effizient sein, aber die Produktivitätskosten steigen, wenn Teams nicht vorhandene Optimierungen nachbauen müssen. Infinity beschreibt seine Vision als CUDA-Level-Stack, allerdings ohne an einen einzelnen Chiphersteller gebunden zu sein. Statt für jede Zielplattform manuell zu optimieren, soll ein KI-Forschungsagent namens Ignition den Low-Level-Code für Inferenz automatisch schreiben, testen und bei Bedarf umschreiben. Dabei wird die Performance nicht nur grob geschätzt, sondern über Messungen des Hardware-Realismus verifiziert.
Als Marktstrategie folgt Infinity damit einer breiteren Welle von Startups, die das Software-Ökosystem entlang einzelner Engpässe angreifen – nicht nur an der Chip-Performance, sondern an der Toolchain. Besonders deutlich wird das am Pricing-Mechanismus: Statt einer Vorab-Lizenz verlangt Infinity laut Angaben keinen festen Betrag, sondern beteiligt sich am wirtschaftlichen Effekt. Gemessen wird das über Performancegewinne und Kostensenkungen, konkret anhand von Tokens pro Sekunde. Für Entscheider in KI-Teams ist das attraktiv, weil der Nutzen direkt in Metriken übergeht, die später auch in SLA-Planungen oder Cloud-Kostenmodellen landen. Gleichzeitig signalisiert die Abrechnung nach Effekt, dass das Startup stark in Benchmarking- und Messlogik investiert.
Der operative Kern ist eine selbstoptimierende Feedback-Schleife. Ignition soll nicht nur Code generieren, sondern kontinuierlich lernen, wie sich die Zielhardware tatsächlich verhält – bis hin zur Anpassung an unterschiedliche Chiparchitekturen, auch wenn deren Designs proprietär sind. In einer Fallstudie heißt es, dass der Agent deutlich schneller arbeiten soll als ein rein menschliches Vorgehen: Prozesse, die sonst Monate oder sogar Jahre dauern könnten, sollen in Stunden oder Tagen erreichbar sein. Wichtig ist dabei die Implikation für Unternehmen: Der Engpass „richtige Kernel/Optimierungen finden“ wird zu einem automatisierbaren Prozess. Das verschiebt Ressourcen von Low-Level-Engineering hin zu Modell- und Produktentwicklung – und kann die Time-to-Inference verkürzen.
Auch das Funding-Umfeld passt zur These, dass Software-Schichten zunehmend zum Wettbewerbsvorteil werden. Bei den genannten Kunden taucht D-Matrix als Chiphersteller auf, also als direkter Herausforderer im Markt, in dem NVIDIA historisch stark war. Infinity befindet sich laut Angaben zudem im Gespräch mit weiteren großen Akteuren aus Chip- und Cloud-Ökosystemen. Aus Marktsicht ist das entscheidend, weil Portierungs- und Validierungsaufwände oft nur dann wirtschaftlich sind, wenn mehrere Deployments parallel unterstützt werden. Branchenanalysten würden hier typischerweise auf den gleichen Hebel schauen: Wenn ein universelles Inferenz-Framework die Kosten für Hardware-Migration senkt, steigt die Wahrscheinlichkeit, dass Cloud- und Enterprise-Anbieter mehr Diversität in der Beschleunigerlandschaft zulassen.
Für die Unternehmenspraxis bleibt jedoch eine zentrale Frage: Wie gut lässt sich die „CUDA-Level“-Behauptung gegen reale Produktionsanforderungen absichern? Inference ist nicht nur eine Frage von Rohdurchsatz; auch Latenz, Batch-Größen, Speicherlayout und Stabilität bei unterschiedlichen Modellvarianten sind entscheidend. Infinity adressiert das laut Beschreibung über einen Agenten, der misst, testet, debuggt und Code automatisiert nachoptimiert. Ein weiterer Punkt ist die „Human-in-the-loop“-Komponente: Menschen geben laut Angaben die High-Level-Richtung vor, während der Agent die „tedious grunt work“ erledigt. Das kann helfen, Sicherheits- und Qualitätsgateways zu etablieren, ohne jede Änderung vollständig autonom in die Produktion zu entlassen.
Regulatorisch und sicherheitstechnisch verschiebt sich mit solchen Systemen ebenfalls das Risikoprofil. Wenn ein Agent Low-Level-Code erzeugt, müssen Unternehmen stärker prüfen, welche Artefakte entstehen und wie reproduzierbar sie sind. Das betrifft vor allem Nachvollziehbarkeit (Auditierbarkeit), Zugriffskontrollen und die Frage, ob Optimierungsläufe sensible Betriebsdaten oder Modellkonfigurationen in Trainings-/Evaluationsschleifen zurückführen. Für datenschutzbewusste Organisationen ist außerdem relevant, ob Messdaten und Log-Ausgaben pseudonymisiert und innerhalb definierter Grenzen verarbeitet werden. Unter dem Strich könnte der Ansatz dennoch helfen, weil standardisierte Inferenzpfade die Zahl individueller Bastellösungen reduzieren und damit Fehlerquellen in heterogenen Deployments senken.
In die Zukunft gedacht ist das wahrscheinlich die nächste Phase der KI-Infrastruktur: weg von „ein Chip, ein Optimierungsprojekt“ hin zu wiederverwendbaren Abstraktionen. Wenn Infinity seine universelle Inferenzbibliothek weiter ausbaut und die Performance-Optimierung über Hardwareklassen hinweg konsistent gelingt, könnten Entwickler schneller zwischen GPU-, ASIC- und Edge-nahen Beschleunigern wechseln. Der entscheidende Wettbewerb wird dann weniger im Chipdesign liegen, sondern in der Toolchain-Reife: Testsuite, Kompatibilität, Debugging-Strategien und die Skalierung des Lern- und Optimierungsprozesses. Für D-Matrix und ähnliche Herausforderer wäre das ein schnellerer Weg zum Markteintritt – für Unternehmen ein potenzieller Hebel, Kosten und Lock-in zu reduzieren.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Infinity sammelt 15 Millionen US-Dollar ein: CUDA-Alternative für universelles KI-Inferenz-Software-Stack" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Infinity sammelt 15 Millionen US-Dollar ein: CUDA-Alternative für universelles KI-Inferenz-Software-Stack" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Infinity sammelt 15 Millionen US-Dollar ein: CUDA-Alternative für universelles KI-Inferenz-Software-Stack« bei Google Deutschland suchen, bei Bing oder Google News!