TEL AVIV / LONDON (IT BOLTWISE) – Das israelische Startup Majestic Labs stellt mit dem Prometheus-Server eine KI-Serverarchitektur vor, die statt auf NVIDIA-GPUs auf Arm-basierte Ignite AI Processing Units setzt. Im Fokus steht eine deutlich stärker nach vorn gezogene Speicherhierarchie: bis zu 128 TB LPDDR6 in einem zusammenhängenden, kohärenten Pool, statt HBM direkt am GPU-Paket. Das Unternehmen argumentiert, dass der klassische Mix aus teuren Grafikprozessoren und Hochbandbreitenspeicher für Inferenz inzwischen an eine Speichergrenze stößt. Gleichzeitig bleiben Detailfragen offen, etwa wie viele Memory-Aggregation-Chiplets für eine maximale Konfiguration tatsächlich benötigt werden.
Majestic Labs, 2023 gegründet und nach eigenen Angaben von ehemaligen Google- und Meta-Ingenieuren getragen, versucht sich mit dem Prometheus-Server an einer radikalen Umstellung der KI-Infrastruktur: Weg von der dominierenden GPU/HBM-Kombination, hin zu einer Architektur, in der Speicherzugriff und Datenbewegung stärker im Mittelpunkt stehen. Das Unternehmen positioniert den Ansatz ausdrücklich gegen das heutige Skalierungsprinzip, bei dem Hochbandbreitenspeicher (HBM) eng mit den Recheneinheiten gekoppelt wird. Laut Majestic wird diese Kopplung bei KI-Inferenz zunehmend zur Engstelle – nicht weil die Rechenleistung fehlt, sondern weil das System für die tatsächliche Arbeitset-Greifbarkeit an Grenzen der Speicherbandbreite und -verfügbarkeit stößt.
Technisch setzt Prometheus auf Ignite AI Processing Units, die Arm-Kerne mit RISC-V-Vektor- und Tensor-Engines kombinieren. Jede Serverinstanz kann bis zu 12 AIUs beherbergen, die wiederum auf einen Pool aus LPDDR6-Speicher zugreifen, der zwischen 8 TB und 128 TB skaliert. Entscheidend ist dabei nicht nur die Kapazität, sondern die Art der Kopplung: Der Speicher soll über Memory-Aggregation-Chiplets in eine zusammenhängende, kohärente Struktur überführt und dann über Kupferverbindungen bis zu etwa einem Meter Länge bereitgestellt werden. Damit verlagert das Design den Schwerpunkt der Systemarchitektur weg von einer „Speicher direkt am GPU-Paket“-Idee hin zu einer separierten, zusammengeführten Speicherlage.
Für die Einordnung in den Markt lohnt der Blick auf die Vergleichsbasis, die Majestic selbst heranzieht. Als Referenz nennt das Unternehmen den DGX B300-Konfigurationen mit acht Blackwell-GPUs, kombiniert mit 2,3 TB HBM3e sowie bis zu 4 TB DDR5-Systemspeicher. Gegenüberstellt werden beim Prometheus laut Unternehmensangabe „über 50-mal“ mehr schnelle Speicherkapazität in Relation zur Rivalen-Implementierung und zudem eine um 1,7-fach höhere Interconnect-Bandbreite. Solche Kennzahlen sind im KI-Umfeld nicht automatisch gleichbedeutend mit besserer End-to-End-Latenz, weil sie von Workload, Batch-Größe, KV-Cache-Verhalten und dem konkreten Scheduling abhängen. Dennoch adressiert die Argumentationslinie eine reale Problemzone: Wenn Inferenzserver wachsen, verschiebt sich häufig der Flaschenhals von der reinen FLOP-Zahl zur Datenbewegung zwischen Modellkomponenten, Speicherebenen und bei Bedarf zu Kommunikationsstrukturen.
Auch das Gesamtenergieszenario ist Teil der Story. Ein Standard-40U-Rack soll vier Prometheus-Server aufnehmen, insgesamt 120 kW aufnehmen und per Cold-Plate-Liquid-Kühlung betrieben werden, statt mit klassischer Luftkühlung auszukommen. Im Vergleich dazu stellt Majestic die Strom- und Speichervorteile seines Designs heraus, bis hin zu einer ungewöhnlich konkreten Metapher: „One Majestic rack holds the fast memory capacity of 25 Nvidia NVL72 Vera Rubin racks at a fraction of the power“, heißt es in den eigenen Angaben. Solche Relationen sollen vor allem die Größenordnung verdeutlichen, aber sie ersetzen keine unabhängige Messung unter reproduzierbaren Bedingungen. Für potenzielle Enterprise-Käufer ist dabei besonders relevant, ob die erhöhte Speicherkapazität in der Praxis auch bei anspruchsvollen Inferenzpfaden mit transienten Lastspitzen schnell genug erreichbar bleibt.
Der angestrebte Weg in bestehende Softwarelandschaften ist relativ pragmatisch: Prometheus soll OCP-kompatibel sein und Frameworks wie PyTorch sowie vLLM unterstützen, außerdem wird OpenAI-Trition als Ziel genannt, damit existierende KI-Modelle ohne Modifikationen lauffähig bleiben. Genau hier wird jedoch häufig entschieden, ob ein neues Beschleuniger- und Speicherdesign im Alltag funktioniert: nicht nur durch einen „Runs“-Demo, sondern durch stabil reproduzierbare Performance über verschiedene Modellgrößen, Token-Längen und Nutzerprofile hinweg. Gleichzeitig bleibt ein wichtiger Teil der Architektur unklar, den das Unternehmen selbst nicht wegdiskutiert: wie viele Memory-Aggregation-Chiplets tatsächlich pro Server für eine 128-TB-Konfiguration nötig sind. Wenn man – als Rechenübung – von gängigen 2-GB-LPDDR6-Die-Größen ausgeht, würden sich in Summe grob 64.000 solcher Dies ergeben, was wiederum eine sehr hohe Zahl an Aggregations-Komponenten implizieren würde. Je höher dieser Anteil in der Stückliste und je komplexer die Topologie, desto mehr beeinflussen Packaging, Yield und das daraus entstehende System-Design die tatsächlichen Stückkosten sowie die Wartungs- und Skalierungsfähigkeit.
Majestic Labs nennt für den Prometheus-Server eine Auslieferung „nächstes Jahr“ und erwartet Preisvorteile von „10 bis 50“ gegenüber GPU-Systemen vergleichbarer Leistung, bei zugleich niedrigerem Energieverbrauch pro Rack. Außerdem berichtet das Unternehmen von bereits erhaltenen Aufträgen großer Enterprises, sogenannten Neoclouds und Hyperscalern; finanziert sei das Vorhaben über ein A-Round im späten Verlauf von 2025, bei dem 100 Millionen US-Dollar eingesammelt wurden. Für die Marktdynamik bedeutet das: Wenn der Speicherpool tatsächlich einen großen Teil der Inferenzarbeit effizient abbildet, könnte Prometheus ein Gegengewicht zu GPUs als „all-in-one“-Baustein liefern. Ob sich daraus eine echte Alternative entwickelt, hängt aber vom unabhängigen Benchmark-Ökosystem ab, das Käufer üblicherweise erst zur Hardware-Freigabe veranlassen kann. Bis dahin müssen sich Entscheider auf eine Mischung aus Validierungsarbeit, Proof-of-Workload und der Frage konzentrieren, wie gut sich die Speicheraggregation-Chiplets in realen, vielschichtigen Inferenzbetrieben verhalten.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Prometheus-Server ersetzt GPUs: Arm- und RISC-V-Ansatz gegen Nvidia-HBM-Design" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Prometheus-Server ersetzt GPUs: Arm- und RISC-V-Ansatz gegen Nvidia-HBM-Design" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Prometheus-Server ersetzt GPUs: Arm- und RISC-V-Ansatz gegen Nvidia-HBM-Design« bei Google Deutschland suchen, bei Bing oder Google News!