LONDON (IT BOLTWISE) – SK hynix und SanDisk stellen mit High Bandwidth Flash (HBF) einen neuen Flash-Standard vor, der sich zwischen HBM und Enterprise-SSDs verorten will. Das Ziel ist, die Performance-Lücke zu verringern, die beim Zugriff auf große KI-Modelle häufig zwischen extrem schnellem Speicher und Massenspeicher entsteht. HBF adressiert dabei nicht den Austausch von HBM, sondern ergänzt dessen Kapazitätsgrenzen. Zudem soll die Einbindung über UCIe-ähnliche Interconnects die Kopplung mit CPUs und GPUs vereinfachen.
KI-Inferenz steht in der Praxis oft weniger an der Rechenleistung als am Datentransport: Während HBM-Grafikspeicher Datenzugriffe extrem schnell verarbeitet, stoßen SSDs und herkömmliche Storage-Architekturen bei sehr datenintensiven Workloads an Grenzen. Genau diese Lücke wollen SK hynix und SanDisk mit einem neuen Standard namens High Bandwidth Flash (HBF) schließen. Der Ansatz ist bewusst nicht als Ersatz gedacht, sondern als ergänzende Speicherebene, die schnelle Inferenzpfade unterstützen soll, wenn die Modellgröße die Kapazitätsgrenzen von HBM sprengt.
Technisch knüpft HBF an ein bekanntes Packaging-Prinzip an, das sowohl aus der Speicher- als auch aus der NAND-Welt stammt: Mehrere Speicher-Dies werden gestapelt. Der Unterschied liegt im Material: Statt DRAM-ähnlicher Mechanismen nutzt HBF NAND-Flash, um die Speicherdichte zu erhöhen. So entsteht ein Speichersegment, das die Geschwindigkeit einer Zwischenstufe erreichen soll, ohne die Kostenstruktur und Kapazitätslogik eines klassischen Enterprise-SSD-Systems vollständig zu übernehmen. In der Spezifikation, wie sie von den beiden Unternehmen beschrieben wird, sind bis zu 512GB pro Konfiguration möglich – realisiert durch das Stapeln von NAND-Dies in acht oder 16 Schichten.
Für die erwartete Wirkung auf die KI-Inferenz nennen SK hynix und SanDisk Bandbreitenwerte von 0,4TB/s bis zu 3TB/s. Damit adressiert HBF genau den Engpass, der entsteht, wenn Modelle zu groß werden, um dauerhaft im schnellsten Speicher gehalten zu werden. Als Rechenbeispiel wird ein KI-Modell mit 500 Milliarden Parametern herangezogen: Geht man davon aus, dass ein Gigabyte eine Milliarde Parameter tragen kann, ergibt sich ein Modellumfang von etwa 500GB. Für solche Größenordnungen ist es laut dem beschriebenen Use-Case nicht wirtschaftlich, das gesamte Modell in HBM vorzuhalten; HBF soll stattdessen die zusätzlichen Daten aufnehmen und die GPU-Compute-Phase so entlasten, dass mehr Offloading möglich bleibt.
Wichtig ist dabei die Systemintegration: HBF soll laut den Angaben auch die UCIe (Universal Chiplet Interconnect Express) unterstützen. UCIe ist als Interconnect-Standard darauf ausgelegt, Chiplets bzw. Speicherbausteine flexibel mit Prozessoren und Beschleunigern zu koppeln. Über diese Kompatibilität entsteht weniger Integrationsaufwand als bei vollständig proprietären Speicher-Subsystemen, weil die Kopplung an unterschiedliche CPU- und GPU-Ökosysteme leichter werden soll. Für Unternehmen ist das vor allem dann relevant, wenn sie Inferenzserver nicht bei jedem Generationwechsel neu designen wollen, sondern Speicher- und Beschleuniger-Subsysteme modularer nachrüsten möchten.
SK hynix und SanDisk versuchen, aus dem Standard eine Ökosystemfähigkeit zu machen: Mehrere Unternehmen sollen kompatible Produkte entwickeln können, wodurch die Wahrscheinlichkeit steigt, dass HBF nicht nur in einzelnen Referenzsystemen, sondern in breiteren Produktlinien landet. In diesem Kontext wird auch die Aussage von Kim Chun-sung, dem Leiter Solution Development bei SK hynix, eingebettet: Er beschreibt das Ziel, die Grenzen zwischen Speicher und Storage zu erweitern und Architekturansätze zu fördern, die die Effizienz des Gesamtsystems verbessern sollen. Für die Praxis bedeutet das: Statt die Inferenzpipeline in zwei Welten zu zerteilen – „Compute in der GPU, Daten in der SSD“ – soll eine koordiniertere Speicherhierarchie entstehen.
Der Wettbewerb um schnell zugreifbaren Speicher für KI-Inferenz ist bereits in Bewegung. Als Vergleich wird genannt, dass Samsung im Bereich sehr schnell zugreifender CMX-Lösungen mit Blick auf NVIDIA-Systemnähe arbeitet und diese auch in Volumen fertigt. Samsung adressiert dabei ebenfalls ultra-schnelle Anforderungen für KI-Server, etwa damit Daten schnell bereitstehen, sodass GPU-Offloading besser funktioniert. Mit HBF setzt SK hynix und SanDisk damit auf einen standardisierten Zwischenschritt zwischen HBM und Enterprise-SSD, während andere Anbieter ihre Roadmaps eher über konkrete Plattform-Implementierungen vorantreiben. Welche Variante sich beim Rollout durchsetzt, dürfte stark davon abhängen, wie schnell Kunden-Designs auf den Standard umgestellt werden können und ob die Bandbreite im realen Betrieb die versprochenen Vorteile auch unter Lastspitzen liefert.
Der Zeitfaktor bleibt damit der entscheidende Hebel. Wenn HBF in den kommenden Monaten an Fahrt gewinnt, entscheidet sich dort, ob sich der Standard in neuen Servergenerationen als zusätzliche Speicherschicht etabliert oder zunächst vor allem in Nischen-Workloads wirkt. Für Betreiber von KI-Inferenzsystemen wäre die attraktivste Wirkung eine planbare Speicherhierarchie: HBM bleibt für die unmittelbar benötigten Rechenoperationen zuständig, während HBF die Kapazität für größere Modellteile bereitstellt. Genau hier liegt der Kern der Entkopplung von Modellgröße und HBM-Kosten – vorausgesetzt, das Zusammenspiel aus Packaging, Interconnect und Software-Tuning funktioniert konsistent über verschiedene Plattformen hinweg.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "SK hynix und SanDisk bringen High Bandwidth Flash (HBF) für KI-Inferenz" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "SK hynix und SanDisk bringen High Bandwidth Flash (HBF) für KI-Inferenz" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »SK hynix und SanDisk bringen High Bandwidth Flash (HBF) für KI-Inferenz« bei Google Deutschland suchen, bei Bing oder Google News!