DeepSeek stellt kompaktes KI-Modell vor: Effiziente Leistung auf einer einzigen GPU

PEKING / LONDON (IT BOLTWISE) – DeepSeek hat kürzlich ein neues, kompaktes KI-Modell vorgestellt, das auf einer einzigen GPU betrieben werden kann und dennoch beeindruckende Leistungen zeigt.

DeepSeek, ein führendes chinesisches KI-Labor, hat mit seinem neuesten Modell DeepSeek-R1-0528-Qwen3-8B die Aufmerksamkeit der KI-Community auf sich gezogen. Dieses Modell, eine kleinere, sogenannte ‘distillierte’ Version des neuen R1, basiert auf dem Qwen3-8B-Modell, das Alibaba im Mai eingeführt hat. Trotz seiner reduzierten Größe übertrifft es vergleichbare Modelle in bestimmten Benchmarks, insbesondere bei anspruchsvollen mathematischen Aufgaben.

Das DeepSeek-R1-0528-Qwen3-8B-Modell zeigt eine überlegene Leistung gegenüber Googles Gemini 2.5 Flash auf dem AIME 2025, einer Sammlung herausfordernder mathematischer Fragen. Zudem erreicht es fast die Leistungsfähigkeit von Microsofts kürzlich veröffentlichtem Phi 4 Reasoning Plus Modell bei einem weiteren Test der mathematischen Fähigkeiten, dem HMMT.

Distillierte Modelle wie das DeepSeek-R1-0528-Qwen3-8B sind in der Regel weniger leistungsfähig als ihre vollwertigen Gegenstücke. Der Vorteil liegt jedoch in ihrem geringeren Bedarf an Rechenressourcen. Laut der Cloud-Plattform NodeShift benötigt das Qwen3-8B-Modell eine GPU mit 40GB-80GB RAM, wie etwa eine NVIDIA H100. Im Vergleich dazu erfordert das vollwertige R1-Modell etwa ein Dutzend 80GB-GPUs.

DeepSeek hat das DeepSeek-R1-0528-Qwen3-8B trainiert, indem es Texte, die vom aktualisierten R1 generiert wurden, zur Feinabstimmung des Qwen3-8B-Modells verwendet hat. Auf einer speziellen Webseite für das Modell auf der KI-Entwicklungsplattform Hugging Face beschreibt DeepSeek das Modell als geeignet sowohl für die akademische Forschung an Reasoning-Modellen als auch für die industrielle Entwicklung, die sich auf kleine Modelle konzentriert.

Das Modell ist unter einer permissiven MIT-Lizenz verfügbar, was bedeutet, dass es kommerziell ohne Einschränkungen genutzt werden kann. Mehrere Anbieter, darunter LM Studio, bieten das Modell bereits über eine API an.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

75,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!