LONDON (IT BOLTWISE) – Ein Reddit-Nutzer hat ein altes, im Garagefund steckendes Crypto-Mining-Rig für umgerechnet rund 35 US-Dollar gekauft und beim ersten Test alle neun NVIDIA P106-100 aktiviert. Mit den insgesamt 54 GB VRAM ließ sich lokal ein 35B-Parameter-MoE-Modell in Ollama starten und erreichte dabei über 30 Tokens pro Sekunde. Entscheidend war dabei offenbar, dass das Modell als Mixture-of-Experts nur einen Teil der Parameter pro Token aktiv nutzt. Gleichzeitig bleiben Grenzen durch die schwache System-CPU, langsame PCIe-Anbindung und Stromkosten trotz niedrigerem Preisgefüge.
Es gibt diese Momente im Hardware-Alltag, in denen sich ein zufälliger Gebrauchtfund erstaunlich direkt in praktischen KI-Output übersetzt. In einem lange diskutierten Reddit-Beitrag beschreibt ein Nutzer, wie er ein über Jahre gelagertes Mining-Rig aus einer „dampfen Garage“ für umgerechnet etwa 3.000 Rubel (knapp 35 US-Dollar) erwarb. Der Verkäufer hatte vor dem Kauf keinen Funktionstest erlaubt; der Käufer wusste zwar, was er bekam, aber eben nicht, ob die Karten nach dem Lagerzustand zuverlässig laufen. Umso bemerkenswerter ist das Ergebnis: Beim ersten Start funktionierten alle neun NVIDIA P106-100-GPUs, die zusammen auf 54 GB GDDR5-VRAM kommen.
Technisch gesehen ist das Rig kein „modernes“ KI-Setup, sondern eher eine Zusammenschaltung aus Pascal-Generation-Karten, die ursprünglich für Mining und Compute-lastige Aufgaben gebaut wurden. Jede P106-100 bringt 6 GB GDDR5 und damit zusammen das VRAM-Budget, das für viele Open-Source-Modelle entscheidend ist. Der Käufer führt für den Test ein KI-Modell aus der Qwen-Familie aus (Qwen3.6-35B-A3B) in Ollama aus und nennt dabei mehr als 30 Tokens pro Sekunde. Damit nutzt er einen Ansatz, der bei knappen Rechenressourcen oft besser skaliert als ein „dichtes“ Modell: Mixture of Experts aktiviert pro Token nur einen Teil der Parameter. Genau diese Eigenschaft erklärt, warum ein System mit deutlich eingeschränkten Bandbreiten und einem eher bescheidenen Host-Setup überhaupt in die Nähe einer spürbaren Inferenzgeschwindigkeit kommt.
Auch die Hardwaredetails stützen die Beobachtung, dass Geschwindigkeit und Machbarkeit hier aus dem Zusammenspiel entstehen – nicht aus roher „CUDA-Performance“ allein. Der Beitrag ordnet die P106-100 als praktisch „wie eine GTX 1060 6 GB“ ein, nennt als Referenz die Spezifikation von Gigabyte für die P106-100 mit 8.008 MHz Speichertakt und 192-Bit-Busbreite pro Karte (entsprechend rund 192 GB/s Speicherbandbreite je GPU). Für viele Workloads ist das wichtig, weil pro Token Bild- und Text-Kontextdaten über die VRAM-Hierarchie bewegt werden müssen; zudem limitiert die Plattform: Erwartbar sei vor allem die PCIe 2.0 x1-Anbindung der Slots auf dem Mainboard, die den Datenaustausch zwischen CPU, RAM und GPU spürbar bremsen kann. Flankierend kommt hinzu, dass die zentrale CPU als Celeron beschrieben wird und das System nur sehr wenig System-RAM besitzt. Der Beitrag stellt die Leistung daher nicht als „voll ausgereizt“ dar, sondern als Ergebnis einer gut gewählten Modellklasse und passender Laufzeit-Strategien.
Bemerkenswert ist neben dem technischen „Ob“ vor allem das „Wieviel für wie wenig“. Der Käufer rechnet den Deal auf Basis des VRAM auf etwa 65 Cent pro GB VRAM um. Als Vergleich wird eine deutlich teurere Consumer-High-End-GPU genannt, die 32 GB VRAM bei hoher Speicherbandbreite hat und zu Beginn des Jahres 2025 für 1.999 US-Dollar an den Markt ging. Im Kern bleibt die Rechnung deshalb: Das Rig liefert rund 1,7-mal so viel VRAM, kostet aber weniger als 2% davon – dafür handelt man sich pro Karte ungefähr ein Neuntel der Bandbreite der Vergleichshardware ein. Für viele ambitionierte Hobby-Setups ist das trotzdem attraktiv, weil VRAM bei selbst gehosteten Modellen häufig der Engpass ist. Der Beitrag stellt dazu klar, dass bei diesem Setup nicht jede Modellgröße realistisch ist: Größere, dichte Modelle lassen sich wegen der VRAM-Grenzen vermutlich nicht sauber unterbringen, und selbst bei 70B-Ansätzen ist die erwartbare Inferenzrate stark von weiteren Bottlenecks abhängig.
Ein weiterer Punkt ist die Software- und Lebenszyklus-Seite der Pascal-Karten. Laut Aussage im Beitrag wird der Treiber-/Build-Zweig angesprochen: CUDA entferne ab Versionen Offline-Komplikation für GPUs unter Compute Capability 7.5, was Pascal grundsätzlich betrifft. Gleichzeitig soll es Sicherheitsupdates noch bis in den Oktober 2028 geben. Praktisch heißt das: Das Setup kann für viele Experimentier-Szenarien funktionieren, aber es bleibt ein „Rand der Unterstützung“-Thema. Für Betreiber bedeutet das weniger Planungssicherheit bei zukünftigen Toolchain-Updates. Trotzdem ist der zentrale Nutzen des Deals im Beitrag ziemlich konsistent: Das Rig zeigt, dass Selbsthosting mit geeigneten MoE-Modellen eine ernsthafte, sogar „alltagstaugliche“ Option sein kann, wenn man die Modellform an die Hardware anpasst.
Nach dem erfolgreichen ersten Test beschreibt der Käufer den nächsten Umbau: Die Karten sollen in ein besseres Gehäuse wandern, das bis zu einem i7-7700K und 32 GB RAM unterstützt. Damit ist auch die Plattformseite „hostseitig“ weniger anfällig für CPU- und Memory-Limits. Außerdem plant er, das Rig durch zusätzliche identische GPUs auf 12 Karten zu erweitern, was insgesamt auf 72 GB VRAM hinauslaufen würde. Interessant ist daran nicht nur die nackte Kapazität, sondern der konkrete Zielkonflikt, den viele KI-Enthusiasten kennen: mehr VRAM erweitert den Spielraum für größere Modelle, während die Einschränkungen durch Bandbreite, PCIe-Topologie und Host-Performance bleiben. Der Beitrag argumentiert deshalb mit „Freiheit“ und tatsächlicher Privatsphäre durch Self-Hosting, ordnet aber gleichzeitig ein, dass die Stromkosten das letzte große Fragezeichen bleiben – zumal das Rig eine kombinierte TDP von rund 1.080 W aufweist, während der Käufer in seinem Umfeld die Stromkosten als insgesamt gering beschreibt.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Für 35 US-Dollar: Mining-Rig mit 54 GB VRAM läuft ein 35B‑Modell lokal mit über 30 Tokens/s" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Für 35 US-Dollar: Mining-Rig mit 54 GB VRAM läuft ein 35B‑Modell lokal mit über 30 Tokens/s" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Für 35 US-Dollar: Mining-Rig mit 54 GB VRAM läuft ein 35B‑Modell lokal mit über 30 Tokens/s« bei Google Deutschland suchen, bei Bing oder Google News!