Dflash Drafter

LONDON (IT BOLTWISE) – Meta stellt das KI-Sprachmodell Muse Glimmer mit 30 Milliarden Parametern bereit, das lokal auf Endgeräten läuft. Durch 4-Bit-Quantisierung schrumpft der Speicherbedarf von über 55 GB auf weniger als 20 GB, wodurch gängige 24- bis 32-GB-Systeme in Reichweite rücken. Für schnellere Antwortzeiten setzt Meta auf spekulative Dekodierung mit DFlash-Drafter und nennt messbare […]