Apple beschleunigt KI-Textgenerierung mit FS-DFM

CUPERTINO / LONDON (IT BOLTWISE) – Apple hat einen neuen Ansatz zur Beschleunigung der Textgenerierung in großen Sprachmodellen vorgestellt. Durch die Einführung von Few-Step Discrete Flow-Matching (FS-DFM) in Zusammenarbeit mit der Ohio State University soll die Effizienz der Textausgabe erheblich gesteigert werden.

Apple hat kürzlich einen bedeutenden Fortschritt in der Beschleunigung von KI-Textgeneratoren erzielt. Mit dem neuen Ansatz namens Few-Step Discrete Flow-Matching (FS-DFM) sollen große Sprachmodelle erheblich effizienter arbeiten. Diese Technologie, die in Zusammenarbeit mit der Ohio State University entwickelt wurde, verspricht eine bis zu 128-fache Steigerung der Durchsatzrate bei der Ausgabe von 1024 Token. Die Forscher von Apple haben es geschafft, die herkömmlichen 1024 Schritte auf nur acht zu reduzieren, was eine bemerkenswerte Verbesserung darstellt.

FS-DFM basiert auf der Diffusion-Technik, die ursprünglich für die Bildgenerierung entwickelt wurde. Diese Methode hat sich jedoch als äußerst vorteilhaft für große Sprachmodelle erwiesen, da sie mehrere Ausgabe-Tokens gleichzeitig generieren kann. Im Gegensatz zu den weit verbreiteten GPT-basierten Modellen, die auf Transformer-Technik und Autoregression setzen, bietet die Diffusion-Technik eine effizientere Möglichkeit, lange Texte präzise zu erstellen. Apples Ansatz zeigt, dass bestehende Verfahren möglicherweise überholt sind.

Ein wesentlicher Vorteil der Diffusion-Modelle ist ihre Fähigkeit, die Ausgabe-Tokens simultan zu generieren und anschließend zu verfeinern, bevor sie an den Nutzer ausgegeben werden. Dies führt zu einer erheblichen Reduzierung der Latenzzeiten und einer Steigerung des Durchsatzes. Apple plant, seine DFM- und FS-DFM-Modelle öffentlich zugänglich zu machen, um die Verbreitung dieser Technologie zu fördern und die KI-Community zu unterstützen.

Obwohl GPT-basierte Modelle derzeit noch den Mainstream dominieren, könnte Apples neuer Ansatz den Markt erheblich beeinflussen. Die Zusammenarbeit mit der Ohio State University zeigt, dass Apple bereit ist, in die Forschung zu investieren, um seine KI-Technologien weiterzuentwickeln. Diese Innovation könnte nicht nur die Textgenerierung revolutionieren, sondern auch in anderen Bereichen wie der Programmierung und der Protein-Faltung Anwendung finden. Apple hofft, durch diese Fortschritte auch seine eigenen Produkte zu verbessern, obwohl ein eigener Chatbot noch nicht offiziell angekündigt wurde.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

31,84 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

17,84 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

79,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!