Künstliche Intelligenz auf alter Hardware: Ein neuer Ansatz

LONDON (IT BOLTWISE) – In einer Zeit, in der Künstliche Intelligenz (KI) oft mit der neuesten Hardware assoziiert wird, hat ein Forscherteam bewiesen, dass auch ältere Systeme leistungsfähig genug sein können. EXO Labs hat gezeigt, dass ein moderner KI-Algorithmus auf einem über 25 Jahre alten Computer laufen kann.

Die Vorstellung, dass Künstliche Intelligenz (KI) nur auf den neuesten und leistungsstärksten Prozessoren laufen kann, wird von einem Team von EXO Labs in Frage gestellt. Unter der Leitung von Andrej Karpathy haben die Forscher einen modernen KI-Algorithmus auf einem Pentium II-Computer aus dem Jahr 1997 zum Laufen gebracht. Diese bemerkenswerte Leistung zeigt, dass die Zukunft der KI nicht zwangsläufig an hochmoderne Hardware gebunden sein muss.

Der erste Schritt bestand darin, einen funktionierenden Pentium II-Computer zu finden, der mit Windows 98 betrieben wird und nur 128 MB RAM besitzt. Diese Spezifikationen sind im Vergleich zu modernen Systemen geradezu winzig, doch das Team von EXO Labs war entschlossen, die Grenzen des Möglichen auszuloten. Eine der größten Herausforderungen bestand darin, den alten Computer mit modernen Peripheriegeräten zu verbinden, da er keine USB-Anschlüsse hatte. Stattdessen mussten PS/2-Peripheriegeräte verwendet werden, was zu unerwarteten Problemen führte.

Nachdem die Hardware-Hürden überwunden waren, stellte sich die Frage, wie moderne Dateien auf das alte System übertragen werden konnten. USB-Sticks waren entweder inkompatibel oder zu groß für das Dateisystem des Computers. Die Lösung war eine FTP-Verbindung, die es ermöglichte, Dateien von einem modernen MacBook Pro auf den alten Computer zu übertragen. Diese Verbindung zeigte, dass ältere Technologien auch heute noch nützlich sein können.

Die nächste Herausforderung bestand darin, modernen Code auf dem veralteten System zu kompilieren. Der Pentium II-Prozessor unterstützte bestimmte Anweisungen nicht, was die Verwendung von Borland C++ 5.02 erforderlich machte, einer Software, die immer noch auf Windows 98 funktioniert. Mit einigen Anpassungen am Code, wie der Vereinfachung der Speicherverwaltung, gelang es dem Team, das Llama 2 KI-Modell zum Laufen zu bringen.

Das Ergebnis war beeindruckend: Der 260K-Parameter Llama-Algorithmus verarbeitete 39,31 Tokens pro Sekunde auf dem Pentium II. Größere Modelle liefen langsamer, aber die Tatsache, dass sie überhaupt funktionierten, war ein bedeutender Erfolg. Diese Leistung wurde durch die Einfachheit der BitNet-Architektur ermöglicht, die ternäre Gewichte verwendet, um die Rechenkomplexität zu reduzieren.

Die erfolgreiche Implementierung von KI auf einem so alten System eröffnet neue Perspektiven für die Entwicklung energieeffizienter KI-Modelle. EXO Labs arbeitet bereits an der Weiterentwicklung von BitNet, einer Architektur, die darauf abzielt, leistungsstarke Modelle auch auf älterer Hardware zugänglich zu machen. Durch die Reduzierung des Speicher- und Rechenbedarfs könnte BitNet die Demokratisierung der KI vorantreiben und sie für eine breitere Zielgruppe zugänglich machen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!