Effiziente KI-Modelle für Kleinstgeräte: Neue Ansätze der TU Graz

GRAZ / LONDON (IT BOLTWISE) – Die Integration von Künstlicher Intelligenz in Kleinstgeräte stellt eine bedeutende Herausforderung dar, insbesondere im Hinblick auf die begrenzten Ressourcen solcher Geräte. Forschende der TU Graz, Pro2Future und der Universität St. Gallen haben nun innovative Methoden entwickelt, um KI-Modelle effizient auf ressourcenschwachen Geräten auszuführen.

Die Künstliche Intelligenz hat sich als eine der treibenden Kräfte der modernen Technologie etabliert. Doch ihre Implementierung auf kleinen, eingebetteten Geräten, die im Internet der Dinge (IoT) weit verbreitet sind, stellt eine besondere Herausforderung dar. Diese Geräte verfügen oft nur über begrenzte Rechenleistung, minimalen Speicher und kleine Batterien. Ein Forschungsteam der TU Graz, Pro2Future und der Universität St. Gallen hat im Rahmen des Projekts E-MINDS innovative Lösungen entwickelt, um KI-Modelle auf solchen Geräten lokal und effizient auszuführen.

Ein bemerkenswerter Fortschritt wurde bei der Entwicklung von KI-Modellen erzielt, die auf Ultrabreitband-Lokalisierungsgeräten mit nur 4 Kilobyte Speicher laufen können. Diese Modelle sind in der Lage, Störquellen aus Ortungsdaten herauszurechnen, was insbesondere in industriellen Anwendungen wie Lagerhallen von Vorteil ist. Michael Krisper, Leiter des Projekts bei Pro2Future, betont, dass es einige Tricks erfordert, um die Modelle klein genug zu machen, um auf diesen Geräten zu laufen.

Eine der angewandten Methoden ist die Aufteilung der Modelle in spezialisierte Einheiten, die je nach Bedarf orchestriert werden. Anstatt ein universelles Modell zu verwenden, werden mehrere kleine, spezialisierte Modelle eingesetzt, die spezifische Störungen wie Metallwände oder menschliche Interferenzen adressieren. Ein Orchestrierungsmodell auf dem Chip erkennt die Art der Störung und lädt das passende KI-Modell vom Server, um den Störfaktor aus den Daten zu entfernen.

Zusätzlich wurden Subspace-Configurable Networks (SCNs) entwickelt, die sich je nach Daten-Input anpassen. Diese Netzwerke haben sich bei Bilderkennungsaufgaben als äußerst produktiv erwiesen und ermöglichen eine bis zu 7,8-mal schnellere Bildberechnung als über externe Ressourcen. Weitere Optimierungen wurden durch die Faltung der mathematischen Struktur der Modelle erreicht, ohne die Genauigkeit wesentlich zu beeinträchtigen.

Die Forschenden haben auch Techniken wie Quantisierung und Pruning angewandt, um die Modelle weiter zu verkleinern. Bei der Quantisierung werden die Zahlen, mit denen das Modell rechnet, vereinfacht, was Energie und Rechenzeit spart. Beim Pruning werden unnötige Teile des Modells entfernt, um die Effizienz zu steigern, ohne die Kernaufgabe zu beeinträchtigen.

Die Ergebnisse des Projekts E-MINDS sind nicht nur auf die drahtlose Ultrabreitband-Lokalisierung beschränkt. Die Forschenden sehen zahlreiche andere Anwendungsfelder, wie etwa die Verbesserung der Sicherheit bei schlüssellosen Autoöffnern oder die Verlängerung der Batterielaufzeit von Smarthome-Fernbedienungen. Michael Krisper hebt hervor, dass das Projektteam ein solides Fundament für zukünftige Produkte und Anwendungen gelegt hat.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!