Effiziente KI-Modelle für Kleinstgeräte: Ein Durchbruch in der IoT-Technologie

GRAZ / LONDON (IT BOLTWISE) – In einer Welt, in der das Internet der Dinge (IoT) immer mehr an Bedeutung gewinnt, stellt die Integration von Künstlicher Intelligenz (KI) in Kleinstgeräte eine besondere Herausforderung dar. Ein Forschungsteam hat nun einen bedeutenden Fortschritt erzielt, indem es Wege gefunden hat, KI-Modelle auf Geräten mit minimaler Rechenleistung und Energiebedarf effizient auszuführen.

Die Künstliche Intelligenz gilt traditionell als ressourcenintensiv, was ihre Anwendung in kleinen, eingebetteten IoT-Geräten erschwert. Diese Geräte müssen mit begrenzter Rechenleistung, wenig Speicher und kleinen Batterien auskommen. Ein Forschungsteam des COMET-K1-Zentrums Pro2Future, der TU Graz und der Universität St. Gallen hat im Projekt E-MINDS innovative Methoden entwickelt, um KI lokal und effizient auf solchen Geräten auszuführen, ohne auf externe Rechenleistung angewiesen zu sein.

Ein bemerkenswertes Ergebnis des Projekts ist die Fähigkeit, spezialisierte KI-Modelle auf einem Ultrabreitband-Lokalisierungsgerät mit nur 4 Kilobyte Speicher laufen zu lassen. Diese Modelle sind in der Lage, Störquellen aus Ortungsdaten herauszurechnen. Michael Krisper, Leiter des Projekts bei Pro2Future, erklärt, dass keine großen Sprachmodelle auf diesen Kleingeräten laufen, sondern spezialisierte Modelle, die spezifische Aufgaben erfüllen, wie zum Beispiel die Abschätzung von Entfernungen.

Um die Modelle klein genug zu machen, wurden verschiedene Tricks angewendet. Eine Methode ist die Aufteilung der Modelle und deren Orchestrierung. Statt eines Universalmodells werden mehrere kleine, spezialisierte Modelle verwendet. Ein Orchestrierungsmodell auf dem jeweiligen Chip erkennt, welche Störung vorliegt, und lädt das passende KI-Modell vom Server, das den Störfaktor aus den Daten herausrechnen kann. Diese Methode ist besonders für Industrieanwendungen wie Lagerhallen geeignet, da sie schnell genug ist.

Eine weitere innovative Methode sind Subspace-Configurable Networks (SCNs), die sich je nach Daten-Input anpassen. Diese SCNs wurden für Bilderkennungsaufgaben eingesetzt und erwiesen sich als äußerst produktiv. Bei Bildveränderungen oder auf IoT-Geräten getesteten Fruchtklassifizierungen gelang damit eine bis zu 7,8-mal schnellere Bildberechnung als über externe Ressourcen, obwohl die Modelle kleiner und energiesparender waren.

Zusätzlich wurden Techniken wie Quantisierung und Pruning angewendet. Bei der Quantisierung wurden die Zahlen, mit denen das Modell rechnet, vereinfacht, was Energie und Rechenzeit sparte. Beim Pruning hingegen wird ein fertiges Modell analysiert und es werden jene Teile entfernt, die für das gewünschte Endergebnis nicht ins Gewicht fallen. Wichtig war es, bei allen Techniken die Balance zwischen Verkleinerung und verbleibender Genauigkeit zu finden.

Die Ergebnisse des Projekts E-MINDS sind nicht nur auf die drahtlose Ultrabreitband-Lokalisierung beschränkt. Die Forschenden sehen zahlreiche andere Anwendungsfelder, wie etwa als Sicherheitsmaßnahme für schlüssellose Autoöffner oder für Smarthome-Fernbedienungen, die mit effizienten KI-Modellen eine längere Batterielaufzeit hätten. Auch Bibliotheken könnten ihre Bücher effizienter tracken.

Michael Krisper betont, dass das Projekt E-MINDS ein Fundament für zukünftige Produkte und Anwendungen gelegt hat. Das Team hat sich perfekt ergänzt, indem es sich auf die eingebetteten Systeme und die Umsetzung auf der Hardware konzentriert hat, während wichtige wissenschaftliche Grundlagen in den Bereichen Embedded Machine Learning und Modelloptimierung erarbeitet wurden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!