Künstliche Intelligenz auf Mikrocontrollern: Revolution in der Edge-KI

GRAZ / LONDON (IT BOLTWISE) – Die jüngsten Fortschritte in der Künstlichen Intelligenz ermöglichen es, selbst kleinste IoT-Geräte mit leistungsfähigen KI-Modellen auszustatten. Forscher aus Österreich und der Schweiz haben gezeigt, dass KI-Modelle auf Mikrocontrollern mit nur 4 Kilobyte Speicher effizient arbeiten können.

Die Integration von Künstlicher Intelligenz in IoT-Geräte stellt eine bedeutende Herausforderung dar, insbesondere wenn es um die Begrenzung von Speicherplatz und Energieverbrauch geht. Doch ein Forscherteam der TU Graz, Pro2Future und der Universität St. Gallen hat im Rahmen des Projekts E-MINDS eine Lösung entwickelt, die es ermöglicht, KI-Modelle auf Mikrocontrollern mit lediglich 4 Kilobyte Speicher auszuführen. Diese Entwicklung könnte die Art und Weise, wie wir KI in der Industrie einsetzen, grundlegend verändern.

Im Zentrum dieser Innovation steht die Fähigkeit, KI-Modelle lokal und ohne die Notwendigkeit einer Cloud-Anbindung zu betreiben. Dies ist besonders in Umgebungen von Vorteil, in denen Datenschutz, Energieeffizienz und Latenzzeiten entscheidende Faktoren sind. Die Forscher haben eine Kombination aus Modellverkleinerung, Modularisierung und selektiver Ausführung angewandt, um die Modelle auf ein Minimum zu reduzieren, ohne die Funktionalität wesentlich zu beeinträchtigen.

Ein wesentlicher Bestandteil der Optimierung war die Anwendung klassischer Machine-Learning-Methoden wie Quantisierung und Pruning. Durch die Umwandlung von Gleitkommazahlen in Integer und die Reduzierung der Modelle auf ihre wesentlichen Bestandteile konnte der Speicherbedarf drastisch gesenkt werden. Diese Techniken führten zu einer signifikanten Reduzierung des Energieverbrauchs bei einem akzeptablen Verlust an Genauigkeit.

Ein weiterer innovativer Ansatz des Projekts sind die sogenannten Subspace-Configurable Networks (SCNs). Diese Netzwerke sind in der Lage, flexibel auf verschiedene Eingabevarianten zu reagieren, ohne dass für jede Konstellation ein eigenes Modell erforderlich ist. Dies ermöglicht eine schnelle und effiziente Verarbeitung, die laut TU Graz bis zu 7,8-mal schneller als herkömmliche Cloud-Dienste ist.

Die praktischen Anwendungen dieser Technologie sind vielfältig. Neben der präzisen Lokalisierung mobiler Einheiten wie Drohnen und Roboter könnten auch Schlüssel-lose Autosysteme und Smarthome-Geräte von dieser Entwicklung profitieren. Die Forscher sehen zudem Potenzial in der Optimierung der Batterielaufzeit von Fernbedienungen und der Verfolgung von Büchern in Bibliotheken.

Michael Krisper, der Projektleiter, betont, dass die im Projekt E-MINDS entwickelten Methoden und das neue Know-how ein solides Fundament für zukünftige Produkte und Anwendungen bieten. Die TU Graz lieferte die Grundlagen zur Modelloptimierung, während Pro2Future die Hardwareintegration übernahm und die Universität St. Gallen ihre Expertise im Bereich der Lokalisierung einbrachte.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!