Neues KI-Modell inspiriert von neuronalen Oszillationen des Gehirns

CAMBRIDGE / MÜNCHEN (IT BOLTWISE) – Forscher des MIT haben ein innovatives KI-Modell entwickelt, das von den neuronalen Oszillationen des Gehirns inspiriert ist. Dieses Modell könnte die Art und Weise, wie maschinelle Lernalgorithmen lange Datenfolgen verarbeiten, erheblich verbessern.

Die Wissenschaftler des MIT, insbesondere aus dem Computer Science and Artificial Intelligence Laboratory (CSAIL), haben ein neuartiges KI-Modell entwickelt, das sich an den neuronalen Oszillationen des Gehirns orientiert. Ziel ist es, die Verarbeitung langer Datenfolgen durch maschinelles Lernen signifikant zu verbessern. Traditionelle KI-Modelle stoßen oft an ihre Grenzen, wenn es um die Analyse komplexer Informationen geht, die sich über längere Zeiträume erstrecken, wie etwa Klimatrends, biologische Signale oder Finanzdaten.

Ein neuer Ansatz, die sogenannten “state-space models”, wurde speziell entwickelt, um diese sequentiellen Muster effektiver zu verstehen. Doch auch diese Modelle haben ihre Herausforderungen: Sie können instabil werden oder benötigen erhebliche Rechenressourcen bei der Verarbeitung langer Datenfolgen. Um diese Probleme zu lösen, haben die CSAIL-Forscher T. Konstantin Rusch und Daniela Rus die “linear oscillatory state-space models” (LinOSS) entwickelt. Diese nutzen Prinzipien erzwungener harmonischer Oszillatoren, ein Konzept, das tief in der Physik verwurzelt ist und in biologischen neuronalen Netzwerken beobachtet wird.

LinOSS bietet stabile, ausdrucksstarke und recheneffiziente Vorhersagen, ohne dass restriktive Bedingungen an die Modellparameter gestellt werden müssen. “Unser Ziel war es, die Stabilität und Effizienz biologischer neuronaler Systeme zu erfassen und diese Prinzipien in ein maschinelles Lernframework zu übersetzen”, erklärt Rusch. Mit LinOSS können nun zuverlässig langreichweitige Interaktionen gelernt werden, selbst bei Sequenzen, die Hunderttausende von Datenpunkten umfassen.

Das LinOSS-Modell zeichnet sich dadurch aus, dass es stabile Vorhersagen ermöglicht, indem es weit weniger restriktive Designentscheidungen erfordert als frühere Methoden. Zudem haben die Forscher die universelle Approximationsfähigkeit des Modells rigoros bewiesen, was bedeutet, dass es jede kontinuierliche, kausale Funktion, die Eingabe- und Ausgabesequenzen verbindet, approximieren kann.

Empirische Tests zeigten, dass LinOSS bestehende Modelle in anspruchsvollen Klassifikations- und Prognoseaufgaben durchweg übertraf. Besonders bemerkenswert ist, dass LinOSS das weit verbreitete Mamba-Modell bei Aufgaben mit extrem langen Sequenzen fast um das Doppelte übertraf. Aufgrund seiner Bedeutung wurde die Forschung für eine mündliche Präsentation auf der ICLR 2025 ausgewählt, eine Ehre, die nur den besten 1 Prozent der Einreichungen zuteil wird.

Die MIT-Forscher erwarten, dass das LinOSS-Modell in vielen Bereichen, die von präzisen und effizienten Langzeitprognosen und -klassifikationen profitieren könnten, einen erheblichen Einfluss haben wird, darunter Gesundheitsanalysen, Klimawissenschaft, autonomes Fahren und Finanzprognosen. “Diese Arbeit zeigt, wie mathematische Strenge zu Leistungsdurchbrüchen und breiten Anwendungen führen kann”, sagt Rus. “Mit LinOSS bieten wir der wissenschaftlichen Gemeinschaft ein mächtiges Werkzeug zum Verständnis und zur Vorhersage komplexer Systeme, das die Lücke zwischen biologischer Inspiration und rechnerischer Innovation schließt.”

Das Team plant, ihr Modell auf eine noch breitere Palette verschiedener Datenmodalitäten anzuwenden. Darüber hinaus schlagen sie vor, dass LinOSS wertvolle Einblicke in die Neurowissenschaften bieten könnte, was möglicherweise unser Verständnis des Gehirns selbst vertiefen könnte. Ihre Arbeit wurde von der Schweizerischen Nationalfonds, dem Schmidt AI2050-Programm und dem U.S. Department of the Air Force Artificial Intelligence Accelerator unterstützt.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!