SEAL: Ein Schritt zur selbstverbessernden KI von MIT

LONDON (IT BOLTWISE) – Die jüngste Veröffentlichung von MIT-Forschern hat in der KI-Community für Aufsehen gesorgt. Mit der Einführung von SEAL, einem neuen Rahmenwerk für selbstanpassende Sprachmodelle, wird ein bedeutender Schritt in Richtung selbstverbessernder Künstlicher Intelligenz gemacht.

Die Idee der selbstverbessernden KI hat in den letzten Jahren erheblich an Bedeutung gewonnen. Forscher weltweit, darunter prominente Persönlichkeiten wie der CEO von OpenAI, Sam Altman, diskutieren intensiv über die Zukunft selbstentwickelnder intelligenter Systeme. In diesem Kontext hat das Massachusetts Institute of Technology (MIT) kürzlich ein bahnbrechendes Papier veröffentlicht, das SEAL (Self-Adapting Language Models) vorstellt. Dieses innovative Framework ermöglicht es großen Sprachmodellen, ihre eigenen Gewichte zu aktualisieren und sich somit selbst zu verbessern.

SEAL nutzt ein Verfahren, bei dem ein Sprachmodell seine eigenen Trainingsdaten durch einen Prozess namens „Selbstbearbeitung“ generiert und anschließend seine Gewichte basierend auf neuen Eingaben aktualisiert. Dieser Selbstbearbeitungsprozess wird durch Reinforcement Learning erlernt, wobei der Belohnungsmechanismus an die Leistung des aktualisierten Modells gekoppelt ist. Diese Entwicklung wird als bedeutender Fortschritt auf dem Weg zu einer wirklich selbstentwickelnden KI angesehen.

Die Veröffentlichung des MIT-Papiers erfolgt zu einem Zeitpunkt, an dem das Interesse an der Selbstentwicklung von KI-Systemen stark gestiegen ist. In den letzten Wochen haben mehrere Forschungsprojekte Aufmerksamkeit erregt, darunter die „Darwin-Gödel-Maschine“ der University of British Columbia und das „MM-UPT“-Framework der Shanghai Jiao Tong University. Diese Entwicklungen unterstreichen das wachsende Interesse an der Fähigkeit von KI-Systemen, sich kontinuierlich zu verbessern.

Das SEAL-Framework von MIT ermöglicht es Sprachmodellen, sich selbst zu optimieren, indem sie synthetische Daten generieren und ihre Parameter durch Selbstbearbeitung anpassen. Der Trainingsansatz basiert auf einem zweistufigen Prozess: einem äußeren Reinforcement-Learning-Loop zur Optimierung der Selbstbearbeitung und einem inneren Update-Loop zur Aktualisierung des Modells durch Gradientenabstieg. Diese Methode kann als eine Form des Meta-Lernens betrachtet werden, bei der der Fokus auf der Generierung effektiver Selbstbearbeitungen liegt.

In Experimenten haben die Forscher SEAL in zwei spezifischen Bereichen implementiert: Wissensintegration und Few-Shot-Lernen. Die Ergebnisse zeigen, dass SEAL in beiden Bereichen signifikante Verbesserungen erzielt. Im Few-Shot-Lernen konnte SEAL die Erfolgsrate der Anpassung erheblich steigern, während es bei der Wissensintegration die Leistung bestehender Methoden übertraf.

Obwohl die Ergebnisse vielversprechend sind, erkennen die Forscher auch einige Einschränkungen des SEAL-Frameworks an, darunter Aspekte wie katastrophales Vergessen und der Rechenaufwand. Diese Herausforderungen werden in der Originalveröffentlichung detailliert diskutiert.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!