KI-Agenten entwickeln eigenständig soziale Normen

LONDON / MÜNCHEN (IT BOLTWISE) – In einer bemerkenswerten Studie haben Forscher der City St George’s, University of London und der IT University of Copenhagen gezeigt, dass große Sprachmodelle (LLMs) in der Lage sind, durch Interaktion in Gruppen eigenständig soziale Normen zu entwickeln. Diese Entdeckung könnte weitreichende Auswirkungen auf die zukünftige Gestaltung von KI-Systemen haben.

Die Fähigkeit von Künstlicher Intelligenz, sich ohne zentrale Steuerung zu organisieren, ist ein bedeutender Fortschritt in der Entwicklung von KI-Systemen. Forscher haben herausgefunden, dass große Sprachmodelle, ähnlich wie ChatGPT, in der Lage sind, durch wiederholte Interaktionen in Gruppen gemeinsame soziale Konventionen zu entwickeln. Diese Entdeckung basiert auf einem klassischen Modell der Konventionsbildung, dem sogenannten “Naming Game”, das auf die Interaktion von KI-Agenten angewendet wurde.

In den Experimenten wurden Gruppen von KI-Agenten gebildet, die in der Größe von 24 bis 200 Agenten variierten. Die Agenten wurden paarweise zufällig ausgewählt und mussten aus einem gemeinsamen Pool von Optionen einen Namen wählen. Bei Übereinstimmung erhielten sie eine Belohnung, bei Nichtübereinstimmung eine Strafe. Diese einfache Regel führte dazu, dass sich über viele Interaktionen hinweg eine gemeinsame Namenskonvention in der gesamten Gruppe herausbildete, ohne dass eine zentrale Steuerung erforderlich war.

Ein überraschender Aspekt der Studie war die Entstehung von kollektiven Vorurteilen, die nicht auf das Verhalten einzelner Agenten zurückgeführt werden konnten. Dies zeigt, dass Vorurteile nicht immer aus den individuellen Eigenschaften der Agenten resultieren, sondern auch aus ihren Interaktionen entstehen können. Diese Erkenntnis stellt eine Herausforderung für die aktuelle KI-Sicherheitsforschung dar, die sich oft auf einzelne Modelle konzentriert.

Ein weiterer faszinierender Befund der Studie ist die Dynamik von Kipppunkten. Kleine, engagierte Gruppen von KI-Agenten waren in der Lage, die gesamte Gruppe zu einer neuen Namenskonvention zu bewegen, was bekannte Effekte aus menschlichen Gesellschaften widerspiegelt. Diese Kipppunkt-Dynamik zeigt, wie fragil und gleichzeitig anpassungsfähig soziale Normen in KI-Systemen sein können.

Die Ergebnisse der Studie sind robust und wurden mit verschiedenen Typen von LLMs getestet, darunter Llama-2-70b-Chat und Claude-3.5-Sonnet. Diese Erkenntnisse sind besonders relevant, da LLMs zunehmend in Online-Umgebungen wie sozialen Medien und autonomen Fahrzeugen eingesetzt werden. Die Forscher sehen ihre Arbeit als einen wichtigen Schritt, um zu verstehen, wie menschliches und KI-basiertes Denken sowohl konvergieren als auch divergieren können.

Professor Andrea Baronchelli, einer der leitenden Forscher der Studie, betont die Bedeutung dieser Erkenntnisse für die zukünftige KI-Sicherheitsforschung. Er sieht die Notwendigkeit, die Funktionsweise dieser neuen Art von Agenten zu verstehen, um eine harmonische Koexistenz mit KI zu gewährleisten. Die Studie zeigt, dass KI nicht nur kommuniziert, sondern auch verhandelt, sich anpasst und manchmal widerspricht, ähnlich wie Menschen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!