KI-Modelle entwickeln eigenständig soziale Konventionen

MÜNCHEN (IT BOLTWISE) – In einer wegweisenden Studie haben Forscher herausgefunden, dass Künstliche Intelligenz in der Lage ist, eigenständig menschliche Kommunikationsformen zu entwickeln. Diese Entdeckung könnte weitreichende Auswirkungen auf die zukünftige Interaktion zwischen Mensch und Maschine haben.

In einer kürzlich veröffentlichten Studie, die in Zusammenarbeit zwischen der City St George’s, University of London und der IT University of Copenhagen durchgeführt wurde, haben Forscher herausgefunden, dass Künstliche Intelligenz (KI) in der Lage ist, eigenständig soziale Konventionen zu entwickeln. Diese Erkenntnis stellt einen bedeutenden Fortschritt in der KI-Forschung dar, da bisherige Studien KI-Modelle meist isoliert betrachteten.

Die Studie, geleitet von Ariel Flint Ashery, einer Doktorandin an der City St George’s, zeigt, dass große Sprachmodelle (LLM) wie ChatGPT in der Lage sind, in Gruppen zu kommunizieren und dabei ähnliche soziale Normen zu entwickeln wie Menschen. Diese Fähigkeit zur spontanen Entwicklung von Kommunikationsformen könnte die Art und Weise, wie KI-Systeme in der Zukunft eingesetzt werden, grundlegend verändern.

In den Experimenten wurden Gruppen von 24 bis 100 LLM-Agenten gebildet. Diese Agenten wurden paarweise gebeten, aus einem Pool von Optionen einen ‘Namen’ zu wählen. Wenn beide Agenten denselben Namen wählten, wurden sie belohnt, andernfalls bestraft. Trotz der begrenzten Erinnerung der Agenten an frühere Interaktionen entwickelte sich eine gemeinsame Namenskonvention, die an menschliche Kommunikationsnormen erinnert.

Andrea Baronchelli, Professor für Komplexitätswissenschaften und Mitautor der Studie, betont, dass die Agenten nicht einfach einem Anführer folgen, sondern aktiv versuchen, sich zu koordinieren. Diese Fähigkeit zur spontanen Koordination könnte auch in anderen Bereichen der KI-Anwendung von Bedeutung sein, insbesondere wenn es um die Zusammenarbeit mehrerer KI-Systeme geht.

Ein weiteres bemerkenswertes Ergebnis der Studie ist die Beobachtung kollektiver Vorurteile, die sich natürlich entwickelten und nicht auf einzelne Agenten zurückgeführt werden konnten. In einem abschließenden Experiment konnten kleine Gruppen von KI-Agenten die größere Gruppe zu einer neuen Namenskonvention führen, was auf die Dynamik einer kritischen Masse hinweist.

Baronchelli sieht in diesen Ergebnissen neue Horizonte für die KI-Sicherheitsforschung. Die Erkenntnis, dass KI-Modelle nicht nur kommunizieren, sondern auch verhandeln und sich auf gemeinsame Verhaltensweisen einigen können, eröffnet neue Möglichkeiten für die Gestaltung der Interaktion zwischen Mensch und Maschine.

Die Studie, die in der Fachzeitschrift Science Advances veröffentlicht wurde, zeigt, dass das Verständnis der Funktionsweise dieser neuen Art von Agenten entscheidend für eine erfolgreiche Koexistenz mit KI ist. Die Fähigkeit der KI, soziale Konventionen zu entwickeln, könnte in Zukunft eine wichtige Rolle bei der Integration von KI in die Gesellschaft spielen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!