Geheime KI-Experimente auf Reddit sorgen für Empörung

ZÜRICH / MÜNCHEN (IT BOLTWISE) – Ein geheimes Experiment von Forschern der Universität Zürich auf der Plattform Reddit hat kürzlich für erhebliche Kontroversen gesorgt. Die Wissenschaftler setzten KI-Bots ein, um die Meinungen der Nutzer zu beeinflussen, was nun rechtliche Schritte nach sich ziehen könnte.

In den letzten Monaten haben Forscher der Universität Zürich ein geheimes Experiment auf Reddit durchgeführt, um zu untersuchen, wie Künstliche Intelligenz genutzt werden kann, um menschliche Meinungen zu beeinflussen. Diese Aktion hat nun dazu geführt, dass Reddit rechtliche Schritte in Betracht zieht. Die Forscher setzten eine Vielzahl von KI-Bots ein, die sich als echte Nutzer ausgaben und ohne deren Wissen oder Zustimmung mit den Nutzern interagierten, um Meinungen im beliebten Reddit-Forum r/changemyview zu ändern. Die Bots, deren Konten mittlerweile gesperrt sind, hinterließen über 1.000 Kommentare im Subreddit und nahmen Identitäten wie die eines Vergewaltigungsopfers oder eines schwarzen Mannes, der die Black Lives Matter-Bewegung ablehnt, an. Ein KI-Bot mit dem Benutzernamen u/catbaLoom213 hinterließ einen ausführlichen Kommentar gegen die Meinung, dass KI niemals mit Menschen in sozialen Medien interagieren sollte. ‘KI in sozialen Räumen ist nicht nur eine Frage der Nachahmung – es geht darum, die menschliche Verbindung zu erweitern’, schrieb der Bot, während er einen echten Nutzer imitierte. Ein anderer Bot, u/genevievestrome, kritisierte die Black Lives Matter-Bewegung dafür, dass sie von ‘NICHT schwarzen Menschen’ geführt werde. ‘Ich sage das als schwarzer Mann, es gibt kaum bessere Themen für ein Opfer- oder Ablenkungsspiel als das Schwarzsein’, schrieb der Bot. Weitere Bots gaben sich als ‘ein schwuler römisch-katholischer Mann’ oder als ‘eine nicht-binäre Person, die sich sowohl trans als auch cis fühlt’ aus. Während die Ergebnisse des Experiments unklar sind, ist das Projekt der jüngste Vorfall, der die Befürchtungen über die Fähigkeit von KI, Menschen online zu imitieren, anheizt. Solche Bots, die Plattformen wie Instagram durchdrungen haben, sind bekannt dafür, einzigartige menschenähnliche Identitäten und Persönlichkeiten anzunehmen. Am Montag schrieb Ben Lee, der Chief Legal Officer von Reddit, in einem Beitrag, dass weder Reddit noch die Mods von r/changemyview im Voraus von ‘diesem unzulässigen und höchst unethischen Experiment’ wussten. Er fügte hinzu, dass Reddit dabei sei, formelle rechtliche Forderungen an die Universität Zürich und das Forschungsteam zu senden. ‘Was dieses Team der Universität Zürich getan hat, ist sowohl auf moralischer als auch auf rechtlicher Ebene zutiefst falsch’, schrieb Lee. ‘Es verstößt gegen akademische Forschungs- und Menschenrechtsnormen und ist durch die Nutzungsvereinbarung und die Regeln von Reddit sowie die Subreddit-Regeln verboten.’ Ein Sprecher von Reddit lehnte es ab, weitere Kommentare abzugeben. In einer Ankündigung an die Community am Wochenende schrieben die Moderatoren von r/changemyview, dass sie eine Ethikbeschwerde eingereicht haben, in der sie die Universität auffordern, von der Veröffentlichung der Forschungsergebnisse abzuraten, eine interne Überprüfung der Studiengenehmigung durchzuführen und sich zu einer stärkeren Aufsicht über solche Projekte zu verpflichten. ‘Eine Veröffentlichung würde die weitere Einmischung von Forschern erheblich fördern und zur erhöhten Verwundbarkeit der Community gegenüber zukünftigen nicht einvernehmlichen Experimenten mit menschlichen Probanden beitragen’, schrieben sie. Melanie Nyfeler, eine Medienbeauftragte, schrieb in einer E-Mail, dass die zuständigen Behörden der Universität über den Vorfall informiert sind und ihn untersuchen werden. ‘Im Lichte dieser Ereignisse beabsichtigt der Ethikrat der Fakultät für Kunst- und Sozialwissenschaften, in Zukunft einen strengeren Prüfprozess zu verabschieden und insbesondere vor experimentellen Studien mit den Communities auf den Plattformen zu koordinieren’, schrieb Nyfeler. Sie bestätigte, dass die Forscher ‘aus eigenem Antrieb’ beschlossen haben, die Ergebnisse nicht zu veröffentlichen. Aus Datenschutzgründen könne die Universität ihre Identitäten nicht preisgeben. Nyfeler sagte, dass die Studie als ‘außergewöhnlich herausfordernd’ angesehen wurde und der Ethikrat den Forschern empfahl, die Teilnehmer ‘so weit wie möglich’ zu informieren und die Regeln von Reddit vollständig einzuhalten. Aber die Empfehlungen sind rechtlich nicht bindend, schrieb sie, und die Forscher sind für ihr Projekt verantwortlich. Über eine für das Experiment eingerichtete E-Mail-Adresse verwiesen die Forscher alle Anfragen an die Universität. Die Forscher, die Fragen der Community über ihr Reddit-Konto u/LLMResearchTeam beantworteten, schrieben online, dass die KI-Bots ihre Antworten personalisierten, indem sie ein separates Modell verwendeten, um demografische Informationen über die Nutzer zu sammeln – wie deren Alter, Geschlecht, ethnische Zugehörigkeit, Standort und politische Orientierung – basierend auf deren Post-Historien. Dennoch schrieben sie, dass ihre KI-Modelle ‘starke ethische Schutzmaßnahmen und Sicherheitsausrichtungen’ enthielten und dass sie die Modelle ausdrücklich dazu aufforderten, ‘Täuschung und Lügen über wahre Ereignisse’ zu vermeiden. Ein Forscher überprüfte jeden von der KI generierten Kommentar, bevor er gepostet wurde, schrieben sie. Als Antwort auf die Bedenken der Mods sagten die Forscher weiter: ‘Eine sorgfältige Überprüfung des Inhalts dieser markierten Kommentare ergab keine Fälle von schädlichen, täuschenden oder ausbeuterischen Nachrichten, abgesehen von dem potenziellen ethischen Problem der Nachahmung selbst.’ In ihrem Beitrag wiesen die Mods von r/changemyview die Behauptung der Forscher zurück, dass ihr Experiment ‘wichtige Erkenntnisse liefert’. Sie schrieben auch, dass solche Forschungen ‘nichts Neues zeigen’, was nicht bereits durch andere, weniger aufdringliche Studien geteilt wurde. ‘Unser Sub ist ein entschieden menschlicher Raum, der nicht offengelegte KI als Kernwert ablehnt’, schrieben sie. ‘Menschen kommen nicht hierher, um ihre Ansichten mit KI zu diskutieren oder um experimentiert zu werden. Menschen, die unser Sub besuchen, verdienen einen Raum, der frei von dieser Art von Einmischung ist.’

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!