Kontroverse um KI-Experiment der Universität Zürich auf Reddit

ZÜRICH / MÜNCHEN (IT BOLTWISE) – Ein umstrittenes Experiment der Universität Zürich hat die Diskussion um den Einsatz von Künstlicher Intelligenz in sozialen Medien neu entfacht. Die Forscher nutzten KI-generierte Kommentare, um die Meinungen von Reddit-Nutzern zu beeinflussen, was zu einer breiten Debatte über Ethik und Verantwortung in der KI-Forschung führte.

Die Universität Zürich steht im Mittelpunkt einer Kontroverse, nachdem bekannt wurde, dass ihre Forscher ein viermonatiges Experiment auf Reddit durchgeführt haben, ohne die Zustimmung der Teilnehmer einzuholen. Ziel des Experiments war es, herauszufinden, ob KI-generierte Kommentare die Meinungen der Nutzer beeinflussen können. Die Forscher erstellten dazu verschiedene KI-gesteuerte Accounts, die sich als unterschiedliche Personen ausgaben, darunter ein Vergewaltigungsopfer und ein Trauma-Berater.

Die Moderatoren des Subreddits r/changemyview äußerten sich empört über das Experiment und betonten, dass ihre Plattform ein Raum für menschliche Interaktion sei, der den Einsatz von nicht offengelegter KI ablehne. Die Forscher versuchten, die KI-Antworten zu personalisieren, indem sie Informationen aus den vorherigen Reddit-Aktivitäten der Nutzer nutzten, wie politische Orientierung, Geschlecht, Alter und ethnische Zugehörigkeit.

Während des Experiments posteten die KI-Accounts insgesamt 1.783 Kommentare und erhielten 137 Deltas, ein Zeichen dafür, dass andere Reddit-Nutzer ihre Meinung geändert hatten. Die Forscher argumentierten, dass die potenziellen Vorteile der Forschung die Risiken überwiegen, da sie gezeigt haben, dass große Sprachmodelle sehr überzeugend sein können und alle bisher bekannten Benchmarks menschlicher Überzeugungskraft übertreffen.

Die Universität Zürich verteidigte das Experiment als kontrollierte, risikoarme Studie, die wertvolle Einblicke in die realen Überzeugungskapazitäten von KI-Modellen bietet. Sie betonten, dass die Fähigkeit, zwischen menschlichen und KI-generierten Inhalten zu unterscheiden, noch immer eine große Herausforderung darstellt, da während des gesamten Experiments niemand die KI-Bots entdeckte.

Reddit erwägt rechtliche Schritte gegen die Universität, da das Experiment gegen die Nutzungsbedingungen der Plattform verstoßen hat. Alle bekannten Accounts, die mit der Forschung der Universität Zürich in Verbindung stehen, wurden gesperrt. Der Rechtsbeauftragte von Reddit, Ben Lee, erklärte, dass man alles tun werde, um die Community zu unterstützen und sicherzustellen, dass die Forscher für ihre Verfehlungen zur Rechenschaft gezogen werden.

Die Ethikkommission der Universität Zürich hat den Vorfall untersucht und versprochen, in Zukunft besser mit den Testpersonen zu koordinieren. Der leitende Forscher des Projekts erhielt eine formelle Verwarnung. Trotz der Kontroverse betonte die Kommission, dass die gewonnenen Erkenntnisse von großer Bedeutung seien und die Risiken minimal, weshalb eine Unterdrückung der Veröffentlichung unverhältnismäßig wäre.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!