Umstrittene KI-Experimente auf Reddit: Wissenschaftler in der Kritik

ZÜRICH / MÜNCHEN (IT BOLTWISE) – In einer umstrittenen Studie haben Forscher der Universität Zürich KI-generierte Beiträge auf Reddit veröffentlicht, um die Überzeugungskraft von KI zu testen.

In einer kontroversen Untersuchung haben Wissenschaftler der Universität Zürich zugegeben, dass sie KI-generierte Inhalte auf dem beliebten Subreddit r/changemyview veröffentlicht haben, um die Fähigkeit von großen Sprachmodellen zu testen, die Meinungen der Leser zu ändern. Diese Plattform ist bekannt dafür, dass Nutzer ihre Ansichten zu verschiedenen Themen teilen und andere herausfordern, ihre Perspektiven durch Argumente und Gegenargumente zu ändern. Die Forscher wollten herausfinden, ob von KI generierte Inhalte die Meinungen der Leser beeinflussen können, und nutzten dazu halbautomatisierte, KI-gestützte Konten. Trotz der Bedeutung des Themas verstießen die Forscher gegen die Regeln der Plattform, indem sie die Moderatoren nicht über ihre Aktivitäten informierten oder um Erlaubnis baten. Die Regeln des Subreddits verlangen die Offenlegung von KI-generierten Beiträgen. Die Moderatoren von r/changemyview wurden im März auf die Studie aufmerksam, als die Universität die Existenz der Studie in einer Nachricht bekannt gab. In dieser Nachricht erklärten die Forscher, dass sie mehrere Konten verwendet haben, um Beiträge zu veröffentlichen, und dass sie die Kommentare manuell überprüft haben, um sicherzustellen, dass sie nicht schädlich sind. Sie entschuldigten sich für den Regelverstoß, betonten jedoch die gesellschaftliche Bedeutung der Studie. Die Moderatoren fanden heraus, dass die Konten Inhalte veröffentlichten, in denen Bots vorgaben, Opfer von Vergewaltigung zu sein, als Trauma-Berater für Missbrauch zu agieren, Mitglieder einer religiösen Gruppe zu beschuldigen und sich als schwarze Männer auszugeben, die gegen Black Lives Matter sind. Die Universität Zürich verteidigte die Studie und erklärte, dass die gewonnenen Erkenntnisse wichtig seien und die Risiken minimal. Die Moderatoren des Subreddits sind jedoch anderer Meinung und haben eine Beschwerde bei der Universität eingereicht. Sie fordern, dass die Studie nicht veröffentlicht wird. Die Diskussion über die ethischen Implikationen solcher Experimente ist in vollem Gange, und viele Experten halten das Vorgehen der Forscher für unethisch. Die Studie zeigt, dass KI-Modelle in der Lage sind, in realen Kontexten sehr überzeugend zu sein, was die Debatte über den Einsatz von KI in der Kommunikation weiter anheizt.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!