Unethische KI-Experimente auf Reddit: Forscher in der Kritik

ZÜRICH / MÜNCHEN (IT BOLTWISE) – In einer umstrittenen Studie haben Forscher der Universität Zürich Reddit-Nutzer ohne deren Wissen in ein KI-Experiment einbezogen. Diese Vorgehensweise hat eine Debatte über ethische Standards in der Forschung ausgelöst.

Die Universität Zürich steht im Mittelpunkt einer Kontroverse, nachdem bekannt wurde, dass Forscher ohne Zustimmung der Beteiligten ein Experiment auf Reddit durchgeführt haben. Die Studie, die auf dem Subreddit r/ChangeMyView stattfand, nutzte Künstliche Intelligenz, um über 1700 Kommentare zu generieren und die Reaktionen der Nutzer zu beobachten. Diese Kommentare, die von großen Sprachmodellen erstellt wurden, täuschten reale Personen vor, darunter auch sensible Themen wie Vergewaltigung und Traumabewältigung.

Die Forscher behaupteten, dass die KI-generierten Kommentare zwischen drei- und sechsmal effektiver darin waren, die Meinungen der Nutzer zu ändern, als menschliche Kommentare. Diese Erkenntnisse werfen Fragen über die potenzielle Macht von KI-gesteuerten Botnets auf, die sich nahtlos in Online-Communities integrieren könnten. Die Moderatoren des betroffenen Subreddits beschwerten sich bei der Universität, nachdem sie über das Experiment informiert wurden.

Die ethische Genehmigung für die Studie wurde ursprünglich von der Universität Zürich erteilt, was bei anderen Akademikern auf Kritik stieß. Carissa Véliz von der Universität Oxford betonte die Notwendigkeit höherer Standards in der Forschung, insbesondere in Zeiten, in denen Technologieunternehmen für den mangelnden Respekt gegenüber der Autonomie der Menschen kritisiert werden. Sie argumentiert, dass die Studie auf Manipulation und Täuschung basierte und dass die Teilnehmer nicht ordnungsgemäß informiert wurden.

Matt Hodgkinson vom Directory of Open Access Journals äußerte Zweifel an der Rechtfertigung der Täuschung in diesem Fall. Er stellte die Frage, ob Chatbots möglicherweise bessere ethische Standards als Universitäten haben, da die Forscher die KI-Modelle anleiteten, sich keine Sorgen um ethische Implikationen zu machen, da angeblich eine Einwilligung vorlag.

Die Universität Zürich hat angekündigt, in Zukunft strengere Überprüfungsprozesse einzuführen und die betroffenen Communities vor der Durchführung von Experimenten besser zu informieren. Eine Untersuchung ist im Gange, und die Forscher haben beschlossen, die Ergebnisse der Studie nicht formell zu veröffentlichen.

Diese Ereignisse werfen ein Schlaglicht auf die Herausforderungen und Verantwortlichkeiten, die mit der Nutzung von KI in der Forschung verbunden sind. Während die Technologie weiterhin Fortschritte macht, bleibt die Frage, wie ethische Standards aufrechterhalten werden können, um das Vertrauen der Öffentlichkeit zu sichern.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!