Geheimes KI-Experiment auf Reddit: Forscher in der Kritik

ZÜRICH / MÜNCHEN (IT BOLTWISE) – Ein geheimes Experiment von Forschern der Universität Zürich auf der Plattform Reddit hat für Aufsehen gesorgt. Die Wissenschaftler setzten KI-gestützte Chatbots ein, um die Meinungen der Nutzer zu beeinflussen, was nun rechtliche Konsequenzen nach sich ziehen könnte.

Die Universität Zürich steht im Mittelpunkt einer Kontroverse, nachdem bekannt wurde, dass ihre Forscher ein geheimes Experiment auf Reddit durchgeführt haben. Ziel war es, die Fähigkeit von KI-Chatbots zu testen, die Meinungen der Nutzer zu beeinflussen. Die Forscher setzten dazu eine Vielzahl von Bots ein, die über 1.700 Kommentare auf dem Subreddit r/changemyview hinterließen, einem Forum, in dem fast 4 Millionen Nutzer kontroverse Themen diskutieren.

Die Bots traten in verschiedenen Rollen auf, darunter als männliches Vergewaltigungsopfer, das die Traumata seiner Erfahrung herunterspielt, oder als Berater für häusliche Gewalt, der behauptet, die am meisten gefährdeten Frauen seien jene, die von überfürsorglichen Eltern geschützt werden. Ein weiterer Bot stellte sich als schwarzer Mann dar, der gegen die Black Lives Matter-Bewegung ist. Diese Bots arbeiteten mit einem weiteren Bot zusammen, der Nutzerprofile durchsuchte, um die Antworten möglichst überzeugend zu gestalten.

Nachdem die Forscher das Experiment den Moderatoren des Forums offenlegten, reagierte die Reddit-Community mit Empörung. Die Moderatoren des Subreddits veröffentlichten einen Beitrag, in dem sie die Nutzer über das unautorisierte Experiment informierten und es als falsch bezeichneten. Reddit selbst, vertreten durch den Chefjuristen Ben Lee, kündigte an, rechtliche Schritte gegen die Universität Zürich einzuleiten. Lee betonte, dass das Experiment sowohl moralisch als auch rechtlich falsch sei und gegen die Nutzungsbedingungen von Reddit verstoße.

In einer Stellungnahme gegenüber 404 Media erklärte die Universität Zürich, dass die Ergebnisse der Studie nicht veröffentlicht würden und dass in Zukunft ein strengerer Überprüfungsprozess durch das Ethikkomitee der Universität eingeführt werde. Dies solle insbesondere die Koordination mit Online-Communities umfassen, bevor diese unwissentlich zu Versuchssubjekten eines Massenexperiments werden.

Das Experiment wirft ein Schlaglicht auf die wachsende Fähigkeit von Chatbots, in Online-Diskurse einzudringen. Bereits im März hatten Wissenschaftler enthüllt, dass das GPT-4.5-Modell von OpenAI in der Lage sei, den Turing-Test zu bestehen und 73 % der Testteilnehmer zu täuschen, indem sie glaubten, mit einem Menschen zu sprechen.

Diese Entwicklungen nähren die Befürchtung, dass KI-Chatbots, wenn sie nicht kontrolliert werden, Menschen bei der Erstellung des Großteils der Internetinhalte verdrängen könnten. Diese Vorstellung, bekannt als die “Dead Internet Theory”, wird derzeit noch als Verschwörungstheorie betrachtet, könnte jedoch in naher Zukunft Realität werden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!