AIPasta: Eine neue Herausforderung für die Erkennung von Desinformation

LONDON (IT BOLTWISE) – Die Verbreitung von Desinformation im digitalen Zeitalter hat eine neue Dimension erreicht. Eine aktuelle Studie warnt vor einer Strategie namens “AIPasta”, die generative KI nutzt, um zahlreiche leicht abgewandelte Versionen falscher Behauptungen zu erstellen. Diese Strategie zielt darauf ab, den Eindruck eines weit verbreiteten öffentlichen Glaubens zu erwecken.

Die Verbreitung von Desinformation im digitalen Zeitalter hat eine neue Dimension erreicht. Eine aktuelle Studie warnt vor einer Strategie namens “AIPasta”, die generative KI nutzt, um zahlreiche leicht abgewandelte Versionen falscher Behauptungen zu erstellen. Diese Strategie zielt darauf ab, den Eindruck eines weit verbreiteten öffentlichen Glaubens zu erwecken.

Im Gegensatz zu herkömmlichem CopyPasta, das dieselbe Nachricht wortwörtlich wiederholt, erhöht AIPasta die Wahrnehmung eines Konsenses, insbesondere in politisch vorbelasteten Gruppen. In Experimenten erhöhte AIPasta den Glauben an Wahl- und Pandemieverschwörungen unter Republikanern effektiver als CopyPasta. Forscher warnen, dass AIPasta schwerer zu erkennen ist und auf sozialen Medienplattformen schwerer zu moderieren sein könnte.

Die Studie, die von Saloni Dash und Kollegen durchgeführt wurde, zeigt, dass generative KI in der Lage ist, überzeugende Inhalte zu produzieren. Während CopyPasta-Kampagnen den Effekt der “repetitiven Wahrheit” ausnutzen, indem sie denselben Text immer wiederholen, um ihn glaubwürdiger erscheinen zu lassen, kombiniert AIPasta diese Strategie mit der Fähigkeit von KI, leicht variierte Versionen zu erstellen.

In AIPasta-Kampagnen kann KI viele leicht unterschiedliche Versionen derselben Nachricht produzieren, was der Öffentlichkeit den Eindruck vermittelt, dass die Nachricht von vielen verschiedenen Menschen weit verbreitet und wahrscheinlich wahr ist. Die Autoren verwendeten sowohl CopyPasta- als auch AIPasta-Methoden, um Botschaften zu Verschwörungstheorien zu produzieren, dass die Präsidentschaftswahl 2020 betrügerisch war oder dass die COVID-19-Pandemie absichtlich herbeigeführt wurde.

In einer Online-Umfrage mit 1.200 Amerikanern, die über Prolific rekrutiert wurden, waren weder CopyPasta noch AIPasta effektiv darin, die Studienteilnehmer davon zu überzeugen, dass die untersuchten Verschwörungstheorien wahr sind. Bei der Untersuchung nur der republikanischen Teilnehmer, die möglicherweise geneigt sind, den spezifischen Verschwörungen Glauben zu schenken, erhöhte AIPasta den Glauben an die falsche Behauptung der Kampagne mehr als CopyPasta.

Für Teilnehmer beider Parteien erhöhte die Exposition gegenüber AIPasta – aber nicht CopyPasta – die Wahrnehmung, dass es einen breiten Konsens darüber gibt, dass die Behauptung wahr ist. Laut den Autoren wurde das für die Studie generierte AIPasta nicht von KI-Textdetektoren erkannt, was darauf hindeutet, dass es schwerer von sozialen Medienplattformen zu entfernen sein wird als CopyPasta, was wahrscheinlich seine Effektivität im Vergleich zu CopyPasta verstärkt.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!