KI-Desinformation im Israel-Iran-Konflikt: Eine neue Dimension

LONDON (IT BOLTWISE) – Der jüngste Konflikt zwischen Israel und Iran hat eine Flut von Desinformationen ausgelöst, die durch den Einsatz von Künstlicher Intelligenz (KI) eine neue Dimension erreicht hat.

Seit Beginn der israelischen Angriffe auf den Iran hat sich eine Welle von Desinformationen im Internet verbreitet. Diese Desinformationen, die oft durch KI generiert werden, zielen darauf ab, die militärischen Fähigkeiten des Irans zu übertreiben und die Reaktionen Teherans als besonders effektiv darzustellen. Laut Branchenberichten haben einige dieser gefälschten Videos bereits über 100 Millionen Aufrufe auf verschiedenen Plattformen erreicht. Auch pro-israelische Accounts verbreiten Desinformationen, indem sie alte Aufnahmen von Protesten im Iran recyceln und fälschlicherweise behaupten, dass diese die Unterstützung der iranischen Bevölkerung für Israels militärische Aktionen zeigen.

Die Angriffe Israels auf den Iran begannen am 13. Juni und führten zu mehreren Runden iranischer Raketen- und Drohnenangriffe auf Israel. Eine Organisation, die offene Bildquellen analysiert, beschreibt das Volumen der Desinformationen als ‘erstaunlich’ und wirft sogenannten ‘Engagement-Farmern’ vor, von dem Konflikt profitieren zu wollen, indem sie irreführende Inhalte teilen, die online Aufmerksamkeit erregen sollen. Diese Inhalte reichen von nicht zusammenhängendem Filmmaterial aus Pakistan bis hin zu recycelten Videos von den Angriffen im Oktober 2024. Einige dieser Videos haben über 20 Millionen Aufrufe erreicht. Auch Spielclips und KI-generierte Inhalte werden als echte Ereignisse ausgegeben. Bestimmte Accounts haben sich zu ‘Superverbreitern’ von Desinformationen entwickelt und verzeichnen ein signifikantes Wachstum ihrer Followerzahlen.

Ein pro-iranischer Account, der keine offensichtlichen Verbindungen zu den Behörden in Teheran hat, verzeichnete einen Anstieg seiner Follower auf X von etwas über 700.000 am 13. Juni auf 1,4 Millionen bis zum 19. Juni, ein Anstieg von 85 % in weniger als einer Woche. Es handelt sich um viele obskure Accounts, die kürzlich in den Feeds der Menschen aufgetaucht sind. Alle haben blaue Häkchen, sind produktiv im Messaging und haben wiederholt Desinformationen gepostet. Da einige scheinbar offizielle Namen verwenden, haben einige Menschen angenommen, dass es sich um authentische Accounts handelt, aber es ist unklar, wer tatsächlich die Profile betreibt. Diese Flut von Desinformationen markiert ‘das erste Mal, dass generative KI in großem Maßstab während eines Konflikts eingesetzt wird’, sagte Emmanuelle Saliba, Chief Investigative Officer der Analystengruppe Get Real, gegenüber Branchenberichten.

Accounts, die von Branchenexperten überprüft wurden, teilen häufig KI-generierte Bilder, die offenbar darauf abzielen, den Erfolg der iranischen Reaktion auf die israelischen Angriffe zu übertreiben. Ein Bild, das 27 Millionen Aufrufe hat, zeigt Dutzende von Raketen, die auf die Stadt Tel Aviv fallen. Ein weiteres Video soll einen Raketenangriff auf ein Gebäude in der israelischen Stadt bei Nacht zeigen. Frau Saliba sagte, dass die Clips oft nächtliche Angriffe darstellen, was ihre Überprüfung besonders schwierig macht. KI-Fälschungen konzentrieren sich auch auf Behauptungen über die Zerstörung israelischer F-35-Kampfflugzeuge, eines hochmodernen US-amerikanischen Flugzeugs, das in der Lage ist, Boden- und Luftziele anzugreifen.

Wenn die Flut von Clips echt wäre, hätte der Iran 15 % der israelischen Flotte dieser Flugzeuge zerstört, sagte Lisa Kaplan, CEO der Analystengruppe Alethea, gegenüber Branchenberichten. Wir haben noch kein Filmmaterial authentifiziert, das den Abschuss von F-35s zeigt. Ein weit verbreiteter Beitrag behauptete, ein Jet sei nach einem Abschuss in der iranischen Wüste beschädigt worden. Anzeichen von KI-Manipulationen waren jedoch offensichtlich: Zivilisten um den Jet herum waren genauso groß wie nahegelegene Fahrzeuge, und der Sand zeigte keine Anzeichen eines Aufpralls.

Ein weiteres Video mit 21,1 Millionen Aufrufen auf TikTok behauptete, eine israelische F-35 sei von Luftabwehr abgeschossen worden, aber das Filmmaterial stammte tatsächlich aus einem Flugsimulator-Videospiel. TikTok entfernte das Filmmaterial, nachdem es von Branchenexperten angesprochen wurde. Frau Kaplan sagte, dass ein Teil des Fokus auf F-35s von einem Netzwerk von Accounts getrieben wird, das Alethea zuvor mit russischen Einflussoperationen in Verbindung gebracht hat. Sie bemerkte, dass russische Einflussoperationen kürzlich den Kurs geändert haben, von dem Versuch, die Unterstützung für den Krieg in der Ukraine zu untergraben, hin zu Zweifeln an der Fähigkeit westlicher – insbesondere amerikanischer – Waffen zu säen.

‘Russland hat wirklich keine Antwort auf die F-35. Was kann es also tun? Es kann versuchen, die Unterstützung dafür in bestimmten Ländern zu untergraben’, sagte Frau Kaplan. Desinformationen werden auch von bekannten Accounts verbreitet, die sich zuvor zum Israel-Gaza-Krieg und anderen Konflikten geäußert haben. Ihre Motive variieren, aber Experten sagen, dass einige versuchen könnten, den Konflikt zu monetarisieren, da einige große Social-Media-Plattformen Auszahlungen an Accounts anbieten, die große Aufrufzahlen erreichen. Im Gegensatz dazu konzentrieren sich pro-israelische Beiträge weitgehend auf Vorschläge, dass die iranische Regierung angesichts der anhaltenden Angriffe mit zunehmendem Widerstand konfrontiert ist.

Unter ihnen ist ein weit verbreitetes KI-generiertes Video, das fälschlicherweise vorgibt, Iraner würden auf den Straßen von Teheran ‘Wir lieben Israel’ rufen. In den letzten Tagen – und während die Spekulationen über US-Angriffe auf iranische Nuklearanlagen zunehmen – haben einige Accounts begonnen, KI-generierte Bilder von B-2-Bombern über Teheran zu posten. Der B-2 hat seit Beginn der israelischen Angriffe auf den Iran große Aufmerksamkeit erregt, da er das einzige Flugzeug ist, das effektiv einen Angriff auf die unterirdischen Nuklearanlagen des Iran durchführen kann.

Offizielle Quellen im Iran und Israel haben einige der gefälschten Bilder geteilt. Staatsmedien in Teheran haben gefälschtes Filmmaterial von Angriffen und ein KI-generiertes Bild eines abgeschossenen F-35-Jets geteilt, während ein Beitrag, der von den Israelischen Verteidigungsstreitkräften (IDF) geteilt wurde, eine Community-Notiz auf X erhielt, weil er altes, nicht zusammenhängendes Filmmaterial von Raketenangriffen verwendete. Viele der von Branchenexperten überprüften Desinformationen wurden auf X geteilt, wobei Benutzer häufig auf den KI-Chatbot der Plattform – Grok – zurückgreifen, um die Echtheit von Beiträgen zu überprüfen. In einigen Fällen bestand Grok jedoch darauf, dass die KI-Videos echt seien.

Ein solches Video zeigte einen endlosen Strom von Lastwagen, die ballistische Raketen aus einem Bergkomplex transportierten. Auffällige Anzeichen von KI-Inhalten waren unter anderem Felsen im Video, die sich von selbst bewegten, sagte Frau Saliba. Doch in Reaktion auf X-Nutzer bestand Grok wiederholt darauf, dass das Video echt sei und berief sich auf Berichte von Medien wie Newsweek und Reuters. ‘Überprüfen Sie vertrauenswürdige Nachrichten für Klarheit’, schloss der Chatbot in mehreren Nachrichten.

X reagierte nicht auf eine Anfrage von Branchenexperten zu den Aktionen des Chatbots. Viele Videos sind auch auf TikTok und Instagram erschienen. In einer Erklärung an Branchenexperten sagte TikTok, dass es proaktiv die Community-Richtlinien durchsetzt, ‘die ungenaue, irreführende oder falsche Inhalte verbieten’ und dass es mit unabhängigen Faktenprüfern zusammenarbeitet, um ‘irreführende Inhalte zu überprüfen’. Der Instagram-Besitzer Meta reagierte nicht auf eine Anfrage zur Stellungnahme. Während die Motive derjenigen, die Online-Fälschungen erstellen, variieren, werden viele von gewöhnlichen Social-Media-Nutzern geteilt.

Matthew Facciani, ein Forscher an der University of Notre Dame, schlug vor, dass Desinformationen online schneller verbreitet werden können, wenn Menschen mit binären Entscheidungen konfrontiert werden, wie sie durch Konflikte und Politik aufgeworfen werden. ‘Das spricht für das breitere soziale und psychologische Problem, dass Menschen Dinge erneut teilen wollen, wenn sie mit ihrer politischen Identität übereinstimmen, und auch im Allgemeinen wird sensationeller emotionaler Inhalt online schneller verbreitet.’

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!