WASHINGTON, D.C. / LONDON (IT BOLTWISE) – Forschende einer US-Denkfabrik beobachten, dass Betrüger auf X gezielt islamfeindliche KI-Posts als Reichweiten-Köder nutzen. Aus Kommentaren und Interaktionen werden anschließend Zugriffe auf Telegram und gefälschte Krypto-„Angebote“ gesteuert. In mehreren Fällen wurden Profile mit Trump-Bezug aufgebaut, ohne dass sich dafür nachweisbare Verbindungen zeigten. Unklar bleibt, wie viele Menschen tatsächlich Geld verloren haben.
Eine besonders perfide Masche verknüpft die Logik von Social-Engagement mit klassischem Betrug: Forschende des „Center for the Study of Organized Hate“ berichten, dass mutmaßliche Scam-Operationen auf X islamfeindliche KI-Posts als Türöffner nutzen. In der an Wahlkampfphasen erinnernden Hochsaison rund um September begannen die Mitarbeitenden, eine „bizarre und beunruhigende“ Variante von KI-gestütztem Content zu sichten, die ausdrücklich auf Ressentiments gegenüber Muslimen setzt. Mehrere Beispiele beschreiben sie als Posts mit überlagerten Texten, darunter ein Motiv mit einer muslimischen Familie am Flughafen und die Aufforderung, man wolle „Amerika verlassen“ wegen mangelnder Anerkennung – begleitet von Bildunterschriften, die Hass oder Ausgrenzung dramaturgisch zuspitzen.
Technisch lässt sich das Muster als eine Kombination aus generierten Bildern, algorithmisch verstärkter Sichtbarkeit und anschließender Konvertierung in andere Kanäle verstehen. Die Forschenden nennen, dass viele solcher Posts „tausende Kommentare“ erzeugten und häufig zehntausendfach gesehen wurden. Das ist wichtig, weil es zeigt, wie sich der Empfehlungs- und Interaktionsmechanismus sozialer Netzwerke als Verstärker missbrauchen lässt: Nicht die langfristige Überzeugungsarbeit mit einem einzelnen Opfer steht im Vordergrund, sondern ein massentauglicher Aufreger, der möglichst viele Reaktionen auslöst. Genau diese Reaktionsdynamik wird später genutzt, um Follower in „direkte Nachrichten“ und damit in Umgebungen zu lenken, in denen Kontrolle und Moderation schwächer sind.
Personell und organisatorisch erkennen die Forschenden zudem Hinweise auf eine „bait-and-switch“-Strategie. Viele Accounts, die die islamfeindlichen Inhalte posteten, trugen Namen, die eine Anbindung an Figuren aus dem Umfeld von Donald Trump suggerieren sollten – etwa in Richtung Trump, Trump Jr. oder JD Vance. Gleichzeitig fanden die Forschenden laut ihrem Bericht keine belastbaren Verbindungen zu den genannten Personen. Auffällig sei außerdem, dass die Accounts vorgaben, in den USA zu sitzen, während „About this account“-Angaben auf eine Basis im Ausland hindeuteten. Raqib Naik, Gründer und Executive Director des Centers, brachte die Kernidee auf den Punkt: „It’s very clear that they understand that there is a demand for this kind of content in the country right now, “ sagte er. „And they’re fulfilling that supply.“
Im nächsten Schritt verlagern die mutmaßlichen Betreiber den Kontakt weg von X. Der Bericht beschreibt, dass Personen, die solchen Accounts zunächst wegen der islamfeindlichen Viral-Posts gefolgt waren, später eine andere Art von Warnung erhalten: Es gehe um eine bevorstehende Krise im globalen Finanzsystem, aus der sich das Opfer angeblich durch Geldtransfers und konkrete Anweisungen per Direktnachricht „retten“ könne. Meriem Mahdhi, die leitende Forscherin, ordnet das als strukturellen Fehler der Aufmerksamkeit in einem politischen Klima ein, in dem Islamfeindlichkeit bereits Aufmerksamkeit generiert: „The anger is the hook and the outrage gets shares and comments, “ schrieb sie. „These shares grow the account’s reach, and the followers who engage are then steered toward the fake investment schemes, the celebrity impersonators and Telegram channels.“
Ein konkretes Beispiel zeigt, wie die Brücke in die Betrugslogik gebaut wird. Ein Account namens „Trump Account“ wurde als finanzieller News-Kanal präsentiert; nach Angaben der Forschenden deutet das Setup jedoch auf einen Proxy-Einsatz und eine Anbindung über eine Android-App hin. Nachdem der Account über Wochen pro-Trump- und anti-muslimische Inhalte ausgespielt hatte, forciere er später Aufrufe zum Krypto-Kauf und zur Anmeldung beim „Quantum Financial System“ – einem Begriff, der laut Bericht häufig in Finanzkonspirationen auftaucht. Über Telegram liefen anschließend Gespräche, in denen der Absender behauptete, er sei eng mit Personen aus dem Trump-Umfeld verbunden, und dem Empfänger nahelegte, ein neues Konto einzurichten sowie über einen Link zu registrieren.
Für Unternehmen und Sicherheitsteams ist dabei weniger die einzelne Fake-Story relevant als die wiederkehrende Zielauswahl und die technische Abkürzung: Mahdhi beschreibt, dass die Täter offenbar bevorzugt Nutzer ansprechen, die bereits Verschwörungsannahmen wie QAnon abonnieren. Statt Zeit in die mühsame Identifikation und den schrittweisen Vertrauensaufbau zu investieren, übernehmen offenbar Algorithmen auf X den „schweren Teil“ und bringen genau die Zielgruppe in Reichweite der späteren Scam-Aufforderungen. Der Journalist Mike Rothschild, der sich auf Verschwörungserzählungen fokussiert, ordnet die zugrunde liegenden Finanzmythen als ältere Strukturen ein: „It’s all playing on people’s need to feel like they know what’s going on, “ sagte er. „They’re clued in, and they’re going to get something that other people don’t know about.“
Gleichzeitig zeigt der Bericht, dass Plattformmaßnahmen zwar in die richtige Richtung gehen, aber nicht ausreichen, wenn die Umleitung in andere Ökosysteme funktioniert. X habe Schritte unternommen, um Clickbait und „low-quality“-Content einzudämmen, darunter Änderungen an einem Programm zur Umsatzbeteiligung und später die Beendigung dieses Programms im September. Zudem habe X im Oktober über 13.000 Accounts mit mutmaßlichen Auslands-Influence-Operationen suspendiert. Ob die konkret identifizierten Scam-Accounts Teil dieser Welle waren, bleibt laut Bericht unklar – aber einige Profile seien nach der Kontaktaufnahme ebenfalls gesperrt worden, während weiterhin viele aktiv geblieben seien.
Unterm Strich entsteht eine neue Angriffsfläche an der Schnittstelle zwischen KI-Content, politischen Triggern und Krypto-Betrug. Der Bericht verweist darauf, dass der Kontext rund um Trump und Krypto eine zusätzliche Andockstelle bietet und dass offizielle Accounts in der Vergangenheit Versatzstücke der QAnon-Erzählung auf X aufgegriffen hätten. Ungeklärt bleibt, wie viele Menschen tatsächlich auf die Angebote eingestiegen sind; die Forschenden sehen allerdings Indizien, dass das „Lure“-Modell funktioniert, weil Islamfeindliche Posts schnell Reaktionen erzeugen und diese wiederum in Chats und Telegram-Konversationen überführen. Für Sicherheitsverantwortliche heißt das: Der Fokus darf nicht nur auf der Betrugs-Endstrecke liegen, sondern muss auch die frühe Erkennungsphase bei algorithmisch verstärktem, kontroversem KI-Content einschließen – denn dort beginnt der Hebel, der später in den finanziellen Schaden übersetzt.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Content als Köder: Islamfeindliche Betrugsmaschen auf X" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Content als Köder: Islamfeindliche Betrugsmaschen auf X" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Content als Köder: Islamfeindliche Betrugsmaschen auf X« bei Google Deutschland suchen, bei Bing oder Google News!