LONDON (IT BOLTWISE) – Neue Erkenntnisse von OpenAI zeigen, wie generative KI gezielt Falschnachrichten und Social Engineering unterstützen kann. Laut den Untersuchungen sperrte das Unternehmen ein koordiniertes Netzwerk von Nutzerkonten, das mutmaßlich aus Kambodscha operierte. Im Umfeld sollen Betrugsmaschen von Investment- und Liebesbetrug bis zu Glücksspiel- und Strafverfolgungsszenarien unterstützt worden sein. Besonders brisant sind Hinweise auf erzwungene Kriminalität im Kontext von Menschenhandel.
Im Kern geht es bei der aktuellen OpenAI-Auswertung nicht um eine spektakuläre Schwäche einzelner KI-Modelle, sondern um die strategische Nutzung von KI als Verstärker für kriminelle Kommunikationsarbeit. Sprachmodelle können demnach nicht nur beim Formulieren helfen, sondern Inhalte so anfertigen, dass sie für Empfänger plausibel wirken und damit die Einstiegshürde für Betrug sinkt. In diesem Zusammenhang beschreibt OpenAI einen Einsatz generativer KI für die Erstellung authentisch wirkender Nachrichten sowie für großflächiges Social Engineering.
Konkreter wird das Bild durch eine von OpenAI identifizierte Gruppe von Nutzerkonten, die das Unternehmen koordiniert sperrte. Wie OpenAI mitteilte, operierte das Netzwerk mutmaßlich aus der kambodschanischen Provinz Preah Sihanouk heraus. Die Akteure sollen gefälschte Identitäten aufgebaut, Nachrichten übersetzt und damit unterschiedliche Betrugsansätze miteinander verknüpft haben – von klassischem Investment- und Liebesbetrug bis hin zu Varianten, die auf Glücksspiel oder vorgetäuschte Strafverfolgungsszenarien setzen.
Technisch und operativ auffällig ist, dass OpenAI interne Beschreibungen für die Vorgehensweise nennt: „ping“, „zing“ und „testing“. Dahinter steckt in der Praxis typischerweise ein Prozess, in dem erst Kontakt hergestellt, dann Aufmerksamkeit gesteuert und anschließend die Reaktion potenzieller Opfer geprüft wird, bevor eine größere Betrugsaktion ausgerollt wird. Belastbare Schadenssummen konnte OpenAI laut Bericht noch nicht abschließend beziffern, allerdings geht man davon aus, dass betroffene Personen jeweils Tausende US-Dollar verloren haben; zugleich seien einzelne Konten mit direkten Hinweisen auf erzwungene Kriminalität im Kontext von Menschenhandel in Verbindung gestanden.
Die Relevanz für Unternehmen reicht deutlich über die reine Messaging-Ebene hinaus. Im Kryptosektor warnt ein Sicherheitsverantwortlicher der Solana Foundation davor, dass KI Social Engineering, Phishing und Sprach-Deepfakes spürbar überzeugender mache. Das Risiko liege dabei nicht primär in technischen Schwachstellen der Blockchain-Architektur, sondern in der Manipulation von Menschen: Wenn Nutzer durch täuschend echte Kommunikation zu irreversiblen Handlungen gedrängt werden, etwa zur Preisgabe von Seed-Phrasen oder zur Freigabe bösartiger Transaktionen, wird aus „Datenverlust“ schnell finanzieller Schaden.
Auch außerhalb von Krypto wird die Angriffsfläche größer, weil KI-generierte Inhalte schneller, zielgenauer und in größerem Umfang produziert werden können. Laut einer Anhörung des US-Senats sei der Identitätsbetrug bei Banken von 2024 auf 2025 um 150 % gestiegen. Zusätzlich überstiegen im ersten Quartal 2025 die Verluste durch Deepfake-Betrug die Marke von 200 Mio. US-Dollar; besonders zugenommen hätten dabei Stimmklon-Betrug und manipulierter Medizinwerbung. Das zeigt, dass KI-gestütztes Social Engineering nicht auf einen einzelnen Kanal begrenzt ist, sondern von Sprache über Bildmaterial bis hin zu vermeintlich medizinisch oder behördlich wirkenden Aussagen wirkt.
Parallel dazu verschiebt sich auch die professionelle Kommunikation: Nicht nur Kriminelle, auch PR- und Marketing-nahe Prozesse greifen auf KI zurück, um Reichweite zu automatisieren oder „Outreach“ zu beschleunigen. Im Bericht wird etwa von einer britischen PR-Firma berichtet, die KI-Porträts für fiktive Mitarbeiter-Personas einsetzte, um Journalisten zu kontaktieren; die Gründerin habe das als vorübergehende Maßnahme im Umgang mit Problemen der Domain-Reputation begründet, während Kunden darüber offenbar nicht informiert wurden. Daneben heißt es, der CEO von Gradient Labs schätze, dass bereits 70 % der unaufgeforderten E-Mails auf KI-generierten Fake-Outreach zurückzuführen seien – damit wird eine harte Grenze sichtbar: Selbst wenn der Kontext „nur“ Kommunikation ist, können Identitätsmasken und automatisierte Ansprache betrügerische Abläufe erleichtern.
Für die nächsten Schritte im Unternehmen wird deshalb weniger die Frage „Wie gut ist die KI?“ entscheidend, sondern „Wie robust sind die Prozesse gegen KI-gestützte Täuschung?“. Im Bericht wird eine Rolle für strukturierte Schutzmaßnahmen betont: Organisationen sollen Manipulationen früh entlarven und stoppen können, bevor aus einer Antwort eine Schadenshandlung wird. Gleichzeitig erhöhen regulatorische Vorgaben den Druck zur Transparenz. Der EU AI Act sieht unter anderem vor, dass Chatbots ihre Identität als KI-System offenlegen (Artikel 50) und dass bestimmte Kennzeichnungspflichten für Deepfakes und KI-generierte Texte gelten, die für die Öffentlichkeit relevant sind. Für die Nichteinhaltung nennt der Bericht Bußgelder von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes; Bestandsregelungen sollen noch bis zum 2. Dezember 2026 Zeit für maschinenlesbare Kennzeichnungen geben, während große Plattformen bereits Labels für Videos einführen und Google einen Verhaltenskodex unterzeichnet hat.
Unternehmen sollten diese Gemengelage als Signal verstehen, ihre technischen und organisatorischen Kontrollen zusammenzubringen: Identitätsprüfung, Posteingangs- und Freigabeprozesse, Schulung mit realistischen Angriffsszenarien und klare Regeln für den Umgang mit sensiblen Daten wie Seed-Phrasen. Gerade weil die Durchsetzung über Grenzen hinweg schwierig bleibt, wird die Kombination aus Prozessdisziplin und verlässlichen technischen Signalen wichtiger als reine Compliance-Papierarbeit. So entsteht aus der aktuellen Betrugsaufdeckung von OpenAI eine konkrete Leitlinie: KI ist im Alltag nicht nur ein Produktivitätswerkzeug, sondern auch ein Angriffsmotor – und Abwehr muss deshalb ebenso zielgerichtet ansetzen wie die Täuschung.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Falschnachrichten: OpenAI deckt Betrugsnetzwerk mit Social Engineering auf" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Falschnachrichten: OpenAI deckt Betrugsnetzwerk mit Social Engineering auf" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Falschnachrichten: OpenAI deckt Betrugsnetzwerk mit Social Engineering auf« bei Google Deutschland suchen, bei Bing oder Google News!