LONDON (IT BOLTWISE) – Meta soll Werbung für ein KI-Tool namens „Kromix“ geschaltet haben, das bezahlten Nutzern das Erstellen pornografischer Deepfake-Videos mit Gesichtern von Politikerinnen erleichtert. Die Kampagne soll laut Meta über eine kurze Laufzeit hinweg 32 Anzeigen umfasst haben und wurde erst nach einer Anfrage wieder entfernt. Gleichzeitig entfernte Apple die App aus dem App Store, nachdem die Inhalte überprüft wurden. Der Fall zeigt, wie anfällig Werbe- und App-Ökosysteme gegenüber „Evasion“-Techniken sein können.
Die Werbe-Funktionalität großer Plattformen ist längst zu einem entscheidenden Sicherheitshebel geworden: Wer Anzeigen ausliefert, entscheidet mit darüber, welche Dienste überhaupt Aufmerksamkeit bekommen. Im aktuellen Fall rund um das Tool „Kromix“ berichten Betroffene und Rechercheure, dass Meta-Werbung ein Angebot beworben hat, das KI-generierte pornografische Inhalte und Deepfakes mit Gesichtern real wirkender Personen in den Mittelpunkt stellt. Laut der Beschreibung des Tools handelt es sich um einen „AI image styler“. In konkreten Anzeigen soll das Werbeformat dabei nicht nur sexualisierte Szenarien angestoßen, sondern zusätzlich visuell über Trick-Frames – etwa mit US-Flaggen und einem prominenten Gesicht – eine Ähnlichkeit zu realen Politikerinnen erzeugt haben. Genau diese Kombination aus Zielgruppe, Identitätsbezug und expliziten sexualisierten Inhalten macht den Vorgang aus Sicht der Plattformregeln besonders heikel.
Technisch betrachtet beruht die Wirksamkeit solcher Kampagnen auf einem zweistufigen Prozess: Zuerst versuchen Werbetreibende, die automatische Prüfung zu umgehen, anschließend nutzen sie den „Engagement“-Loop der Plattform, um den Dienst zu bewerben. Im Text wird beschrieben, dass Meta-Anzeigen mit einer harmlos wirkenden Bildkulisse arbeiten konnten – in mehreren Fällen etwa mit Motiven wie Strand, Bergen oder Wasserfällen – während der restliche Anzeigeninhalt pornografisch konnotiert war. Dazu kommt die App-Logik, wie sie für „Kromix“ dargestellt wird: Bezahlte Nutzer können offenbar Fotos hochladen, um daraus Szenarien zu erzeugen, darunter auch stark sexualisierte und nicht einvernehmliche Formulierungen. Die Beispiele umfassen zudem pornografische Videos mit Frauen in Superhelden-Kostümen. Dass derartige Angebote über die App-Verteilung dennoch massenhaft zugänglich gemacht werden können, zeigt, wie eng Werbeanzeige, Landingpage und App-Store-Datenfluss miteinander verzahnt sind.
Der Markt- und Plattformkontext ist dabei nicht neu, aber der konkrete Auslöser zeigt, wie schnell sich Angreifer anpassen. Laut Meta-Angaben in der Werbe-Datenbank soll die Kampagne über fünf bis 46 Stunden gelaufen sein und insgesamt 32 Anzeigen umfasst haben, wobei die meisten Anzeigen höchstens 10 oder weniger Impressionen bekommen haben. Gleichzeitig sei die Anzeigenführung laut Beschreibung exklusiv auf männliche Nutzer ausgerichtet gewesen. Dass es trotzdem zu einem Durchrutschen kam, hängt nicht zwingend an „schlechter“ Modellgüte, sondern oft an der sogenannten Ad-Evasion: Werbecontainer werden so gestaltet, dass einzelne Prüf-Merkmale fehlen oder zu spät erkannt werden, zum Beispiel durch wechselnde Bildbereiche, zeitlich abweichende Content-Teile oder das „Kaschieren“ problematischer Inhalte mit unkritischen Deckbildern. Für Meta ist das besonders relevant, weil die Plattform laut Beschreibung vor der Auslieferung zwar prüft, das Risiko aber gerade bei neu erstellten Accounts und kurzlebigen Seiten steigt. Im Text heißt es, die zugehörige Seite sei am 3. August erstellt worden, habe keine Follower aufgewiesen – beides Hinweise, die eine automatisierte Plausibilitätsprüfung zumindest stützen könnten.
Die Debatte geht jedoch über einzelne Werbekampagnen hinaus. Politikerinnen und gewählte Amtsträger sind laut Bericht seit Jahren Ziel von nicht einvernehmlichen Deepfakes. In diesem Zusammenhang wird auch auf frühere Fälle verwiesen, in denen KI-gestützte Bildgeneratoren in großem Maßstab sexualisierte Inhalte erzeugt haben und diese dann zur gezielten Ansprache von Behörden- und Politikerbildern genutzt wurden. Benjamin Shultz, der den Bericht über die Nutzung schädlicher Deepfake-Technologie untersucht, wird mit einer Kernaussage zitiert: „As the production and distribution of AI-generated content have democratized, formerly benign media – official portraits, video from a press conference – have become raw material for low- and no-code tools that anyone with an internet connection can use.“ Diese Aussage ordnet den technischen Fortschritt als gesellschaftliches Risiko ein: Was sich für den Zugang zu KI-Tools erleichtert, senkt auch die Eintrittshürde für Missbrauch. Für Unternehmen bedeutet das indirekt, dass Sicherheitsmaßnahmen nicht bei einem einzelnen System enden dürfen, sondern in einem ganzen Wertschöpfungsnetz aus Plattformen, App-Verzeichnissen und Zahlungszugriffen gedacht werden müssen.
Aus Sicht der Moderation liefert der Fall außerdem ein konkretes Spannungsfeld: Meta verweist laut öffentlicher Dokumentation darauf, dass das Review-System in erster Linie auf automatisierten Tools basiert und der Prozess bereits startet, bevor Anzeigen live gehen. Gleichzeitig wird im Text eine Meta-spezifische Policy-Linie genannt, nach der Anzeigen keine sexualisierten Inhalte enthalten dürfen, einschließlich Nacktheit, sexueller Aktivität oder sexuell suggestiver Darstellungen. Ergänzend heißt es, die breiteren Regeln zur „adult sexual exploitation“ untersagten nicht nur nicht einvernehmliche intime Bildinhalte, sondern auch die Bewerbung von „nudify“- oder „AI kissing“-Apps. Cindy Southworth, Leiterin „Women’s Safety“ bei Meta, untermauert das in mehreren Aussagen zur Bekämpfung: „Sexual exploitation, including promoting nudify apps, is horrific, and we work aggressively to fight it.“ Weiter heißt es von ihr: „This is a highly adversarial space where bad actors constantly evolve their tactics, which is why we’re continually strengthening our defenses: removing over 340,000 violating ads for nudify apps late last year alone, launching new AI technology to better detect and block new violating ads, and taking legal action against nudify app developers.“ Dass Southworth außerdem den Hinweis gibt, Meta teile gelöschte App- und Entwicklerinformationen mit anderen Tech-Unternehmen, zeigt den Versuch, nicht nur lokal zu blocken, sondern Informationsflüsse als Schutzschicht auszubauen.
Auf der anderen Seite benennt Katie Paul, Direktorin des Tech Transparency Project, den Kern des Problems in der Praxis: „All of the ads that we’ve seen so far broadly on the nudify issue are exclusively sexualizing and nudifying and putting women into AI-generated porn. And this raises a lot of questions about how Meta is going to deal with this kind of content, not just broadly but when it comes to female politicians, when the company is actively running ads containing this content on their platform.“ Außerdem wird beschrieben, dass Meta selbst von einer „adversarial tactic“ spricht: Die Werbenden hätten mit einem harmlosen Bild versucht, die Erkennung zu umgehen. In der Darstellung bleibt aber die zentrale Lücke offen: Warum gelang in diesem Fall der Durchgang durch die Systeme, obwohl Meta laut eigener Strategie „block and remove many violating ads“ erreicht und die Ads zuvor geprüft werden. Genau daran knüpft Apple an, das „Kromix“ laut Sprecherangaben aus dem App Store entfernte, nachdem das Tool offenbar nach einer anfänglichen Überprüfung verbotene Inhalte und Funktionen ergänzt habe. Für die Branche ist der damit sichtbare Handlungsstrang klar: Plattformen müssen nicht nur Content einzelner Anzeigen bewerten, sondern auch die dynamische Entwicklung von Apps und die Wechselwirkung zwischen Werbe- und App-Verteilkanälen stärker als zusammenhängendes System abbilden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Meta-Werbung für KI-Pornotool „Kromix“: Deepfakes gegen Politikerinnen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Meta-Werbung für KI-Pornotool „Kromix“: Deepfakes gegen Politikerinnen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Meta-Werbung für KI-Pornotool „Kromix“: Deepfakes gegen Politikerinnen« bei Google Deutschland suchen, bei Bing oder Google News!