LONDON / LONDON (IT BOLTWISE) – Nach einer Untersuchung sollen auf Facebook und Instagram Anzeigen mit KI-animiertem, sexualisiertem CSAM wochenlang zu spät oder unvollständig entfernt worden sein. Die Recherche nennt 332 Anzeigen, die offenbar Kindesmissbrauchs-Content bewarben und vielfach mit Bildern realer Minderjähriger arbeiteten. Besonders alarmierend: In Werbetexten sollen Nutzer mit Aussagen gelockt worden sein, die eine „Nudify“-Nutzung ohne Einschränkungen versprechen. Meta entfernt zwar die gemeldeten Anzeigen, nach Angaben der Ermittler bleibt aber der Eindruck inkonsistenter Kontrollen.
Die Debatte um KI-gestützte „Nudify“-Apps bekommt auf Meta-Plattformen eine neue Schärfe: Eine von der Tech Transparency Project (TTP) veröffentlichte Auswertung kommt zu dem Ergebnis, dass Meta Anzeigen mit CSAM-Inhalten (Child Sexual Abuse Material) auf Facebook und Instagram nicht rechtzeitig erkannt und entfernt habe. Im Kern geht es dabei nicht nur um KI-Generierung, sondern um die Kombination aus KI-Animation und der Verwendung echter Fotos von Kindern: TTP ordnet 332 Anzeigen in diesem Jahr dem Verdacht zu, solche Darstellungen zu enthalten, und betont, dass dabei in sehr vielen Fällen vorpubertäre Mädchen im Mittelpunkt standen. Gerade diese Ausspielung über den Werbekanal macht das Thema für Sicherheits- und Compliance-Teams besonders dringlich, weil hier keine analoge Medienprüfung stattfindet, sondern ein automatisierter Feed mit schnellem Durchlauf.
Technisch ist das Problem vor allem eine Frage nach der Erkennungslogik für „Child Exploitation“-Signale in Kombination mit KI-Transformationen. TTP beschreibt, dass die Organisation „multiple CSAM ads“ anhand der zugrunde liegenden Fotos realer Kinder bestimmten konnte, die zuvor online sichtbar waren. Damit wird das klassische Muster von Content-Missbrauch erweitert: Statt nur bei statischen, eindeutig erkennbaren Bildinhalten zu greifen, müssen Systeme auch kurzzeitig anmutende, animierte Clips sowie Bildvarianten erkennen, die aus realem Material abgeleitet und dann sexualisiert werden. Wenn einzelne Clips „brief oder blurred“ seien, wie ein Meta-Sprecher gegenüber einer weiteren Berichterstattung einordnete, sinkt die Erkennungswahrscheinlichkeit für visuelle Zuordnungen und steigt die Relevanz für Kontextsignale wie Caption-Text, Landing-Page-Umfeld oder Muster in der Werbestruktur.
Die Untersuchung zeichnet zusätzlich ein Bild von Inkonsistenzen im Werbeprüfprozess. TTP hebt hervor, dass die Erkenntnisse nach einer ersten Meldung Anfang August entstanden seien, in der bereits 53 Anzeigen auffällig gewesen sein sollen und Meta neue Detektionssysteme in Aussicht gestellt habe. Laut TTP seien dagegen „hundreds“ an neuen CSAM-Anzeigen nach diesem Hinweis erneut gelaufen, während eine separate Analyse nach ähnlicher Sprache in Werbetexten gesucht und ebenfalls explizite Inhalte identifiziert haben soll. Im Zeitfenster dazwischen soll Meta zwar in den Stunden nach den Meldungen große Teile entfernt haben, jedoch seien viele Anzeigen zunächst nicht als Verstoß gegen die Policy „Child Exploitation“ markiert gewesen und das erst nachträglich aktualisiert worden. TTP argumentiert in diesem Zusammenhang, eine solche Nachbesserung könne auf eine Unterzählung hindeuten, insbesondere wenn noch Tage nach der ersten Ermittlung weiter solche Anzeigen aktiv blieben.
Für die Markt- und Geschäftsseite ist die Dimension „Reichweite“ entscheidend. TTP nennt, dass die betroffenen Anzeigen in Summe mehr als 29.000 Personen in der EU und 6.800 Personen im Vereinigten Königreich erreicht haben sollen. In den Details wird außerdem beschrieben, dass ein Teil der Anzeigen in den USA mit Abstand am häufigsten ausgespielt worden sein soll. Meta selbst habe gegenüber einer weiteren Berichterstattung betont, dass die „flagged ads“ im Schnitt weniger als 200 Impressionen erhalten und eine gesamte Werbespend unter 5.000 US-Dollar aufgewiesen hätten; gleichzeitig stellt TTP die Aussagekraft dieser Bewertung infrage, weil bereits eine Untererfassung bedeuten könne, dass die Plattform finanziell stärker profitiert habe, als Meta einräume. In der politischen Debatte wirkt diese Spannung weiter: TTP verweist auf ein historisches 18-Milliarden-US-Dollar-Settlement, das Meta zu Änderungen mit Fokus auf Kinderschutz verpflichten soll, und außerdem auf den Beschlusskontext aus Gesetzgebung und Aufsicht. Dass die Kontrolle im Werbesystem selbst dabei eine Rolle spielen soll, wird auch von Campaign-for-Accountability-Leitung Michelle Kuppersmith aufgegriffen: „If Meta’s ad approval process can’t detect and reject such obviously horrific content before it is shown to Facebook and Instagram users, then Meta’s whole ad review system should be called into question“.
Auch beim Thema „Zulieferer und Reseller“ verlagert sich der Fokus vom reinen Bildsignal hin zur Werbe-Ökonomie. TTP greift einen bereits zuvor berichteten Ansatz auf, wonach Meta angeblich nicht immer sofort reagiere, wenn chinesische Reseller Werbeangebote hochladen, die gegen Regeln verstoßen. In der aktuellen Auswertung sollen drei Reseller-Partner in China (GIMC, Meetsocial und BlueFocus) Werbeanzeigen mit identischem CSAM-Content auf Facebook und Instagram betrieben haben, ohne rechtzeitig erkannt zu werden. Daneben wird ein weiterer Missbrauchspfad beschrieben: Anzeigen seien teils mit Seiten verknüpft, die TTP als betrügerisch und unauthentisch einordnet, etwa Landing-Pages ohne belastbaren Inhalt oder mit auffälligen „Clone“-Mustern bei Profilen. Für die technische Umsetzung heißt das: Systeme dürfen nicht nur einzelne Creatives bewerten, sondern müssen auch Domain-/Seiten-Reputation, Identitätsmuster und Verlinkungsgraphen stärker berücksichtigen, weil KI-Animationen sich schnell iterieren lassen, während Absenderstrukturen eher stabil bleiben.
Schließlich rückt die Frage nach rechtlichen Konsequenzen und Aufsicht in den Vordergrund. TTP stellt dabei den Bezug zu US-Bundesrecht her und nennt die Einordnung, dass AI-CSAM ebenso schädlich sei wie klassisches CSAM; zugleich wird das Risiko deutlich, dass bereits kleine Verzögerungen reale Opfer weiter belasten. Katie Paul, Direktorin von TTP, ordnete die verzögerte Reaktion als besonders problematisch ein, weil „there’s a lot of harm that can come from this all while Meta is raking in money in the process“. Meta habe nach eigenen Aussagen „nudify apps“ und jede Form von Kinderausbeutung, ob real oder KI-generiert, nicht zu tolerieren; als Grund für entgangene Fälle wird jedoch auf schwer erkennbare Clips verwiesen. Zeitgleich kommt aus der Präventions- und Kinderschutzszene ein klarer Appell: Emma Hardy von der Internet Watch Foundation sagte „AI apps are making it far too easy to create realistic criminal imagery of child sexual abuse, creating the new risk of everyday photos of children being taken and transformed into sexual content“ und ergänzte „Platforms and companies must make sure there is nowhere these apps can be advertised and spread.“ Für Unternehmen, die KI-gestützte Content-Produkte anbieten oder ihre Werbe- und Moderationsprozesse aufrüsten, bedeutet das: Nicht nur Modellgenauigkeit, sondern auch Prozessgeschwindigkeit, Konsistenz der Policy-Anwendung und saubere Auditierbarkeit von Entscheidungen werden zur entscheidenden Betriebskennzahl.
Hinweis: Einige Aussagen in der Quelle formulieren Vorwürfe; daher werden die beschriebenen Kontrolldefizite und Verzögerungen hier im Kontext der genannten Untersuchung wiedergegeben.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Meta soll Hunderte KI-„Nudify“-Werbeanzeigen mit CSAM zu spät entfernt haben" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Meta soll Hunderte KI-„Nudify“-Werbeanzeigen mit CSAM zu spät entfernt haben" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Meta soll Hunderte KI-„Nudify“-Werbeanzeigen mit CSAM zu spät entfernt haben« bei Google Deutschland suchen, bei Bing oder Google News!