PENNSYLVANIA / LONDON (IT BOLTWISE) – Laut einer Untersuchung konnten Minderjährige in den USA trotz aktivierter Alters- und Jugendschutzfunktionen auf sogenannte „nudify“-Apps zugreifen. In dem Test wurden mit vier 13-jährigen Testkonten insgesamt 135 Apps heruntergeladen, die das Entkleiden per Bild- und KI-Video-Tools oder Face-Swapping in Nackt-Umgebungen erlauben. Nach dem Download blieben Inhalte und Funktionen teils auch dann nutzbar, wenn Plattformbetreiber Apps später entfernten. Für Eltern und Sicherheitsverantwortliche verschiebt das die Diskussion von „App-Store-Filterung“ hin zu wirksamen Kontroll- und Moderationsprozessen.
Die konkrete Fallbeschreibung aus Pennsylvania wirkt wie ein Weckruf für den Alltag von Familien: Eine Schülerin soll mit einer KI-basierten Bildbearbeitungs-App aus Fotos pornografische oder sexualisierte Videos generiert haben. Aus dem Bericht geht hervor, dass dabei nicht nur einzelne Ausreißer vorkamen, sondern Mitschülerinnen und Mitschüler ähnliche „nudify“-Anwendungen nutzten, um nicht-einvernehmliche Nacktbilder oder Nackt-Animationen herzustellen. Der technische Kern dahinter ist vergleichsweise simpel: Moderne KI-gestützte Bild- und Video-Editoren können aus einer hochgeladenen Vorlage ein animiertes Ergebnis ableiten und bieten dabei häufig voreingestellte Templates. Genau diese Templates machen den Unterschied zwischen „harmloser“ Bildbearbeitung und missbräuchlicher, sexualisierter Deepfake-Erzeugung aus.
Besonders brisant ist, wie leicht sich der Zugang trotz bestehender Schutzmechanismen offenbar öffnen ließ. Die Forschergruppe setzte für den Test vier Konten auf, zwei bei Apple und zwei bei Google, und ließ diese Konten als 13-jährig erscheinen. Anschließend suchten sie in den jeweiligen Stores gezielt nach Begriffen wie „AI video generator“ und „adult AI“ sowie nach App-Typen, die auf Face-Swapping oder ähnliche Workflows ausgelegt sind. In der beschriebenen Versuchsanordnung führten diese Suchen zur Downloadfreigabe von 135 Apps, deren Funktionen das Entkleiden von Personen in KI-generierten Bildern oder das Ersetzen von Gesichtern durch Nackt-Templates ermöglichten. Der Bericht nennt dabei auch Beispiele aus der Praxis der Tests: Die Simulationen nutzten nicht Fotos echter erwachsener Personen, sondern erzeugten selbstständig sexualisierte Darstellungen innerhalb der App-Werkzeuge.
Technisch betrachtet ist das Problem weniger „fehlende Technologie“ als vielmehr eine Lücke im Governance-Design der App-Ökosysteme. Plattformen wie Apple und Google verbieten laut Bericht die Verteilung solcher „nudify“-Anwendungen und setzen bei Apps mit Erwachsenenbezug häufig Altersfilter oder Age-Gating ein. Dennoch zeigte die Untersuchung, dass die Systeme stark davon abhängen können, wie Entwickler ihre Apps einstufen und ob Altersfreigaben durch die Plattform hinreichend zuverlässig und durchgehend überprüft werden. In mehreren Fällen seien Apps als für Minderjährige geeignet gekennzeichnet gewesen, obwohl sie in der Praxis Funktionen zum digitalen Entkleiden oder zu sexualisierten Bildszenarien bereitstellten. Das verweist auf eine klassische Schwachstelle: Wenn Moderation und Altersklassifizierung überwiegend auf Selbstauskünften der Entwickler beruhen, kann ein „Bait-and-Switch“-Muster entstehen, bei dem Funktionen nach Veröffentlichung nachgezogen oder in Updates eingebracht werden.
Die Detailbeobachtungen zeigen zudem, dass Alterschecks allein keine geschlossene Barriere bilden. In einer beschriebenen Konstellation wurde eine App beworben, die explizite sexuelle Inhalte zeigte, gleichzeitig aber für sehr junge Altersgruppen als geeignet eingestuft war; in den Tests ließ sich die Erstellung sexualisierter Face-Swaps entsprechend den App-Workflows auslösen. Ein weiteres Beispiel: Selbst dort, wo eine Pop-up-Warnung auf „age-restricted material“ hinwies, reichte offenbar ein manuelles Bestätigen als 17-Jähriger aus, während das Konto als 13-jährig registriert blieb. Gleichzeitig blockierte Google laut Bericht bestimmte Downloads in einem Elternkonten-Setup wiederholt, ließ aber dennoch die Installation zahlreicher „nudify“-Apps zu, sofern diese vom Store-System als altersgerecht deklariert waren. Damit entsteht ein widersprüchliches Bild: Einerseits melden Plattformen proaktiv Verstöße, andererseits gelingt es im Gesamtsystem, dass problematische Apps überhaupt erst in Reichweite minderjähriger Konten geraten.
Was die Lage für Eltern, Schulen und Sicherheitsverantwortliche zusätzlich erschwert: Selbst wenn Plattformbetreiber Apps nachträglich entfernen, bleibt der Schaden in der Regel nicht nachträglich „abschaltbar“. Der Bericht beschreibt, dass Apple im Zuge der Recherche 25 Apps entfernte und Google sechs, dass die getesteten Konten die Apps jedoch teils bereits heruntergeladen hatten und die Funktionen dadurch weiter nutzbar blieben. Im beschriebenen Fall von Movely schildert die Mutter außerdem, dass die App nach ihrer eigenen Recherche zwar aus dem Store verschwand, auf dem Gerät aber weiterhin vollständig funktionierte und sogar die bezahlte Abo-Nutzung weiterlief. Das verschiebt den Fokus der Prävention: Nicht nur die Frage „kommt die App in den Store?“ ist entscheidend, sondern auch, wie schnell Missbrauch nach dem Download technisch und prozessual unterbunden wird – etwa durch Deaktivierung bestimmter Funktionspfade oder durch wirksame, nachgelagerte Controls.
Rechtlich und gesellschaftlich kommt ein weiterer Aspekt hinzu: Die Dynamik rund um nicht-einvernehmliche, digital erzeugte Inhalte lässt sich nicht sauber mit dem Begriff „Deepfake“ allein beschreiben, weil sie in vielen Fällen als sexualisierte Belästigung mit realen betroffenen Personen im schulischen Umfeld auftritt. Laut Polizei in Radnor wurde gegen den genannten Mitschüler wegen Harassment ein Strafverfahren eingeleitet; zugleich bleibt in dem Bericht offen, wie vollständig die Tatsachenlage bereits gesichert ist. Parallel dazu wird berichtet, dass die Schulleitung den Vorfall zunächst anders bewertet habe und es keine Anhaltspunkte für Fehlverhalten gegeben habe – eine Aussage, die im Lichte des späteren polizeilichen Vorgehens jedoch in der Wahrnehmung der Familie zu deutlicher Verunsicherung geführt hat. Für Organisationen bedeutet das: Es reicht nicht, den technischen Missbrauch zu stoppen; sie müssen auch die betroffenen Personen so unterstützen, dass Folgen wie Angst, Verwirrung und Kontrollverlust nicht eskalieren.
Für Unternehmen, die KI-gestützte Medienbearbeitung liefern oder in App-Ökosysteme integrieren, ergibt sich daraus eine klare Lehre für die Produkt- und Moderationspraxis. Wenn Alterskennzeichnung und inhaltliche Freigabe zu stark am „App-Store-Label“ hängen, werden KI-gestützte Funktionsupdates und Template-basiertes Missbrauchspotenzial zu spät sichtbar. Zusätzlich lohnt der Blick auf das Zusammenspiel aus Suchfunktion, Landingpages und tatsächlichen App-Funktionen: Selbst ein Age-Gating kann unterlaufen werden, wenn problematische Apps korrekt als „harmlos“ dargestellt werden oder wenn Such- und Downloadpfade weniger streng kuratiert sind als die spätere In-App-Nutzung. Der konkrete Fall aus dem Bericht liefert damit auch für KI-Teams einen messbaren Maßstab: Risiko entsteht dort, wo „vertriebsseitige Freigabe“ nicht mit „funktionsseitiger Schutzlogik“ zusammenfällt.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Wie „Nudify“-Apps trotz Alterschecks Minderjährigen Zugang finden" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Wie „Nudify“-Apps trotz Alterschecks Minderjährigen Zugang finden" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Wie „Nudify“-Apps trotz Alterschecks Minderjährigen Zugang finden« bei Google Deutschland suchen, bei Bing oder Google News!