STRAßBURG / LONDON (IT BOLTWISE) – KI kann aus harmlosen Fotos in Minuten täuschend echte Nacktbilder erzeugen und damit sexualisierte Inhalte in Schulchats befeuern. Die EU will Plattformen und Anbieter von KI für Kinder und Jugendliche stärker in die Pflicht nehmen, damit sie nachweisen, dass ihre Systeme Minderjährige besser schützen. In Workshops und Beratungen zeigt sich zugleich ein Muster: Viele Betroffene erkennen erst spät, welche Folgen das Weiterleiten hat. Gleichzeitig wirkt Gruppendynamik als Treiber, weil Ablehnung in der Clique schnell zu Isolation werden kann.
In Schulchats hat sich die Grenze zwischen „Spaß“ und echter Schädigung längst verschoben. Der neue Zündstoff ist dabei nicht allein der schnelle Austausch von Bildern, sondern die Möglichkeit, Inhalte mit Künstlicher Intelligenz so zu manipulieren oder neu zu generieren, dass sie für die Empfängerinnen und Empfänger plausibel wirken. Laut Berichten aus der Beratungspraxis entstehen so sexualisierte Darstellungen, die sich nicht nur weiterleiten, sondern auch speichern und später erneut verbreiten lassen. Für Betroffene bedeutet das häufig, dass die Kontrolle über ihr eigenes Abbild praktisch verloren geht – auch dann, wenn sie nie selbst entsprechende Aufnahmen erstellt haben.
Technisch betrachtet ist das Problem weniger ein einzelner Messenger „an sich“, sondern die Kombination aus Bildpipeline und Verbreitungslogik: Wo Chatgruppen bereits heute schnell auf Medien reagieren, können KI-gestützte Manipulationen den Wahrheitsgehalt in den Hintergrund drängen. Die Inhalte sind dann nicht mehr bloß „gefunden“, sondern gezielt erzeugt – etwa indem aus Fotos täuschend echte Nacktdarstellungen werden. Besonders heikel ist das, weil sexualisierte Gewalt und Entwürdigungen oft ohne Einverständnis passieren und die Folgen über das erste Teilen hinausreichen: Mobbing kann sich über Monate oder Jahre stabilisieren, sobald ein Bild „in Umlauf“ ist und immer wieder neue Kontexte findet.
Auf der regulatorischen Ebene adressiert die EU-Kommission genau dieses Zusammenspiel aus Risikoquellen und Plattformmechanik. So wird in dem Zusammenhang berichtet, dass soziale Netzwerke, bestimmte Spieleplattformen sowie Anbieter von KI für Kinder und Jugendliche nachweisen müssen, dass sie sicher sind. EU-Kommissionspräsidentin Ursula von der Leyen wird dabei mit dem Satz zitiert: „Vorher gibt es keinen Zugang zu den Minderjährigen“. Gleichzeitig bleibt die Umsetzung zeitlich offen, weil ein Vorschlag erst durch das EU-Parlament und die 27 EU-Mitgliedsländer beraten werden muss. Für IT-Teams in Unternehmen ist das mehr als eine politische Schlagzeile: Sobald Sicherheitsnachweise und Schutzmechanismen verbindlicher werden, verschiebt sich das Budget von „Reporting nach Vorfällen“ hin zu präventiver Risikoanalyse, Altersverifikation und Screening-Prozessen.
Doch während sich Governance-Prozesse oft über Monate ziehen, zeigen Praxisstellen die Dynamik bereits im Schulalltag. Saskia Nakari vom Landesmedienzentrum (LMZ) beschreibt in der Arbeit mit sechsten Klassen, dass das Thema sehr früh ankommt. Wörtlich sagt sie: „Von zehn jungen Mädchen sind sechs von ungefragt zugesandten sogenannten Dickpics, das heißt erigierten Penisbildern, betroffen“. Neben dem klassischen „Zuschicken“ kommt heute der KI-Aspekt hinzu: In Beratungskontexten wird geschildert, dass Inhalte nicht nur verschickt, sondern zunehmend auch über Livestream- und Plattform-Situationen angestoßen werden, wodurch neue Bilder entstehen, die sich später wiederverbreiten lassen. Entscheidend ist dabei, dass die technische Möglichkeit für Täter oder Mitläufer die Einstiegshürde senkt – und für Betroffene die Beweisbarkeit erschwert, weil KI-Manipulationen das „Ist das echt?“ in eine reine Glaubensfrage verwandeln.
Wie schnell aus einem Gerücht ein bestätigtes „Faktum“ wird, lässt sich an konkreten Fällen aus der Beratung nachvollziehen. Bei Juuuport, einer bundesweiten Online-Beratungsplattform mit Sitz in Hannover, werden nach Angaben von Ann-Kristin Gaumann Anfragen typischerweise im Umfang von 250 bis 300 pro Monat bearbeitet; im Einsatz sind dabei 35 Scouts. Der Schwerpunkt liegt laut Darstellung auf 14- bis 17-Jährigen sowie 10- bis 13-Jährigen. Eine 15-Jährige beschreibt etwa: „Leute, die ich kenne, haben mit meinen Fotos irgendwie Nacktbilder erstellt. Ich glaube, mit KI. Ich bin das aber nicht auf den Nacktbildern! Ich würde nie welche von mir machen! Aber es sieht so aus, als hätte ich welche gemacht und dann verschickt. Alle glauben das.“ Ein 13-Jähriger berichtet zudem, Mitschüler hätten „mit KI einen Sticker“ erstellt – mit dem Eindruck, es gehe um sexualisierte Handlungen. Solche Schilderungen passen zu einem weiteren Muster: Betroffene geben sich selbst die Schuld und geraten in Angst und Isolation, während die tatsächliche Ursache (Manipulation und Weiterleitung) aus dem Blick gerät.
Auch die Motivation hinter dem Teilen wirkt oft weniger „technisch“ als sozial. Medienpädago-gin Petra Grimm von der Hochschule der Medien in Stuttgart ordnet das Verhalten als Folge von Gruppendynamik ein: Wer weiterleitet, sichert sich Anerkennung; wer sich verweigert, riskiert Ausgrenzung. Grimm wird dabei mit den Worten zitiert: „Indem ich es weiterleite als Jugendlicher zeige ich, dass ich diese Freundschaft quasi bestätige und letztendlich damit auch soziale Beziehungen festige“. Technisch gesehen verstärkt KI diese Mechanik, weil Inhalte schneller „fertig“ sind und damit mehr Mitläufer entstehen können, die nicht aus Überzeugung handeln, sondern aus dem Wunsch, nicht zurückzufallen. Hinzu kommt, dass fehlende Aufklärung zu falschen Sicherheitsannahmen führt. Nakari sagt dazu: „Ich erlebe in meiner täglichen Arbeit, wie Kinder und Jugendliche meist unwissend mit ihren Endgeräten Straftaten begehen.“ Wichtig ist außerdem, dass in solchen Kontexten nicht nur das Erstellen strafbarer Inhalte relevant ist, sondern auch das Weiterleiten.
Für Schulen entsteht daraus eine doppelte Aufgabe: Schutz der betroffenen Person und Umgang mit der Gruppe, die verbreitet. Andrea Zeisberg, Medienpädagogin am LMZ, beschreibt, dass Vorfälle in der Schule meist zwei Ebenen haben. Es müsse zunächst darum gehen, sich auf das geschädigte Kind zu konzentrieren, dessen Bild verbreitet wurde. Parallel stellt sich die Frage, wie man die Dynamik innerhalb der Klasse stoppt, ohne weitere Eskalation zu erzeugen. Für die praktische Arbeit bedeutet das: Intervention muss schnell erfolgen, damit Bilder nicht weiter „durchkaskadieren“, und sie muss gleichzeitig vermitteln, dass Weiterleitung nicht als harmlose Reaktion zu verstehen ist. Genau an dieser Schnittstelle zwischen Technik, Plattformlogik und sozialer Kontrolle entscheiden sich die nächsten Monate – während EU-Regeln zwar kommen, aber erst nach Beratung und Verabschiedung Wirkung entfalten.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Nacktbilder in Schulchats: Wie Manipulation und Gruppendruck zusammenspielen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Nacktbilder in Schulchats: Wie Manipulation und Gruppendruck zusammenspielen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Nacktbilder in Schulchats: Wie Manipulation und Gruppendruck zusammenspielen« bei Google Deutschland suchen, bei Bing oder Google News!