Zunahme von KI-generierten Missbrauchsvideos alarmiert Experten

LONDON (IT BOLTWISE) – Die rasante Entwicklung der Künstlichen Intelligenz hat nicht nur positive Auswirkungen, sondern birgt auch erhebliche Risiken, wie die jüngsten Berichte über die Zunahme von KI-generierten Missbrauchsvideos zeigen.

Die Künstliche Intelligenz hat in den letzten Jahren enorme Fortschritte gemacht, was sowohl Chancen als auch Risiken mit sich bringt. Eine der besorgniserregendsten Entwicklungen ist die Zunahme von KI-generierten Videos mit kinderpornografischem Inhalt. Laut einem Bericht der Internet Watch Foundation (IWF) hat sich die Anzahl solcher Videos im ersten Halbjahr 2025 dramatisch erhöht. Diese Videos sind mittlerweile so realistisch, dass sie kaum noch von echten Aufnahmen zu unterscheiden sind.

Die IWF, eine britische Organisation, die sich für die Sicherheit im Internet einsetzt, hat in den ersten sechs Monaten des Jahres 2025 insgesamt 1.286 KI-generierte Videos mit kinderpornografischem Material identifiziert, die gegen das Gesetz verstoßen. Im Vergleich dazu waren es im gleichen Zeitraum des Vorjahres nur zwei solcher Videos. Besonders alarmierend ist, dass über 1.000 dieser Videos als Kategorie A eingestuft wurden, was die schwerwiegendste Form von Missbrauchsmaterial darstellt.

Die rasante Entwicklung und Verfügbarkeit von KI-Technologien hat es Pädophilen ermöglicht, diese für kriminelle Zwecke zu missbrauchen. Die Investitionen in Milliardenhöhe in die KI-Entwicklung haben dazu geführt, dass Video-Generierungsmodelle weit verbreitet und leicht zugänglich sind. Diese Modelle werden von Tätern manipuliert, um realistische Missbrauchsvideos zu erstellen. Ein Analyst der IWF erklärte, dass die Vielfalt der verfügbaren Tools es den Tätern erleichtert, ihre kriminellen Aktivitäten auszuweiten.

Die IWF hat einen Anstieg von 400 % bei den URLs festgestellt, die KI-generierte Missbrauchsinhalte enthalten. Im ersten Halbjahr 2025 wurden 210 solcher URLs gemeldet, im Vergleich zu 42 im Vorjahr. Jede dieser Webseiten enthält Hunderte von Bildern, was den Anstieg der Video-Inhalte verdeutlicht. Auf einem Forum im Darknet äußerte sich ein Pädophiler über die schnellen Fortschritte in der KI-Technologie und wie er ständig neue und bessere Tools findet.

Die Analysten der IWF erklärten, dass die Bilder durch die Feinabstimmung eines frei verfügbaren KI-Modells mit kinderpornografischem Material erstellt wurden. In einigen Fällen wurden diese Modelle mit nur wenigen Videos feinabgestimmt, um realistische Ergebnisse zu erzielen. Besonders realistische KI-Missbrauchsvideos basieren oft auf realen Opfern, was die Problematik weiter verschärft.

Derek Ray-Hill, der interimistische Geschäftsführer der IWF, warnte vor den möglichen Folgen dieser Entwicklung. Die zunehmende Fähigkeit von KI-Modellen, ihre weite Verfügbarkeit und die Möglichkeit, sie für kriminelle Zwecke anzupassen, könnten zu einer Explosion von KI-generiertem Missbrauchsmaterial im Internet führen. Dies könnte kriminelle Aktivitäten wie Menschenhandel, Kindesmissbrauch und moderne Sklaverei weiter anheizen.

Die britische Regierung hat bereits Maßnahmen ergriffen, um gegen KI-generiertes Missbrauchsmaterial vorzugehen. Es ist nun illegal, solche KI-Tools zu besitzen, zu erstellen oder zu verbreiten. Personen, die gegen dieses Gesetz verstoßen, drohen bis zu fünf Jahre Haft. Darüber hinaus ist der Besitz von Anleitungen, die potenziellen Tätern beibringen, wie man KI-Tools zur Erstellung von Missbrauchsbildern oder zur Unterstützung von Kindesmissbrauch einsetzt, ebenfalls strafbar.

Die Home Secretary, Yvette Cooper, betonte die Notwendigkeit, sowohl online als auch offline gegen Kindesmissbrauch vorzugehen. Das neue Gesetz ist ein wichtiger Schritt, um die Verbreitung von KI-generiertem Missbrauchsmaterial einzudämmen und die Sicherheit von Kindern im Internet zu gewährleisten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!