Realistische KI-generierte Missbrauchsbilder alarmieren Experten

LONDON / MÜNCHEN (IT BOLTWISE) – Die zunehmende Realitätsnähe von KI-generierten Bildern, die Kindesmissbrauch darstellen, sorgt für erhebliche Besorgnis unter Sicherheitsexperten. Die Internet Watch Foundation (IWF) hat in ihrem jüngsten Bericht darauf hingewiesen, dass die Qualität dieser illegalen Inhalte im Jahr 2024 exponentiell gestiegen ist.

Die Internet Watch Foundation (IWF) hat in ihrem aktuellen Bericht alarmierende Zahlen veröffentlicht: Die Anzahl der Berichte über KI-generierte Bilder von Kindesmissbrauch, die gegen britisches Recht verstoßen, ist im Jahr 2024 um 380 % gestiegen. Diese Entwicklung zeigt, wie schnell sich die Technologie entwickelt und wie sie von Kriminellen missbraucht wird. Die IWF betont, dass die Qualität der KI-generierten Videos und Bilder so realistisch geworden ist, dass selbst erfahrene Analysten Schwierigkeiten haben, sie von echten Aufnahmen zu unterscheiden.

Ein Großteil dieser Bilder fällt in die Kategorie A, die schwerwiegendste Form von Missbrauchsdarstellungen, die penetrative sexuelle Handlungen oder Sadismus beinhaltet. Diese Kategorie machte 39 % des von der IWF als handlungsrelevant eingestuften Materials aus. Die britische Regierung hat darauf reagiert, indem sie angekündigt hat, dass es ab Februar illegal sein wird, KI-Tools zu besitzen, zu erstellen oder zu verbreiten, die zur Generierung von Missbrauchsmaterial verwendet werden können. Diese Gesetzesänderung schließt eine rechtliche Lücke, die Polizei und Online-Sicherheitsexperten beunruhigt hatte.

Die IWF, die eine Hotline im Vereinigten Königreich betreibt, aber weltweit tätig ist, berichtet, dass diese KI-generierten Bilder zunehmend im offenen Internet und nicht nur im sogenannten Dark Web auftauchen. Diese Entwicklung unterstreicht die Notwendigkeit, die Sicherheitsmaßnahmen im Internet zu verstärken. Die IWF hat ein neues Sicherheitstool namens Image Intercept entwickelt, das kleineren Websites kostenlos zur Verfügung gestellt wird. Dieses Tool kann Bilder erkennen und blockieren, die in einer IWF-Datenbank als kriminelle Darstellungen markiert sind.

Derek Ray-Hill, der interimistische Geschäftsführer der IWF, bezeichnete die Bereitstellung dieses Tools als einen bedeutenden Moment für die Online-Sicherheit. Der britische Technologieminister Peter Kyle betonte, dass die Zunahme von KI-generiertem Missbrauch und Sextortion, bei der Kinder mit intimen Bildern erpresst werden, zeigt, wie sich Bedrohungen für junge Menschen im Internet ständig weiterentwickeln. Er hob hervor, dass das neue Image Intercept Tool ein kraftvolles Beispiel dafür ist, wie Innovation Teil der Lösung sein kann, um Online-Räume für Kinder sicherer zu machen.

Die IWF hat in ihrem Jahresbericht auch Rekordwerte bei Webseiten bekannt gegeben, die im Jahr 2024 Missbrauchsdarstellungen von Kindern hosten. Insgesamt wurden 291.273 Berichte über solche Inhalte verzeichnet, was einem Anstieg von 6 % im Vergleich zu 2023 entspricht. Der Großteil der Opfer in diesen Berichten waren Mädchen. Diese Zahlen verdeutlichen die Dringlichkeit, mit der gegen die Verbreitung von Missbrauchsmaterial im Internet vorgegangen werden muss.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!