Meta verstärkt Maßnahmen gegen KI-basierte “Nudify”-Apps

LONDON (IT BOLTWISE) – Die zunehmende Verbreitung von KI-basierten “Nudify”-Apps, die ohne Zustimmung gefälschte Nacktbilder erstellen, hat Meta dazu veranlasst, rechtliche Schritte gegen Unternehmen einzuleiten, die solche Anwendungen auf seinen Plattformen bewerben.

Meta hat kürzlich rechtliche Schritte gegen ein Unternehmen eingeleitet, das sogenannte “Nudify”-Apps auf seinen Plattformen bewirbt. Diese Apps nutzen Künstliche Intelligenz, um ohne Zustimmung gefälschte Nacktbilder von Personen zu erstellen. Meta hat das Unternehmen hinter den CrushAI-Apps verklagt, um die Schaltung solcher Anzeigen vollständig zu unterbinden, nachdem es über Monate hinweg ein Katz-und-Maus-Spiel zur Entfernung dieser Anzeigen geführt hatte.

In einem Blogbeitrag betonte Meta die Ernsthaftigkeit, mit der es diesen Missbrauch angeht, und seine Verpflichtung, die Community zu schützen. Alexios Mantzarlis, Autor des Blogs Faked Up, berichtete, dass es mindestens 10.000 Anzeigen für “Nudify”-Apps auf Metas Plattformen Facebook und Instagram gegeben habe. Mantzarlis begrüßte Metas Schritte, warnte jedoch, dass weitere Maßnahmen erforderlich seien, da er selbst noch zahlreiche aktive Anzeigen von CrushAI und anderen “Nudify”-Anbietern gefunden habe.

Die Verbreitung generativer KI hat in den letzten Jahren zu einem Anstieg von “Nudify”-Apps geführt. Diese sind so weit verbreitet, dass die Kinderkommission für England im April die Regierung aufforderte, gesetzliche Maßnahmen zu ergreifen, um sie vollständig zu verbieten. Es ist illegal, KI-generierte sexuelle Inhalte mit Kindern zu erstellen oder zu besitzen. Matthew Sowemimo von der NSPCC erklärte, dass die Apps von Pädophilen genutzt werden, um illegale Bilder von Kindern zu erstellen, was bei den Betroffenen zu einem verheerenden emotionalen Schaden führen kann.

Meta hat kürzlich auch eine Änderung vorgenommen, um das Problem der “Nudify”-Apps anzugehen, indem es Informationen mit anderen Technologieunternehmen teilt. Seit Ende März hat Meta mehr als 3.800 eindeutige URLs an teilnehmende Tech-Unternehmen weitergegeben. Das Unternehmen räumte ein, dass es ein Problem mit Firmen gibt, die seine Regeln umgehen, indem sie neue Domainnamen erstellen, um verbotene zu ersetzen.

“Nudify”-Apps sind nur ein Beispiel dafür, wie KI zur Erstellung problematischer Inhalte auf sozialen Medienplattformen genutzt wird. Ein weiteres Problem ist die Verwendung von KI zur Erstellung von Deepfakes, also hochrealistischen Bildern oder Videos von Prominenten, um Menschen zu täuschen oder in die Irre zu führen. Im Juni kritisierte Metas Aufsichtsgremium die Entscheidung, einen Facebook-Post mit einem KI-manipulierten Video von Ronaldo Nazário nicht zu entfernen.

Meta hat in der Vergangenheit versucht, Betrüger zu bekämpfen, die Prominente in Anzeigen missbrauchen, indem es Gesichtserkennungstechnologie einsetzt. Außerdem müssen politische Werbetreibende den Einsatz von KI deklarieren, da Bedenken hinsichtlich der Auswirkungen von Deepfakes auf Wahlen bestehen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!