Meta entfernt Deepfake-Werbung: Einblicke in die Herausforderungen der KI-Moderation

LONDON (IT BOLTWISE) – Die jüngste Untersuchung von CBS News hat aufgedeckt, dass auf den Plattformen von Meta zahlreiche Anzeigen für sogenannte ‘Nudify’-Apps geschaltet wurden. Diese Anwendungen nutzen Künstliche Intelligenz, um aus Bildern von echten Personen sexuell explizite Deepfakes zu erstellen. Meta hat daraufhin eine Reihe von Maßnahmen ergriffen, um diese Inhalte zu entfernen und die verantwortlichen Seiten zu sperren.

Die Enthüllungen von CBS News über die Verbreitung von ‘Nudify’-Apps auf den Plattformen von Meta werfen ein Schlaglicht auf die Herausforderungen, denen sich Unternehmen bei der Moderation von Inhalten stellen müssen. Diese Apps, die mit Hilfe von Künstlicher Intelligenz intime Bilder ohne Zustimmung der Betroffenen erstellen, verstoßen gegen die Richtlinien von Meta, die solche Inhalte strikt verbieten. Trotz der Entfernung zahlreicher Anzeigen und der Sperrung der entsprechenden URLs bleibt das Problem bestehen, da die Entwickler dieser Apps ständig neue Taktiken entwickeln, um die Erkennung zu umgehen.

Ein Sprecher von Meta erklärte, dass die Bekämpfung dieser Art von KI-generierten Inhalten eine fortlaufende Herausforderung darstellt. Die Plattformen von Meta, darunter Facebook, Instagram und Threads, sind besonders anfällig für solche Inhalte, da sie eine breite Nutzerbasis haben und die Anzeigen gezielt auf bestimmte demografische Gruppen ausgerichtet werden können. Laut den Daten aus Metas eigener Anzeigenbibliothek waren viele dieser Anzeigen speziell auf Männer im Alter von 18 bis 65 Jahren in den USA, der EU und dem Vereinigten Königreich ausgerichtet.

Die Problematik der Deepfake-Technologie ist nicht neu, aber die zunehmende Verfügbarkeit und Raffinesse dieser Tools stellt eine ernsthafte Bedrohung für die Privatsphäre und Sicherheit der Nutzer dar. Deepfakes sind manipulierte Bilder, Audioaufnahmen oder Videos von realen Personen, die mit KI verändert wurden, um jemanden falsch darzustellen. Diese Technologie hat das Potenzial, nicht nur das Vertrauen in digitale Inhalte zu untergraben, sondern auch ernsthafte rechtliche und ethische Fragen aufzuwerfen.

Die rechtlichen Rahmenbedingungen zur Bekämpfung von Deepfakes sind in vielen Ländern noch in der Entwicklung. In den USA wurde kürzlich das ‘Take It Down Act’ verabschiedet, das Plattformen verpflichtet, Deepfake-Inhalte innerhalb von 48 Stunden nach einer Meldung durch das Opfer zu entfernen. Diese Gesetzgebung zielt darauf ab, die Verbreitung von nicht einvernehmlichen intimen Bildern zu verhindern, schließt jedoch die Werkzeuge zur Erstellung solcher Inhalte nicht ein.

Experten wie Alexios Mantzarlis von der Cornell University betonen die Notwendigkeit einer stärkeren Zusammenarbeit zwischen den großen Technologieunternehmen, um die Verbreitung solcher Apps zu verhindern. Mantzarlis kritisiert, dass trotz der vorhandenen Moderationsteams bei Meta die Ressourcen nicht ausreichen, um das Problem effektiv zu bekämpfen. Er fordert, dass Apps, die auf einer Plattform als ‘Nudify’-Tools vermarktet werden, auch auf anderen Plattformen gesperrt werden sollten, unabhängig davon, wie sie sich dort präsentieren.

Die Herausforderungen, die durch Deepfake-Technologie entstehen, sind vielfältig und erfordern eine umfassende Strategie, die sowohl technologische als auch rechtliche Maßnahmen umfasst. Die großen Technologieunternehmen stehen in der Verantwortung, ihre Plattformen sicherer zu machen und die Privatsphäre ihrer Nutzer zu schützen. Gleichzeitig müssen Regierungen weltweit daran arbeiten, gesetzliche Rahmenbedingungen zu schaffen, die mit der rasanten Entwicklung der Technologie Schritt halten können.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!