Neue Gesetzgebung gegen Rachepornos: Chancen und Risiken

WASHINGTON / LONDON (IT BOLTWISE) – Ein neues Gesetz zur Bekämpfung von Rachepornos und KI-generierten Deepfakes sorgt für Aufsehen. Während es als Sieg für Opfer gefeiert wird, warnen Experten vor möglichen Einschränkungen der Meinungsfreiheit.

Die kürzlich verabschiedete Gesetzgebung, bekannt als Take It Down Act, zielt darauf ab, die Verbreitung nicht einvernehmlicher expliziter Bilder, ob real oder KI-generiert, zu unterbinden. Plattformen müssen innerhalb von 48 Stunden auf Löschanfragen reagieren, andernfalls drohen ihnen rechtliche Konsequenzen. Während dies als längst überfälliger Schutz für Opfer angesehen wird, äußern Experten Bedenken hinsichtlich der vagen Formulierungen und der kurzen Frist, die zu Übergriffen und Zensur führen könnten.

India McKinney von der Electronic Frontier Foundation betont, dass großflächige Inhaltsmoderation oft zu unerwünschter Zensur wichtiger Inhalte führt. Plattformen haben ein Jahr Zeit, um Prozesse zur Entfernung nicht einvernehmlicher intimer Bilder zu etablieren. Die Anforderungen an die Authentifizierung der Anfragen sind jedoch minimal, was Missbrauch begünstigen könnte.

Besonders besorgniserregend ist die Möglichkeit, dass Inhalte von queeren und trans Personen oder sogar einvernehmliche Pornografie vermehrt Ziel von Löschanfragen werden könnten. Senatorin Marsha Blackburn, eine der Befürworterinnen des Gesetzes, hat in der Vergangenheit Inhalte über Transgender-Personen als schädlich für Kinder bezeichnet, was die Befürchtungen weiter verstärkt.

Plattformen wie Snapchat und Meta unterstützen das Gesetz, haben jedoch keine Details zur Verifizierung der Anfragen veröffentlicht. Dezentrale Plattformen wie Mastodon könnten besonders unter dem Druck der 48-Stunden-Frist leiden, da sie oft von gemeinnützigen Organisationen oder Einzelpersonen betrieben werden.

Die Cyber Civil Rights Initiative äußert Bedenken, dass die Federal Trade Commission (FTC) Plattformen, die nicht angemessen auf Löschanfragen reagieren, als unfaire oder täuschende Praktiken behandeln könnte. Dies könnte zu einer politisch motivierten Strafverfolgung führen, insbesondere in einer Zeit, in der die FTC zunehmend politisiert wird.

Ein weiterer Aspekt ist die proaktive Überwachung von Inhalten durch Plattformen, um problematische Beiträge im Vorfeld zu vermeiden. Unternehmen wie Hive bieten bereits KI-gestützte Lösungen zur Erkennung von Deepfakes und kinderpornografischem Material an. Diese Technologien könnten jedoch auch in verschlüsselten Nachrichten eingesetzt werden, was die Privatsphäre der Nutzer gefährden könnte.

Die Gesetzgebung hat auch breitere Implikationen für die Meinungsfreiheit. In einer Zeit, in der politische Akteure zunehmend versuchen, bestimmte Inhalte zu zensieren, könnte das Gesetz als Werkzeug zur Unterdrückung unliebsamer Meinungen missbraucht werden. Dies wirft Fragen über die Balance zwischen Schutz der Privatsphäre und Erhalt der Meinungsfreiheit auf.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!