„Nightshade“: Künstliche Intelligenz bekämpft Künstliche Intelligenz – Künstler schützen ihre Werke vor Datensammlung

MÜNCHEN (IT BOLTWISE) – Ein neues Werkzeug namens NachtSchatten, entwickelt von Wissenschaftlern der Universität Chicago, ermöglicht es Künstlern, ihre online veröffentlichten Werke vor dem unbefugten Scannen durch KI-Modelle zu schützen.

In der heutigen Ära der generativen Künstlichen Intelligenz stellt das Scrapen von Daten eine große Herausforderung für Urheber dar. KI-Modelle wie ChatGPT, die das Internet nach Daten durchforsten, um daraus zu lernen, bedrohen die Existenz von Künstlern, indem sie deren Werke ohne Zustimmung nutzen und nachahmen. Das Team um Professor Ben Zhao von der Universität Chicago hat mit NachtSchatten nun ein Tool entwickelt, das dieses Problem auf innovative Weise angeht. Es nutzt KI, um KI zu bekämpfen.

NachtSchatten arbeitet, indem es Bilder auf Pixelebene subtil verändert. Für das menschliche Auge kaum wahrnehmbar, wird die Künstliche Intelligenz jedoch getäuscht und erkennt in den Werken etwas völlig anderes. Ein Beispiel: Ein vom Menschen unverändert wahrgenommenes Bild eines Kuh auf einer Wiese wird von der KI als große Lederhandtasche im Gras erkannt.

Die Folgen sind weitreichend: Wird ein KI-Modell mit genügend „beschatteten“ Bildern trainiert, beginnt es, Objekte falsch zu kategorisieren. Dies beeinflusst nicht nur das betroffene Bild, sondern alle Bilder, die das Modell verarbeitet, auch solche ohne NachtSchatten-Anwendung.

Entwickelt als Erweiterung des bereits bestehenden Tools Glaze, zielt NachtSchatten darauf ab, die Kosten für das Training mit unlizenzierten Daten zu erhöhen. Damit soll ein Anreiz geschaffen werden, Bilder direkt von den Urhebern zu lizenzieren. NachtSchatten ist nicht darauf ausgelegt, Modelle zu zerstören, sondern vielmehr, den Respekt vor dem geistigen Eigentum der Künstler zu stärken.

In Tests mit dem Open-Source-Modell Stable Diffusion zeigte sich die Effektivität von NachtSchatten. Nachdem das Modell mit manipulierten Bildern trainiert wurde, begann es, Hunde als Katzen zu identifizieren und umgekehrt. Diese Verwirrung erstreckt sich auch auf verwandte Begriffe wie „Husky“ oder „Wolf“, was die Leistungsfähigkeit und die potenziellen Folgen der Datenvergiftung unterstreicht.

Das Team hinter NachtSchatten sieht in diesem Werkzeug eine Möglichkeit für Künstler, sich gegen generative KI-Modelle zu wehren, die gängige Regeln und Opt-out-Listen missachten. Es ist eine Reaktion auf die mangelnde Durchsetzbarkeit und Verifizierbarkeit solcher Listen und bietet eine starke Abschreckung gegen die Missachtung von Urheberrechten.

Hinweis: Teile dieses Textes könnten mithilfe einer Künstlichen Intelligenz generiert worden sein.