Google stellt neues Tool zur Erkennung von KI-generierten Inhalten vor

MÜNCHEN (IT BOLTWISE) – Google hat ein neues Tool vorgestellt, das Nutzern helfen soll, Inhalte zu identifizieren, die mit den eigenen generativen KI-Tools erstellt wurden.

Google hat kürzlich ein neues Tool namens SynthID Detector angekündigt, das es Nutzern ermöglicht, Inhalte zu identifizieren, die mit den eigenen generativen KI-Tools erstellt wurden. Diese Ankündigung kommt in einer Zeit, in der die Erkennung von KI-generierten Inhalten immer wichtiger wird. Das Tool funktioniert jedoch nur bei Bildern, Videos, Audio und Text, die mit einem unsichtbaren Wasserzeichen von Google versehen sind. Dieses Wasserzeichen wird in Zusammenarbeit mit NVIDIA auch in Videos eingebettet, die mit deren Tool Cosmos erstellt wurden. Der SynthID Detector kann jedoch keine Inhalte identifizieren, die mit anderen KI-Tools wie OpenAI’s ChatGPT erstellt wurden. Dies bedeutet, dass das Tool hauptsächlich dazu dient, Google-eigene Inhalte zu erkennen. Die Erkennung von KI-generierten Inhalten ist ein komplexes Thema, das sich zu einem Wettlauf zwischen Erkennungs- und Verschleierungstechniken entwickelt hat. Während einige Tools behaupten, KI-Inhalte erkennen zu können, arbeiten die Entwickler solcher Inhalte daran, diese Erkennung zu umgehen. Wasserzeichen, wie sie Google verwendet, können effektiv sein, solange sie nicht entfernt oder in menschlich erstellte Werke eingefügt werden. Google hat angekündigt, dass der SynthID Detector bald für Journalisten und Forscher zugänglich sein wird, die sich auf einer Warteliste eintragen können. Diese Entwicklung zeigt, wie wichtig es für Unternehmen ist, Transparenz in der Nutzung von KI-Technologien zu schaffen und gleichzeitig die Herausforderungen der Erkennung solcher Inhalte zu meistern.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!