Wie maschinelles Entlernen KI-Modelle sicherer machen könnte

SEOUL / LONDON (IT BOLTWISE) – Die rasante Entwicklung der Künstlichen Intelligenz hat nicht nur positive Auswirkungen auf die Technologiebranche, sondern birgt auch Risiken, insbesondere im Bereich der Sprachmanipulation. Ein neuer Ansatz, bekannt als maschinelles Entlernen, könnte helfen, diese Risiken zu minimieren.

Die Fortschritte in der Künstlichen Intelligenz (KI) haben die Möglichkeiten der Sprachmanipulation erheblich erweitert. Insbesondere die Fähigkeit, Stimmen zu kopieren und zu manipulieren, hat zu einer Zunahme von Audio-Deep-Fakes geführt, die für Betrug und die Verbreitung von Fake-News genutzt werden können. Ein innovativer Ansatz, das sogenannte maschinelle Entlernen, könnte eine Lösung bieten, um diese Bedrohungen zu mindern.

Maschinelles Entlernen ist eine Technik, die KI-Modelle dazu befähigt, bestimmte Informationen zu vergessen. Dies könnte entscheidend sein, um die Verbreitung von Deep-Fakes zu stoppen, indem verhindert wird, dass KI-Modelle Stimmen reproduzieren, die sie nicht nachahmen sollen. Jong Hwan Ko, Professor an der Sungkyunkwan University in Korea, und sein Team haben diese Technik erstmals auf die Spracherzeugung angewandt.

Die Herausforderung besteht darin, dass aktuelle Sprachmodelle, sogenannte Zero-Shot-Modelle, in der Lage sind, Stimmen zu imitieren, die nicht im Trainingssatz enthalten sind. Das bedeutet, dass ein Modell nicht nur trainierte Stimmen vergessen muss, sondern auch lernen muss, bestimmte Stimmen nicht nachzuahmen, die es nicht kennt. Gleichzeitig muss es weiterhin in der Lage sein, andere Stimmen korrekt zu imitieren.

Um dies zu demonstrieren, hat das Team um Ko eine Nachbildung des VoiceBox-Modells von Meta entwickelt, das auf die Aufforderung, eine bestimmte Stimme zu imitieren, mit einer zufälligen Stimme antwortet. Diese Technik führte dazu, dass die Fähigkeit des Modells, eine vergessene Stimme zu imitieren, um mehr als 75 Prozent reduziert wurde. Dies zeigt, dass das Modell die unerwünschte Stimme effektiv vergessen hat.

Die Implementierung des maschinellen Entlernens ist jedoch nicht ohne Herausforderungen. Der Prozess kann mehrere Tage dauern und erfordert für jede zu vergessende Stimme einen etwa fünf Minuten langen Audioclip. Zudem kann die Vergesslichkeit des Modells die Fähigkeit beeinträchtigen, erlaubte Stimmen zu imitieren, was einen Kompromiss zwischen Effizienz und Vergesslichkeit darstellt.

Die Industrie zeigt Interesse an dieser Technik, da sie das Potenzial hat, KI-Modelle sicherer zu machen. Unternehmen wie Meta und Google DeepMind erforschen bereits die Möglichkeiten des maschinellen Entlernens. Dennoch ist es wichtig, schnellere und skalierbarere Lösungen zu entwickeln, um diese Technik in realen Anwendungen einsetzen zu können.

Die Zukunft des maschinellen Entlernens könnte entscheidend für die Sicherheit von KI-Systemen sein. Während die Technik noch in den Kinderschuhen steckt, zeigt sie bereits vielversprechende Ergebnisse. Die Forscher sind optimistisch, dass ihre Arbeit eines Tages dazu beitragen könnte, die Verbreitung von Deep-Fakes zu verhindern und die Integrität von KI-gestützten Systemen zu gewährleisten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!