Gefahr durch KI-gestützte Stimmenklonung: FBI warnt vor neuen Bedrohungen

WASHINGTON D.C. / MÜNCHEN (IT BOLTWISE) – Die Bedrohung durch Cyberkriminelle, die sich mittels KI-gestützter Stimmenklonung als hochrangige US-Beamte ausgeben, nimmt zu. Das FBI hat eine Warnung herausgegeben, dass diese Angriffe zunehmend raffinierter werden und sowohl aktuelle als auch ehemalige Regierungsbeamte ins Visier nehmen.

Die jüngsten Warnungen des FBI heben die wachsende Gefahr hervor, die von Cyberkriminellen ausgeht, die sich durch den Einsatz von KI-gestützter Stimmenklonung als hochrangige US-Beamte ausgeben. Diese Angriffe zielen darauf ab, das Vertrauen der Opfer zu gewinnen und sie dazu zu bringen, sensible Informationen preiszugeben oder auf schädliche Links zu klicken. Diese Art von Angriffen, bekannt als Smishing und Vishing, nutzt Textnachrichten und Sprachnachrichten, um die Opfer zu täuschen.

Smishing, das den Missbrauch von SMS-Nachrichten beschreibt, und Vishing, das den Einsatz von Sprachnachrichten umfasst, sind Techniken, die immer häufiger von staatlich unterstützten Hackergruppen und finanziell motivierten Kriminellen eingesetzt werden. Die Angreifer nutzen diese Methoden, um ihre Opfer auf gefälschte Websites zu locken, wo sie Passwörter und andere Zugangsdaten abgreifen können. Die Verwendung von KI zur Stimmenklonung hat sich als besonders effektiv erwiesen, da sie es den Angreifern ermöglicht, die Stimmen bekannter Persönlichkeiten mit hoher Genauigkeit nachzuahmen.

Ein Bericht von CrowdStrike zeigt, dass die Nutzung von KI-gestützter Stimmenklonung zwischen der ersten und zweiten Jahreshälfte 2024 um 442 % gestiegen ist. Diese Technologie wird seit mindestens fünf Jahren von Kriminellen eingesetzt, um Situationen zu manipulieren und finanzielle Gewinne zu erzielen. Ein Beispiel hierfür ist die Nachahmung der Stimme eines Vorgesetzten, um den Finanzchef eines Unternehmens zur Zahlung einer gefälschten Rechnung zu bewegen.

Die Frage, ob die betroffenen Beamten auf ihren persönlichen oder dienstlichen Geräten kompromittiert wurden, bleibt offen. Experten wie Aaron Rose von Check Point Software Technologies weisen darauf hin, dass öffentlich zugängliche Audioaufnahmen, wie Reden, zur Erstellung realistischer Stimmenklone genutzt werden können. Diese Technologie kann mit nur wenigen Minuten Audiomaterial erstaunlich genaue Nachbildungen erzeugen.

Microsoft warnte 2024 vor einer Bedrohung durch die Gruppe Storm-1811, die Microsoft Teams nutzte, um sich als IT-Helpdesk-Mitarbeiter auszugeben. Die Hacker überzeugten die Nutzer, ihnen über Quick Assist Zugang zu ihren Geräten zu gewähren. Ähnliche Techniken wurden 2023 von Gruppen wie Scattered Spider und AlphV bei Angriffen auf MGM Resorts eingesetzt.

In einem von Mandiant durchgeführten Red-Team-Test 2023 gelang es den Testern, durch den Einsatz von KI-basierter Stimmenmanipulation Zugang zu einem internen Netzwerk eines Kunden zu erhalten. Die Tester gaben sich als Mitglieder des Sicherheitsteams des Kunden aus und konnten ein KI-Modell auf Basis einer natürlichen Sprachprobe trainieren. Letztendlich gelang es ihnen, eine schädliche Nutzlast auf einem der Computer des Kunden zu platzieren, indem sie Microsoft Edge und Windows Defender SmartScreen umgingen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!