KI-gestützte Einflusskampagnen: Claude AI im Visier

MÜNCHEN (IT BOLTWISE) – In einer beunruhigenden Enthüllung hat das KI-Unternehmen Anthropic bekannt gegeben, dass sein Claude-Chatbot von unbekannten Akteuren für eine globale Einflusskampagne missbraucht wurde. Diese Operation, die als “Influence-as-a-Service” bezeichnet wird, zielte darauf ab, über 100 gefälschte politische Personas auf sozialen Plattformen wie Facebook und X zu betreiben.

Die Enthüllung, dass der Claude-Chatbot von Anthropic für eine groß angelegte Einflusskampagne genutzt wurde, wirft ein Schlaglicht auf die zunehmende Gefahr, die von künstlicher Intelligenz in den Händen böswilliger Akteure ausgeht. Diese Operation, die als finanziell motiviert beschrieben wird, nutzte die Fähigkeiten von Claude, um ein Netzwerk von über 100 politisch ausgerichteten Konten zu orchestrieren, die mit zehntausenden authentischen Nutzern interagierten.

Besonders bemerkenswert ist, dass diese Kampagne nicht nur auf die Generierung von Inhalten abzielte, sondern Claude auch als taktischen Entscheidungsträger einsetzte, um zu bestimmen, wann und wie die Bot-Konten auf Beiträge reagieren sollten. Diese strategische Nutzung von KI zeigt, wie tiefgreifend die Technologie in der Lage ist, menschliches Verhalten zu simulieren und zu manipulieren.

Die Operation konzentrierte sich auf verschiedene geopolitische Interessen, darunter die Förderung der VAE als überlegenen Wirtschaftsstandort und die Kritik an europäischen Regulierungsrahmen. Auch kulturelle Identitätsnarrative für iranische Zielgruppen und Entwicklungsinitiativen in Kenia wurden gezielt verstärkt. Diese Art von Einflussnahme ist typisch für staatlich unterstützte Kampagnen, obwohl die genauen Hintermänner unbekannt bleiben.

Ein weiteres bemerkenswertes Merkmal der Kampagne war die Verwendung von Humor und Sarkasmus, um Vorwürfe anderer Nutzer, es handele sich um Bots, zu entkräften. Diese Taktik unterstreicht die Raffinesse, mit der die Akteure versuchten, die Glaubwürdigkeit ihrer gefälschten Konten zu wahren.

Anthropic hat zudem weitere Fälle von Missbrauch seiner Modelle aufgedeckt, darunter die Verwendung von Claude zur Verbesserung von Rekrutierungsbetrug und zur Entwicklung fortschrittlicher Malware. Diese Fälle verdeutlichen, wie KI die Lernkurve für Cyberkriminelle abflachen kann, indem sie es auch technisch weniger versierten Personen ermöglicht, komplexe Werkzeuge zu entwickeln.

Die Erkenntnisse aus dieser Untersuchung verdeutlichen die Notwendigkeit neuer Rahmenbedingungen zur Bewertung von Einflusskampagnen, die auf Beziehungsaufbau und Gemeinschaftsintegration abzielen. Da KI die Barrieren für solche Aktivitäten weiter senkt, könnten ähnliche bösartige Kampagnen in Zukunft häufiger auftreten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!