Gefährliche Nutzung von KI durch staatlich unterstützte Hacker

LONDON (IT BOLTWISE) – Die Nutzung von Künstlicher Intelligenz (KI) durch staatlich unterstützte Hackergruppen hat in den letzten Monaten zugenommen. OpenAI hat kürzlich mehrere ChatGPT-Konten gesperrt, die mit staatlich geförderten Bedrohungsakteuren in Verbindung stehen, die die Technologie für schädliche Zwecke einsetzen.

Die zunehmende Nutzung von Künstlicher Intelligenz (KI) durch staatlich unterstützte Hackergruppen stellt eine ernsthafte Bedrohung für die Cybersicherheit dar. OpenAI hat kürzlich mehrere ChatGPT-Konten gesperrt, die mit Bedrohungsakteuren aus Ländern wie China, Russland, Nordkorea, Iran und den Philippinen in Verbindung stehen. Diese Akteure nutzen die Technologie für eine Vielzahl illegaler Aktivitäten, darunter die Verfeinerung von Malware, die Durchführung von Beschäftigungsbetrügereien und die Durchführung von Desinformationskampagnen in sozialen Medien.

Ein Großteil der illegalen Nutzung von ChatGPT konzentriert sich auf die Generierung von Kommentaren in sozialen Medien. OpenAI hat zahlreiche Konten gesperrt, die ChatGPT zur Massenproduktion von Beiträgen verwendet haben, die mit verdeckten Einflussoperationen in Verbindung stehen. Diese Konten, insbesondere aus China, generierten Inhalte in mehreren Sprachen, darunter Englisch, Chinesisch und Urdu, um politische Diskussionen zu beeinflussen und Desinformationen zu verbreiten.

Auch russische Hacker nutzten ChatGPT, um Inhalte in deutscher Sprache zu den diesjährigen Bundestagswahlen zu erstellen und NATO sowie die USA zu kritisieren. Ähnliche Aktivitäten wurden von iranischen Bedrohungsakteuren beobachtet, die geopolitische Themen abdeckten. In den Philippinen wurden Konten gesperrt, die Kommentare zur Unterstützung der Politik von Präsident Bongbong Marcos massenhaft generierten.

Ein weiterer besorgniserregender Aspekt ist die Verfeinerung von Malware durch ChatGPT. Nationen wie China und Russland nutzen die Plattform, um bestehende Malware zu verbessern und neue Angriffsmethoden zu entwickeln. Russische Hacker verwendeten ChatGPT, um Windows-Malware zu entwickeln und zu verfeinern, die als ScopeCreep bekannt ist und es Angreifern ermöglicht, Privilegien zu eskalieren und Anmeldedaten zu stehlen.

Darüber hinaus wurden nordkoreanische Akteure dabei erwischt, wie sie ChatGPT zur Erstellung gefälschter Lebensläufe und Personas nutzten, um sich für Jobs zu bewerben. Diese Akteure verwendeten die Plattform, um Informationen über technische Werkzeuge zu sammeln, die zur Umgehung von Unternehmenssicherheitsmaßnahmen verwendet werden könnten.

In Kambodscha konzentrierten sich die Aktivitäten auf die Erstellung von Rekrutierungsnachrichten in mehreren Sprachen, um Menschen in die Cyber-Betrugsindustrie zu locken. Diese Operationen scheinen hochgradig zentralisiert zu sein und stammen wahrscheinlich aus Kambodscha.

OpenAI hat alle Konten, die mit diesen Aktivitäten in Verbindung stehen, deaktiviert und relevante Informationen mit Branchenpartnern geteilt. Trotz der besorgniserregenden Nutzung von ChatGPT durch Bedrohungsakteure betont OpenAI, dass diese Akteure keine neuen Fähigkeiten oder Anweisungen erhalten haben, die nicht auch aus öffentlich zugänglichen Ressourcen hätten bezogen werden können.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!