OpenAI sperrt ChatGPT-Konten von Hackergruppen aus Russland, Iran und China

LONDON (IT BOLTWISE) – OpenAI hat kürzlich bekannt gegeben, dass es eine Reihe von ChatGPT-Konten gesperrt hat, die vermutlich von russischsprachigen Bedrohungsakteuren und zwei chinesischen staatlichen Hackergruppen betrieben wurden. Diese Konten wurden genutzt, um die Entwicklung von Malware, die Automatisierung sozialer Medien und die Forschung zu US-Satellitenkommunikationstechnologien zu unterstützen.

OpenAI hat kürzlich bekannt gegeben, dass es eine Reihe von ChatGPT-Konten gesperrt hat, die vermutlich von russischsprachigen Bedrohungsakteuren und zwei chinesischen staatlichen Hackergruppen betrieben wurden. Diese Konten wurden genutzt, um die Entwicklung von Malware, die Automatisierung sozialer Medien und die Forschung zu US-Satellitenkommunikationstechnologien zu unterstützen.

Der russischsprachige Akteur nutzte die Modelle von OpenAI, um Windows-Malware zu entwickeln und zu verfeinern, Code in mehreren Sprachen zu debuggen und ihre Command-and-Control-Infrastruktur aufzubauen. Diese Aktivitäten zeigen ein tiefes Verständnis für Windows-Interna und ein hohes Maß an operativer Sicherheit.

Die Go-basierte Malware-Kampagne, die von OpenAI als ScopeCreep bezeichnet wird, zeigt keine Anzeichen einer weit verbreiteten Aktivität. Der Bedrohungsakteur nutzte temporäre E-Mail-Konten, um sich bei ChatGPT anzumelden, und führte mit jedem Konto nur ein Gespräch, um eine einzelne Verbesserung an ihrer Schadsoftware vorzunehmen, bevor das Konto aufgegeben wurde.

Diese Praxis, ein Netzwerk von Konten zu nutzen, um ihren Code zu verfeinern, unterstreicht den Fokus des Gegners auf operative Sicherheit. Die Angreifer verteilten die KI-unterstützte Malware über ein öffentlich zugängliches Code-Repository, das ein legitimes Videospiel-Overlay-Tool namens Crosshair X imitierte. Benutzer, die die trojanisierte Version der Software herunterluden, infizierten ihre Systeme mit einem Malware-Loader, der zusätzliche Nutzlasten von einem externen Server abrief und ausführte.

Die Malware war darauf ausgelegt, einen mehrstufigen Prozess zu initiieren, um Privilegien zu eskalieren, eine unauffällige Persistenz zu etablieren, den Bedrohungsakteur zu benachrichtigen und sensible Daten zu exfiltrieren, während sie der Entdeckung entging. Zu den Taktiken von ScopeCreep gehörten die Verwendung von Base64-Codierung zur Verschleierung von Nutzlasten, DLL-Side-Loading-Techniken und SOCKS5-Proxys zur Verschleierung ihrer Quell-IP-Adressen.

Das Endziel der Malware bestand darin, Anmeldedaten, Tokens und Cookies zu sammeln, die in Webbrowsern gespeichert sind, und sie an den Angreifer zu exfiltrieren. Sie war auch in der Lage, Benachrichtigungen an einen von den Bedrohungsakteuren betriebenen Telegram-Kanal zu senden, wenn neue Opfer kompromittiert wurden.

OpenAI stellte fest, dass der Bedrohungsakteur seine Modelle bat, einen Go-Code-Schnipsel im Zusammenhang mit einer HTTPS-Anfrage zu debuggen, sowie Hilfe bei der Integration der Telegram-API und der Verwendung von PowerShell-Befehlen über Go zur Änderung der Windows Defender-Einstellungen suchte, insbesondere wenn es darum ging, Antivirus-Ausschlüsse hinzuzufügen.

Die zweite Gruppe von ChatGPT-Konten, die von OpenAI deaktiviert wurden, wird mit zwei China zugeschriebenen Hackergruppen in Verbindung gebracht: ATP5 und APT15. Während ein Teil der Gruppe mit dem KI-Chatbot zu Themen im Zusammenhang mit Open-Source-Forschung und technischen Themen interagierte, versuchte ein anderer Teil, Unterstützung bei der Entwicklung von Aktivitäten wie Linux-Systemadministration, Softwareentwicklung und Infrastrukturaufbau zu erhalten.

Diese Aktivitäten umfassten das Erstellen von Softwarepaketen für die Offline-Bereitstellung und Ratschläge zu konfigurierten Firewalls und Namensservern. Die Bedrohungsakteure waren sowohl in der Web- als auch in der Android-App-Entwicklung tätig.

Zusätzlich nutzten die China-verbundenen Cluster ChatGPT, um an einem Brute-Force-Skript zu arbeiten, das in FTP-Server einbrechen kann, um zu erforschen, wie große Sprachmodelle zur Automatisierung von Penetrationstests verwendet werden können, und um Code zu entwickeln, um eine Flotte von Android-Geräten zu verwalten, um Inhalte auf sozialen Medienplattformen wie Facebook, Instagram, TikTok und X programmatisch zu posten oder zu liken.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!