OpenAI blockiert ChatGPT-Konten von Hackergruppen aus Russland, Iran und China

LONDON (IT BOLTWISE) – OpenAI hat kürzlich bekannt gegeben, dass es eine Reihe von ChatGPT-Konten gesperrt hat, die von russischsprachigen Bedrohungsakteuren und zwei chinesischen staatlichen Hackergruppen betrieben wurden. Diese Konten wurden genutzt, um Malware zu entwickeln, soziale Medien zu automatisieren und Forschungen über US-Satellitenkommunikationstechnologien durchzuführen.

OpenAI hat kürzlich eine bedeutende Maßnahme ergriffen, indem es mehrere ChatGPT-Konten gesperrt hat, die von russischsprachigen Bedrohungsakteuren und zwei chinesischen staatlichen Hackergruppen genutzt wurden. Diese Konten dienten der Entwicklung von Malware, der Automatisierung sozialer Medien und der Forschung zu US-Satellitenkommunikationstechnologien. Die russischsprachigen Akteure nutzten die Modelle von OpenAI, um Windows-Malware zu entwickeln und zu verfeinern, Code in mehreren Sprachen zu debuggen und ihre Command-and-Control-Infrastruktur einzurichten. Dabei zeigten sie ein tiefes Verständnis für Windows-Interna und legten großen Wert auf operative Sicherheit.

Die von OpenAI identifizierte Malware-Kampagne, die den Codenamen ScopeCreep trägt, war nicht weit verbreitet. Die Bedrohungsakteure nutzten temporäre E-Mail-Konten, um sich bei ChatGPT anzumelden, führten jeweils eine Unterhaltung, um ihre Schadsoftware schrittweise zu verbessern, und gaben das Konto anschließend auf. Diese Methode, ein Netzwerk von Konten zu nutzen, um ihren Code zu verfeinern, unterstreicht den Fokus der Angreifer auf operative Sicherheit.

Die Angreifer verteilten die KI-unterstützte Malware über ein öffentlich zugängliches Code-Repository, das ein legitimes Videospiel-Overlay-Tool namens Crosshair X imitierte. Benutzer, die die trojanisierte Version der Software herunterluden, infizierten ihre Systeme mit einem Malware-Loader, der dann zusätzliche Nutzlasten von einem externen Server abrief und ausführte. Die Malware war darauf ausgelegt, Privilegien zu eskalieren, eine unauffällige Persistenz zu etablieren, den Bedrohungsakteur zu benachrichtigen und sensible Daten zu exfiltrieren, während sie der Erkennung entging.

OpenAI stellte fest, dass der Bedrohungsakteur seine Modelle bat, einen Go-Code-Schnipsel im Zusammenhang mit einer HTTPS-Anfrage zu debuggen, sowie um Hilfe bei der Integration der Telegram-API und der Verwendung von PowerShell-Befehlen über Go zur Änderung der Windows Defender-Einstellungen bat. Die zweite Gruppe von ChatGPT-Konten, die von OpenAI deaktiviert wurde, wird mit zwei chinesischen Hackergruppen in Verbindung gebracht: ATP5 und APT15. Diese Gruppen nutzten den KI-Chatbot für Open-Source-Forschung zu verschiedenen interessanten Entitäten und technischen Themen sowie zur Modifikation von Skripten oder zur Fehlerbehebung bei Systemkonfigurationen.

Einige der anderen beobachteten bösartigen Aktivitätscluster, die ChatGPT auf bösartige Weise nutzten, umfassten Netzwerke, die mit dem nordkoreanischen IT-Arbeiter-Schema übereinstimmen und OpenAIs Modelle nutzten, um täuschende Beschäftigungskampagnen zu betreiben. Diese Kampagnen entwickelten Materialien, die ihre betrügerischen Versuche, sich für IT-, Software-Engineering- und andere Remote-Jobs weltweit zu bewerben, wahrscheinlich vorantrieben. Eine weitere Aktivität, die wahrscheinlich aus China stammt, nutzte OpenAIs Modelle, um Massen von Social-Media-Posts in Englisch, Chinesisch und Urdu zu generieren, die geopolitisch relevante Themen für das Land behandelten.

Diese Entwicklungen werfen ein Licht auf die zunehmende Nutzung von KI-Tools durch Bedrohungsakteure, um ihre bösartigen Aktivitäten zu unterstützen. Die Fähigkeit, KI-Modelle für die Entwicklung von Malware und die Automatisierung von Social-Media-Kampagnen zu nutzen, stellt eine erhebliche Bedrohung für die Cybersicherheit dar. Unternehmen und Organisationen müssen wachsam bleiben und ihre Sicherheitsmaßnahmen kontinuierlich anpassen, um solchen Bedrohungen entgegenzuwirken.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!