Hacker nutzen KI zur Entwicklung von Malware: OpenAI schlägt Alarm

LONDON (IT BOLTWISE) – OpenAI hat kürzlich drei Hackergruppen identifiziert, die ChatGPT zur Erstellung von Malware nutzten. Besonders besorgniserregend ist die Beteiligung einer russischsprachigen Gruppe, die den Chatbot zur Entwicklung eines Remote Access Trojan (RAT) und zur Optimierung von Credential-Stealing-Software einsetzte.

OpenAI hat kürzlich die Aktivitäten von drei Hackergruppen aufgedeckt, die ChatGPT zur Erstellung von Malware nutzten. Besonders auffällig war eine russischsprachige Gruppe, die den Chatbot zur Entwicklung eines Remote Access Trojan (RAT) und zur Optimierung von Credential-Stealing-Software einsetzte. Diese Software wurde speziell darauf ausgelegt, Erkennungssysteme zu umgehen, was die Bedrohung durch solche Angriffe erheblich erhöht.

Die Hacker nutzten mehrere ChatGPT-Konten, um Komponenten zu testen und zu debuggen, die Datendiebstahl und anschließende Ausbeutung ermöglichen. OpenAI stellte fest, dass diese Konten mit russischsprachigen kriminellen Gruppen in Verbindung stehen, da sie Beweise ihrer Aktivitäten in einem Telegram-Kanal veröffentlichten. Obwohl große Sprachmodelle wie ChatGPT normalerweise die Generierung von bösartigem Inhalt bei direkten Anfragen verweigern, fanden die Hacker einen Umweg. Sie zwangen die KI, separate Codefragmente zu erzeugen, die später zu vollständigen Arbeitsabläufen zusammengefügt wurden.

Ein zweiter Aktivitätscluster stammte aus Nordkorea. OpenAI stellte fest, dass diese Hacker ChatGPT zur Erstellung von Malware und Command-and-Control (C2)-Servern nutzten. Sie konzentrierten sich auf Aufgaben wie die Entwicklung von Finder-Erweiterungen für macOS, die Konfiguration von VPN-Verbindungen auf Windows Server oder die Umwandlung von Chrome-Erweiterungen in Versionen, die mit Safari kompatibel sind.

Zusätzlich nutzten die Angreifer den Chatbot zur Erstellung von Phishing-E-Mails, zur Erprobung von Cloud-Diensten und GitHub-Funktionen sowie zur Erforschung von Techniken wie DLL-Sideloading, In-Memory-Ausführung, Windows-API-Hooking und Credential-Diebstahl. Die dritte Gruppe von blockierten Konten ist mit dem UNK_DropPitch (UTA0388) Cluster verbunden, einer chinesischen Hackergruppe, die für Phishing-Angriffe auf große Investmentfirmen bekannt ist, insbesondere im taiwanesischen Halbleitersektor.

Diese Angreifer generierten Phishing-Kampagneninhalte in Englisch, Chinesisch und Japanisch, suchten Hilfe bei der Entwicklung von Tools zur Beschleunigung routinemäßiger Aufgaben (wie Remote-Ausführung und Schutz des Datenverkehrs über HTTPS) und recherchierten, wie man Open-Source-Tools wie nuclei und fscan installiert. Die Entdeckung dieser Aktivitäten zeigt, wie wichtig es ist, die Sicherheitsmaßnahmen kontinuierlich zu verbessern und die Zusammenarbeit zwischen Unternehmen und Sicherheitsbehörden zu stärken, um der wachsenden Bedrohung durch Cyberkriminalität entgegenzuwirken.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

30,50 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

20,99 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!