LONDON (IT BOLTWISE) – Anthropic warnt, dass Cyberkriminelle und staatlich unterstützte Akteure seine Claude-Modelle für Angriffe wie Ausspähung, Ausnutzung von Schwachstellen und Datendiebstahl einsetzen. In einem 154-seitigen Bericht beschreibt das Unternehmen sogenannte „Generative Threat Groups“ (GTGs), die Fähigkeiten für Rekognoszierung und Exfiltration teils mit mehragentigen Automationsketten verbinden. Besonders sichtbar sind Fälle, in denen KI bei der Entwicklung von Malware, Phishing und beim Missbrauch von Konten hilft. Offen bleibt, wie schnell sich Gegenmaßnahmen in Unternehmen und Plattformen gegen diese KI-gestützten Workflows durchsetzen können.
Mit der Verbreitung großer Sprachmodelle kippt ein altes Sicherheitsprinzip: Wo früher Werkzeug und Know-how die Lücke zwischen gut ausgestatteten staatlichen Operationen und einzelnen Angreifern trennten, wird diese Trennung nach Ansicht von Anthropic zunehmend durch KI überbrückt. Das Unternehmen beschreibt in einem 154-seitigen Lagebild, dass Angreifer sowohl rein finanziell motiviert als auch staatlich gelenkt oder mit Propaganda-Aufträgen seine Claude-Modelle für eine ganze Kette von Aktivitäten verwenden – von der Vorbereitung über die eigentliche Ausnutzung bis hin zum Diebstahl von Daten. Laut Anthropic geht es dabei nicht nur um „Chatten“; vielmehr werden KI-Fähigkeiten in Workflows integriert, die Schritt für Schritt oder sogar weitgehend autonom ablaufen.
Technisch stützt sich der Bericht auf die Idee, dass KI-Modelle als „Engineering-Assistenz“ für schädliche Artefakte funktionieren: Anthropic nennt ausdrücklich die Erstellung von Malware, Phishing-Kits und Surveillance-Tools als Einsatzfelder. Entlang einer Skala beschreibt das Unternehmen drei Muster. Am einen Ende nutzen Akteure Claude vor allem als konversationellen Assistenten, etwa um Komponenten zu entwerfen oder für Angriffslogik zu beschreiben. Mittendrin setzen sie Claude gezielt so ein, dass der Mensch einzelne Zielentscheidungen trifft, während die KI die operativen Schritte vorbereitet – etwa indem sie Reconnaissance-Abläufe, das Ernten von Zugangsdaten und das anschließende Exfiltrieren von Daten anstößt. Am anderen Ende schließlich laufen Operationen mit minimaler menschlicher Aufsicht: mehragentige Frameworks führen Rekognoszierung, Ausnutzung und Diebstahl parallel über Stunden oder Tage durch.
Besonders konkret wird es bei den von Anthropic dokumentierten Clustern. Ein Beispiel ist GTG-20006, das mit einer russisch staatlich unterstützten Bedrohungsaktivität in Verbindung gebracht wird und in der Darstellung auf eine KI-gestützte Workflow-Entwicklung abzielt. Ergänzend nennt der Bericht GTG-50014 (u. a. unter den Bezeichnungen MeowSHA, frkoo und blazespider): Dort soll ein französischsprachiger Operator eine verteilte Pipeline zur Kontensammlung betrieben haben. Laut Anthropic liefen dafür zehn AWS-EC2-Worker, die massenhaft Android-APK-Dateien – insgesamt 1,8 Millionen unterschiedliche – von App-Quellen herunterluden, dann mittels TruffleHog nach hart kodierten Geheimnissen suchten und die verifizierten Funde an einen Telegram-Verteiler übermittelten. Neben dieser Supply-Chain-Variante beschreibt Anthropic auch einen zweiten ShinyHunters-nahen Ansatz, bei dem kompromittierte SaaS-Anbieter (Software-as-a-Service) für den Diebstahl von Kundendaten, schnellere Reconnaissance und anschließende Exfiltration genutzt werden.
Auch im Bereich Konto- und Zugangsdiebstahl zeigt der Bericht, wie sich KI in „Ökosystem-Angriffe“ einfügt. GTG-50021 wird als russisch-ukrainischer Akteur beschrieben, der angeblich eine betrügerische Reseller-Operation für günstigen Claude-Zugang betrieb: Dabei soll der Traffic der Kunden still auf ein anderes KI-Modell umgeleitet und parallel ein Credential-Harvester installiert worden sein, der Zugänge zu Anthropic-Konten abgriff. Ein ähnliches Bild liefert GTG-50020: Der Bericht ordnet den Akteur als finanzmotiviert ein, der bislang auf Hotel- und FinTech-Plattformen fokussiert gewesen sei, nun jedoch auf den „AI supply chain“-Aspekt wechselt. Konkret werden gestohlene API-Keys von Modellanbietern genannt sowie ein gescheiterter Versuch, Zugang zu noch nicht freigegebenen Modellen zu erhalten; zudem schätzt Anthropic eine Zielsetzung von rund 30 KI-Vendors in einem Zeitraum von vier Tagen mithilfe ähnlicher Techniken.
Für Unternehmen ist zudem entscheidend, dass Anthropic nicht bei klassischen Datendiebstahl-Szenarien stehen bleibt, sondern auch Einfluss- und Überwachungsoperationen beschreibt. Dazu zählen Cluster, in denen Claude als „Sub-Editor“ oder Content Creator eingesetzt wird, um politische Inhalte in großem Maßstab zu produzieren und zu variieren. In einem Fall beschreibt Anthropic GTG-54002 als „influence-as-a-service“-artige Operation, die politische Inhalte über etwa 70 gefälschte Nachrichten-Websites skalieren und umschreiben soll. Daneben nennt der Bericht GTG-50029 als Akteur, der Claude genutzt haben soll, um europäische politische Akteure und deren Unterstützungs- oder Kampagnen-SaaS anzugreifen; laut Anthropic kam dabei sogar eine zuvor undokumentierte WordPress-Reinstallations-Race-Condition zum Einsatz, um ohne gültige Credentials einen Administrator-Account zu erzeugen. Ergänzt wird das Bild durch Überwachungsplattformen, die laut Anthropic Social-Media-Aktivitäten analysieren und Nutzerprofile kategorisieren, sowie durch Operativen, die Bulk-gesammelte Messenger-Gespräche in strukturierte Daten überführen sollen.
Historisch betrachtet ist das Muster kein kompletter Bruch, sondern eine Beschleunigung: KI nimmt Routineaufgaben aus dem Angriffsvorbereitungsprozess heraus, etwa Formulierung, Strukturierung, Generierung von Ablaufvarianten und die Anpassung an konkrete Ziele. Was neu ist, liegt in der Skalierung und im Zusammenwirken mit Automatisierungsrahmen: Wenn mehragentige Systeme parallel arbeiten, sinkt die effektive „Zeit bis zum ersten Schaden“ und die Hürde für weniger spezialisierte Angreifer sinkt. Gleichzeitig verweist Anthropic darauf, dass Anbieter inzwischen realweltnahe Sicht auf Fehl- oder Missbrauchsmuster erhalten, über die selbst Regierungen oder internationale Organisationen oft nicht verfügen. Das erhöht den Druck auf Plattformen und Unternehmen, ihre Sicherheits- und Betriebsprozesse stärker auf KI-gestützte Angriffsabläufe auszurichten – beispielsweise durch engere Kontrolle von Zugangsdaten, Monitoring ungewöhnlicher Automationsmuster und robustere Abwehr gegen Supply-Chain-Angriffe.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic warnt: KI-Modelle werden für Cyberangriffe und Datendiebstahl genutzt" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic warnt: KI-Modelle werden für Cyberangriffe und Datendiebstahl genutzt" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic warnt: KI-Modelle werden für Cyberangriffe und Datendiebstahl genutzt« bei Google Deutschland suchen, bei Bing oder Google News!