LONDON (IT BOLTWISE) – Anthropic berichtet von mehreren Fällen missbräuchlicher Nutzung des KI-Modells Claude. Laut dem Unternehmen soll Künstliche Intelligenz nicht nur zur Unterstützung, sondern zur Steuerung ganzer Cyberangriffe eingesetzt werden. Besonders betroffen seien nach Angaben aus dem Bericht sowohl mutmaßlich russisch gesteuerte Kampagnen als auch Aktivitäten aus dem chinesischen KI-Umfeld. Außerdem verweist Anthropic auf Versuche, Claude gezielt als Baustein für Softwareentwicklung in sicherheitskritischen Kontexten zu missbrauchen.
Dass Künstliche Intelligenz im Cyberraum zunehmend mehr als nur eine „praktische Assistenz“ ist, zeigt ein Bericht von Anthropic: Das Unternehmen beschreibt, dass Angreifer seine Modelle nicht nur für einzelne Hilfsaufgaben nutzen, sondern auch für die Steuerung und Ausführung ganzer Angriffsabläufe. Anthropic ordnet die Entwicklungen damit in einen Trend ein, bei dem KI-gestützte Systeme den Übergang von manueller Taktik zu teilautomatisierten Workflows beschleunigen. Technisch relevant ist dabei vor allem die Rolle der Modellantworten als „Orchestrator“: Wenn ein System wiederholt Anweisungen erzeugt, die im nächsten Schritt direkt in Skripte, Payload-Entwürfe oder Social-Engineering-texte münden, verkürzt sich die Zeit zwischen Idee und einsatzfähiger Implementierung.
Nach Angaben von Anthropic hat das Unternehmen in den vergangenen acht Monaten mehrere Fälle unterbunden, in denen Claude missbräuchlich verwendet werden sollte. Dazu zählt eine mutmaßlich von Russland gesteuerte Cyberspionage-Kampagne sowie Versuche chinesischer KI-Firmen, Fähigkeiten von Claude zu kopieren. In der Praxis heißt das: Statt nur „Prompts“ zu missbrauchen, zielt der Angriff auf eine längerfristige Nutzbarmachung ab, etwa indem die Ergebnisse systematisch gesammelt, bewertet und dann in eigenen Trainings- oder Tuning-Schleifen verarbeitet werden. Anthropic nennt außerdem den Punkt, dass Modelle im vergangenen Jahr deutlich leistungsfähiger geworden seien und dadurch neue Angriffsszenarien wahrscheinlicher machten. Jacob Klein, Leiter der Bedrohungsanalyse bei Anthropic, fasst es so zusammen: „Vor einem Jahr wären die Modelle für eine Aufgabe wie die Optimierung einer Drohne oder der Software einer Rakete einfach nicht so gut gewesen wie heute“.
Besonders konkretes Material liefert Anthropic zu einer Reihe von Aktivitäten, die dem chinesischen Umfeld zugerechnet werden. Dem Bericht zufolge hat das Unternehmen Angriffe von sieben chinesischen Laboren gestoppt, darunter von Technologieriesen wie Alibaba, Moonshot, DeepSeek und Xiaomi. Mitarbeiter, die Alibaba zugeordnet werden, sollen den größten Angriff dieser Art ausgeführt haben, um Claude-Fähigkeiten für die Verbesserung eigener Qwen-Modelle zu verwenden. Der technische Kern dahinter ist eine klassische Kostenfrage im Modelltraining: Kleinere KI-Modelle werden mit den Ergebnissen größerer, teurerer Modelle trainiert, um die Entwicklungskosten zu senken. Anthropic beziffert den Umfang der so erkannten Interaktionen: Zwischen Mai und Juli 2026 habe man mehr als 151 Millionen solche Interaktionen von über 3500 als betrügerisch eingestuften Konten festgestellt.
Auch bei der Frage, wie genau sich Live-Dialoge als Trainingsdaten missbrauchen lassen, liefert Anthropic einen operativen Ansatz. Laut Bericht sollen die Entwickler der Chatbots Kimi (Moonshot) und DeepSeek Live-Gespräche von Kunden in Claude eingespeist haben; diese Gespräche hätten teils sensible Informationen enthalten, und die Antworten sollen anschließend als Trainingsdaten verwendet worden sein. Aus Sicht der KI-Sicherheit ist das ein besonders heikler Pfad, weil er nicht nur die Bereitstellung von Modellen betrifft, sondern die Datenumgebung um das Modell herum: Wer Chatverläufe so in fremde Trainingsprozesse überführt, kann sowohl personenbezogene als auch geschäftskritische Informationen in einen unerwünschten Lernzyklus tragen. Genau deshalb verschieben sich die Schutzmaßnahmen zunehmend von reiner „Prompt-Filterung“ hin zu einer Kombination aus Konten- und Verhaltenssignalen, Retentionskontrollen und Prozessmonitoring.
Der Bericht verbindet diese Missbrauchsmuster zudem mit dem klassischen Cybercrime- und Spionageumfeld. Eine Hackergruppe, deren Vorgehen mit der russischen Gruppe „Midnight Blizzard“ übereinstimmt, soll mithilfe der KI Angriffe auf Ziele in der ukrainischen Regierung, dem Militär und dem diplomatischen Sektor verübt haben. Die US-Regierung habe „Midnight Blizzard“ bereits früher mit dem russischen Auslandsgeheimdienst SVR in Verbindung gebracht. Zusätzlich beschreibt Anthropic für diese Schiene ein technisches Abwehrziel: Die Gruppe soll ein System entwickelt haben, das automatisch erkennt, wenn seine Schadsoftware von Sicherheitssystemen entdeckt wird, und den Code so lange umschreibt, bis er wieder unentdeckt bleibt. Daneben identifiziert Anthropic weitere Akteure, die Claude zur Entwicklung von Software für konventionelle Waffen wie Schusswaffen, Raketen und bewaffnete Drohnen missbrauchen sollen. Für Unternehmen ist daran vor allem die Konsequenz relevant, dass KI-Modelle als „Generierungswerkzeug“ in die gesamte Angriffskette eingebunden werden können, inklusive iterative Anpassung und zielgerichtetem Feintuning.
Über den unmittelbaren Missbrauch hinaus adressiert Anthropic auch die Frage nach Governance und Risikoengineering rund um KI-Services. Wenn Modellfähigkeiten in kurzer Zeit „kopierbar“ erscheinen, steigt der Druck auf Anbieter, ihre Schutzmechanismen nicht nur auf Inhalte, sondern auch auf Muster der Nutzung auszurichten. Dazu gehören Rate-Limits, Monitoring von Konto- und Session-Verhalten, Anomalieerkennung und die konsequente Durchsetzung von Abbruchkriterien, sobald verdächtige Trainings- oder Exfiltrationsmuster erkennbar werden. Gleichzeitig bleibt eine Lücke: Selbst wenn ein Anbieter Angriffe unterbindet, kann der Know-how-Transfer in der Angreifer-Community funktionieren, etwa über abgeleitete Workflows, öffentliche Automatisierungsrezepte oder geteilte Prompt-Strukturen. Der Bericht macht damit deutlich, dass „Modellsicherheit“ nicht isoliert betrachtet werden darf, sondern als Zusammenspiel aus Produkt, Plattformprozessen und Threat-Intelligence entsteht.
Für die Markt- und Unternehmensperspektive ergibt sich daraus eine klare Priorisierung: Sicherheitsverantwortliche sollten KI-Nutzung nicht als Randthema behandeln, sondern als Teil der Angriffsfläche. Entwicklerteams müssen Prozesse etablieren, die den Einsatz von KI-Tools in der Softwareentwicklung und im Support beschränken oder absichern, insbesondere wenn externe Modelle in Workflows integriert sind, die Zugang zu Quellcode, Konfigurationsdaten oder sensiblen Gesprächsinhalten haben. Zugleich sollten CIOs und Compliance-nahe Teams genau prüfen, wie Chat-Verläufe, Trainingsdaten und Protokolle im eigenen Betrieb behandelt werden, damit ein „promptgetriebener“ Zugang nicht ungewollt zu einem Datenleck oder zu einer Trainingsdatenkontamination wird. Anthropics Darstellung ist damit weniger eine einzelne Schlagzeile als ein Hinweis auf die Richtung, in die KI-basierte Offensivtechnik läuft: weniger punktuelle Nutzung, mehr Systematik.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic warnt: KI steigert Reichweite und Steuerung von Cyberangriffen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic warnt: KI steigert Reichweite und Steuerung von Cyberangriffen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic warnt: KI steigert Reichweite und Steuerung von Cyberangriffen« bei Google Deutschland suchen, bei Bing oder Google News!