LONDON (IT BOLTWISE) – Anthropic hat in einem aktuellen Threat-Intelligence-Report mehrere missbräuchliche Nutzungen seines Claude-Systems aufgedeckt und laut Unternehmensangaben gestoppt. Im Fokus stehen Fälle, die sowohl für Betrug und Einflusskampagnen als auch für die Unterstützung bei konventioneller und biologischer Waffenentwicklung relevant sein können. Der Bericht beschreibt außerdem, wie bestimmte Akteursgruppen KI für Cyber-Operationen einsetzen und Sicherheitsmaßnahmen umgehen wollen. Offen bleibt, wie konsequent sich der Schutz entlang der gesamten Lieferkette von Modellen bis zu nachgelagerten Anwendungen in der Praxis durchsetzen lässt.
Anthropic zieht in seinem aktuellen Threat-Intelligence-Report eine harte Grenze zwischen legitimer KI-Nutzung und „malicious activity“, die laut Unternehmen Entwicklungspfade für Waffen unterstützen könnte. Konkret geht es um Missbrauchsversuche rund um das Claude-Modell, die über einen Zeitraum von mehr als acht Monaten – Anthropic nennt die Spanne von Dezember 2025 bis August 2026 – erkannt und gestört worden seien. Die Veröffentlichung folgt auf interne Sicherheitswarnungen aus dem Unternehmen, wonach die Geschwindigkeit von KI-Fortschritten das Risiko für katastrophale Folgen erhöhen könne. Damit rückt nicht nur die Frage in den Mittelpunkt, welche Fähigkeiten ein Modell hat, sondern wie zuverlässig sich diese Fähigkeiten in produktiven Umgebungen „am Ausgabekanal vorbei“ kontrollieren lassen.
Im technischen Kern beschreibt Anthropic, dass es verschiedene Missbrauchskategorien im eigenen Ökosystem beobachtet: von Cyber-Operationen und Einflusskampagnen über Scams und Betrug bis hin zu Aktivitäten, die mit Waffenentwicklung zusammenhängen. Besonders brisant ist dabei die Aussage, dass Anthropic Wissenschaftler gestoppt habe, die Claude so nutzten, dass es „support biological weapons development“ begünstigen könnte. Der Bericht hebt ausdrücklich fünf Fallstudien hervor, in denen Akteure die Modelle in einer Weise verwendeten, die nach Unternehmenssicht zur Unterstützung biologischer Waffen geeignet sein kann. Anthropic nennt biologische Zweckentfremdung dabei als eines der ernstesten Risiken von Frontier-KI-Modellen, sofern die nötigen Schutzmaßnahmen fehlen.
Für Betreiber von KI-Plattformen ist auch die Differenzierung wichtig: Anthropic betont, dass kein Fehlgebrauch die Claude-Fable-Variante oder die „Mythos“-Klasse der Modelle betrifft – mit einer Ausnahme. Diese Ausnahme beschreibt Anthropic als „distillation“, also als Trainingsprozess, bei dem kleinere Modelle mit Hilfe eines größeren, leistungsfähigeren Modells aufgebaut werden. Praktisch heißt das: Selbst wenn ein Anbieter den direkten Zugriff auf ein Modell begrenzt, kann Missbrauch in nachgelagerten Pipelines auftauchen, etwa wenn Inhalte oder Strukturen aus zugelassenen Systemen als Wissensbasis in kleinere Deployments wandern. Für Sicherheits- und Compliance-Teams verschiebt sich damit der Prüfmodus von „was wurde im Prompt geschrieben?“ hin zu „wo landet die Ausgabe, wer trainiert weiter, und welche Tochtermodelle entstehen daraus?“
Zusätzlich zu den biologischen Risiken nennt der Report sechs Fälle, in denen Claude dazu genutzt worden sei, Software für konventionelle Waffen zu entwickeln. Anthropic führt dabei ausdrücklich Beispiele wie Software für Firearms, Missiles, bewaffnete Drohnen, Bomben sowie Ziel- und Kontrollsysteme an, also genau die Bereiche, in denen bereits kleine Logikfehler oder schlecht validierte Parameter zu realen Einsatzproblemen führen könnten. Der Bericht ordnet außerdem ein Muster ein, das viele Sicherheitsberichte der letzten Jahre kennzeichnet: Cyberkriminelle und staatlich unterstützte Gruppen verwenden KI zunehmend als „Assistent“ in Operationen – nicht als alleinigen Angreifer, sondern als Beschleuniger. Genannt werden etwa ShinyHunters sowie China-basierte Labore als Teil der im Bericht beschriebenen Akteurslandschaft.
Ein besonders konkretes Beispiel beschreibt Anthropic für eine Gruppe, deren Arbeiten laut Bericht mit einer in der Region verorteten russisch benannten Akteursfamilie übereinstimmen sollen: Die Gruppe habe demnach ein System genutzt, das automatisch erkannte, wenn Malware von Sicherheitsverteidigungen als verdächtig markiert wurde, und anschließend Code umgeschrieben, bis er der Erkennung entging. Solche Feedback-Loops sind technisch plausibel, weil sie die typische Signatur-basierte Abwehr umgehen helfen, indem sie Iterationen im Code-Output erzwingen, ohne dass der Angreifer komplett manuell eingreifen muss. Anthropic sagt, man habe die Erkenntnisse in die eigenen Prozesse eingebaut, um Aktivitäten künftig besser zu verhindern, zu erkennen und zu unterbinden. Gleichzeitig verweist das Unternehmen darauf, entsprechende Informationen mit Behörden und Industriepartnern geteilt zu haben, soweit das im Einzelfall angemessen war.
In die gleiche Richtung zielt die Einordnung aus dem Umfeld von KI-Sicherheitsforschung: Neben dem Bericht steht eine breitere Debatte über die gesellschaftlichen Folgen schneller KI-Fortschritte. Jacob Klein, der Leiter Threat Intelligence bei Anthropic, beschrieb den Sachverhalt gegenüber einem Medienbericht als „incredibly nuanced situation“ und sagte sinngemäß, man müsse sich nicht in einem comicartigen Szenario verlieren, sondern nüchtern betrachten, dass Missbrauch in realen Prozessen entsteht. OpenAI-Chefscientist Jakub Pachocki rief derweil zu „voluntary slowdowns“ auf, bis Schutzmechanismen gesetzt seien, und warnte, niemand sei auf die Konsequenzen einer weiter ansteigenden Maschinenintelligenz vorbereitet; OpenAI werde zwar an Safeguards arbeiten, aber es brauche breitere Eingriffe. Für die Tech-Industrie bedeutet das: Anbieter sichern Modelle ab, doch Unternehmen in der Anwendungskette müssen parallel ihre Prozesse, Freigaben und Monitoring-Fähigkeiten so gestalten, dass Ausgaben nicht unbeaufsichtigt in risikobehaftete Workflows geraten.
Auch der politische Druck steigt: Im Vereinigten Königreich gibt es laut Bericht einen Appell an die Regierung, über ein neues multilaterales Abkommen für sichere KI-Entwicklung nachzudenken, während in den USA ein Gesetzesentwurf zur Begrenzung von KI-Superintelligenz sowie zu einer vorübergehenden Pause bei besonders fortgeschrittenen Entwicklungsständen eingebracht wurde. Für CIOs, Security-Leads und Produktverantwortliche ist das vor allem eine Architekturfrage. Denn ob eine KI-Missbrauchsrichtung tatsächlich verhindert wird, hängt davon ab, wie eng Modellzugriff, Datenfluss, Prompting, Tools und nachgelagerte Trainingsprozesse miteinander verbunden oder entkoppelt sind. Der Anthropic-Report macht damit deutlich: Threat Intelligence ist nicht nur „Incident Response“, sondern sollte in die technische Produktgestaltung zurückfließen – etwa über striktes Moderations- und Abuse-Tracking, strengere Regeln für Tool-Use sowie ein Monitoring, das distillationsähnliche Umwege mitdenkt.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic meldet KI-Missbrauch: Angriffe auf Claude, Betrug, Spionage und Waffenentwicklung" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic meldet KI-Missbrauch: Angriffe auf Claude, Betrug, Spionage und Waffenentwicklung" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic meldet KI-Missbrauch: Angriffe auf Claude, Betrug, Spionage und Waffenentwicklung« bei Google Deutschland suchen, bei Bing oder Google News!