LONDON (IT BOLTWISE) – Anthropic beschreibt in einem neuen Bericht, wie Angreifer KI-Modelle für schädliche Zwecke missbrauchen wollten. Laut dem Unternehmen wurden Anfragen mit Bezug zu Cyberangriffen und Überwachung blockiert. Besonders betont Anthropic die Einschränkung von Dual-Use-Biologie-Forschung, die auch zur Waffenentwicklung genutzt werden könnte. Der Bericht veröffentlicht zudem Beispielausschnitte aus schädlichen Prompts und weist auf Muster hin, die Regierungen und KI-Wettbewerber erkennen sollen.
Anthropic hat seinen dritten Bericht seit März 2025 vorgelegt, in dem das Startup detailliert beschreibt, welche Missbrauchsversuche es in seinen KI-Diensten abgewehrt hat. Der Fokus liegt dabei nicht nur auf klassischem „Prompt-Fuzzing“, sondern auf konkreten Abzweigungen in Richtung Cyberangriffe, Überwachung und Forschungsvorhaben, die in die Kategorie Dual-Use fallen. Mit Blick auf die wachsende Leistungsfähigkeit neuer Modelle argumentiert das Unternehmen, dass immer weniger Spezialwissen erforderlich ist, um Bedrohungen zu formulieren: Je mächtiger die Systeme, desto leichter werden aus allgemeinen Anweisungen präzisere Angriffskonzepte, auch für einzelne Akteure.
Technisch interessant ist, wie Anthropic das Thema Dual-Use biologischer Forschung in den Kontext seiner Sicherheitsarchitektur einordnet. In seinem Bericht nennt das Unternehmen Fälle, in denen seine Systeme nicht nur „schädliche Inhalte“ im engeren Sinn blockierten, sondern auch Anfragen, die auf wissenschaftliche Unterstützung für potenziell problematische Experimente hinausliefen. Ein konkretes Beispiel: Anthropic berichtet, dass ein Antrag für wissenschaftliche Finanzierung abgewiesen wurde, weil die darin beschriebene Arbeit Gain-of-Function-Forschung berühren sollte. Dabei werden Organismen genetisch so verändert, dass neue oder verstärkte biologische Eigenschaften entstehen – im Bericht mit dem Bezug auf die Ziele Transmissibilität und Immunflucht.
Diese Schilderung greift eine bekannte Spannung in der KI-Sicherheitsdebatte auf: Modelle können wissenschaftliche Texte, Formulierungen und Planungsdetails sehr effizient unterstützen, und genau diese Fähigkeiten sind im falschen Rahmen auch für gefährliche Zwecke verwertbar. Anthropic erläutert daher auch die Grenzen früherer Generationen. Ältere Modelle wie Claude Opus 4 und Claude Sonnet 4.5 seien „deutlich unterhalb der Schwelle“ gewesen, ab der sie einen anspruchsvollen Nutzer sinnvoll bei gefährlicher Biorecherche unterstützt hätten. Für spätere Modellgenerationen – im Bericht genannt etwa Claude Fable 5 – sei die Lage anders: Das Unternehmen verweist darauf, dass die Wahrscheinlichkeit schädlicher Assistenz mit zunehmender Modellkapazität nicht mehr zuverlässig abschätzbar ist.
Besonders brisant wird die Darstellung dort, wo Anthropic nicht nur blockierte Anfragen, sondern auch die Art der Umgehung thematisiert. Neben Fällen mutmaßlich unautorisierten Zugriffs beschreibt der Bericht auch ein „illicit distillation“-Szenario: eine offenbar industrialisierte, verdeckte Kampagne, bei der die Fähigkeiten eines Modells extrahiert und anschließend ohne Erlaubnis in ein anderes Modell übertragen werden. Damit verschiebt sich das Risiko weg von einzelnen Prompts hin zu einer Kette aus Zugriff, Verhaltensumformung und Nachbau. Für Unternehmen bedeutet das: Schutzmaßnahmen müssen nicht nur „im Moment der Anfrage“ greifen, sondern auch Missbrauchsformen berücksichtigen, die aus dem Nutzungsdaten- und Modellzugriff Ökosysteme bauen.
Die Veröffentlichung fällt zudem in eine Phase anhaltender interner und externer Debatten über KI-Governance. Kurz bevor der Bericht erschien, hatte ein Anthropic-Forscher seinen Rücktritt angekündigt und dabei Bedenken geäußert, das Unternehmen sowie der wichtigste Wettbewerber würden Risiken nicht verantwortungsvoll genug adressieren. Zugleich äußert der Bericht selbst die Erwartung, dass Regierungen und KI-Wettbewerber die beschriebenen Muster schneller erkennen und verhindern. In dieser Frage bringt John Thickstun, Assistant Professor für Informatik an der Cornell University, einen zentralen Punkt auf den Punkt: Er beschreibt es als unangenehme Lage für Firmen wie Anthropic und OpenAI, wenn sie entscheiden müssten, was „sicher“ und „unsicher“ sei und dabei „Value Judgments at societal scale“ treffen – ohne demokratische oder deliberative Aufsicht, die den Prozess legitimiert.
Inhaltlich erweitert Anthropic das Bild um die Mechanik von Einfluss- und Koordinationsoperationen im Umfeld sozialer Medien. Das Unternehmen berichtet von Gruppen, die Hunderte Social-Media-Accounts ähnlich wirkender „Normalnutzer“ aufbauten und über eine Woche hinweg Material veröffentlichten, das eine bestimmte politische Sicht verstärkte. Anthropic nennt dabei mehrere geografische Ursprungskorridore wie Russland, Iran, Türkei sowie Regionen entlang des Persischen Golfs, in Südostasien, Afrika und Europa. Auch hier wird ein typischer KI-spezifischer Punkt sichtbar: Während Plattformen Einflussoperationen oft erst erkennen, wenn Inhalte bereits im Umlauf sind, könnte ein System wie Claude den Ablauf bereits begleiten, bevor die Operation vollständig sichtbar wird.
Für die Markt- und Umsetzungsseite bedeutet das mehrere Konsequenzen. Erstens zeigt der Bericht, dass Sicherheitsmaßnahmen bei leistungsfähigeren Modellen nicht linear skaliert werden können: Wo frühere Sperren noch mit hoher Sicherheit auf „gefährliche Assistenz“ zielten, reicht das bei neueren Systemen offenbar nicht mehr, weil die Evidenz, so Anthropic, für eine vergleichbare Absicherung nicht mehr ausreiche. Zweitens verschiebt sich der Schwerpunkt vom alleinigen Content-Filter hin zu stärkerer Zugriffsbeschränkung auf breite Dual-Use-Query-Klassen. Und drittens wird klar, dass Informationsaustausch mit Behörden und Branchenpartnern nicht als Ergänzung verstanden wird, sondern als Bestandteil einer kollektiven Verteidigung gegen sich entwickelnde Missbrauchsmethoden.
Abschließend betont Anthropic, dass das Unternehmen die identifizierten bösartigen Aktivitäten jeweils blockiert habe, die gemachten Erfahrungen genutzt worden seien, um Schutzmechanismen zu verstärken, und die Erkenntnisse mit Regierungseinrichtungen sowie Industriepartnern geteilt worden seien. In der Logik des Berichts ist das nicht nur eine interne Sicherheitsmaßnahme, sondern ein Signal an den gesamten Markt: Je schneller Modelle „capable“ werden, desto schneller müssen Sicherheits- und Beobachtungsprozesse nachziehen. Gleichzeitig bleibt die grundlegende Herausforderung bestehen, die auch Thickstun anspricht: Sicherheit im KI-Betrieb erfordert Entscheidungen über Grenzen und Werte, die technologisch unterstützt, aber nicht vollständig automatisiert werden können.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic: KI-Missbrauch gegen Biowaffen und Dual-Use-Forschung abgewehrt" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic: KI-Missbrauch gegen Biowaffen und Dual-Use-Forschung abgewehrt" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic: KI-Missbrauch gegen Biowaffen und Dual-Use-Forschung abgewehrt« bei Google Deutschland suchen, bei Bing oder Google News!