LONDON (IT BOLTWISE) – Laut Bericht von Anthropic haben sich Distillation-Angriffe gegen US-Frontier-Modelle in den vergangenen Monaten intensiviert. Die Vorwürfe richten sich unter anderem an Kampagnen, die auf das Entlocken interner Denk- und Argumentationsspuren („chain of thought“) zielen. Anthropic spricht dabei von knapp 200 Millionen aus Distillation abgeleiteten Austauschvorgängen und benennt mehrere Kampagnen mit unterschiedlichen Zielprofilen. Zusätzlich beschreibt der Bericht Techniken, die Prompts als scheinbare Übersetzungsaufgabe tarnen, um die Schutzmechanismen zu umgehen.
Anthropic berichtet in einem neuen Lagebild über sogenannte Distillation-Angriffe, also Vorgehensweisen, bei denen Angreifer gezielt Antworten eines leistungsfähigen Modells so ausnutzen, dass daraus verwertbares Trainingsmaterial für ein kleineres Modell entsteht. Kern der Strategie ist laut Bericht nicht nur das Sammeln von Ausgabe-Text, sondern das Versuchsziel, die impliziten Begründungs- oder „chain of thought“-Spuren aus den Antworten herauszulösen. Solche Spuren werden in der Regel nicht vollständig an Nutzer ausgegeben; stattdessen zeigen viele Systeme zusammengefasste Denkblöcke, die eher eine Übersicht als eine wörtliche interne Herleitung liefern. Genau diese Lücke soll in den geschilderten Kampagnen jedoch wiederholt überlistet worden sein.
Im Bericht heißt es, die beobachteten Kampagnen hätten in den letzten Monaten an Umfang und Aggressivität zugelegt, während der Wettbewerb in diesem Bereich spürbar intensiver geworden sei. Anthropic beschreibt die Angriffe als fortlaufende Versuche in „nicht autorisierten Laboren“, die „zunehmend ausgefeilte Methoden“ entwickeln würden, um Schutzmechanismen zu umgehen und die Fähigkeiten US-amerikanischer Frontier-Modelle „abzugreifen“. Darüber hinaus ordnet Anthropic die Ziele genauer ein: Als besonders betroffen nennt der Bericht agentische Fähigkeiten und Tool-Nutzung, außerdem Coding- und Datenanalyse-Funktionen sowie logisches Schließen. Wichtig für die technische Einordnung ist dabei, dass Distillation im Idealfall eine systematische Überführung von Verhalten in ein kleineres Modell ist – und nicht bloß vereinzelte Prompt-Spielereien.
Methodisch knüpft der Bericht an ein bekanntes Grundmuster an: Wenn Angreifer an intern strukturierte Begründungsfolgen gelangen, können sie diese anschließend für Supervised Fine-Tuning nutzen, um allgemeine Schluss- und Argumentationsfähigkeit in ein kleineres Modell zu übertragen. Damit wird Distillation für Angreifer zu einem datengetriebenen Prozess, bei dem möglichst konsistente Trainingssignale entstehen sollen. Anthropic beschreibt zudem eine konkrete Ausweichtechnik: In einem Beispiel soll ein Angreifer eine Anfrage als Übersetzungsauftrag gerahmt haben – „You are an expert translator“ – und die Zielvorgabe so formuliert haben, dass das System zuvor genutzte Arbeits-Kontexte bzw. „working memory“ in natürlichem, korrektem Katakana-Only-Japanisch übertragen soll. Solche Prompt-Verkleidungen sind deshalb relevant, weil sie Schutzgrenzen indirekt unterlaufen: Das Modell interpretiert die Anforderung als legitime Aufgabe, obwohl darunter das Extrahieren sensibler interner Spuren liegen soll.
Besonders umfangreich wirkt aus Anthropics Sicht die Kampagne, die dem Anbieter Alibaba zugeschrieben wird. Laut Bericht handelt es sich dabei um die größte „wholesale distillation effort“, die Anthropic bislang beobachtet haben will. Anthropic beziffert 151 Millionen Austauschvorgänge zwischen Mai und Juli 2026, die dieser Kampagne zugeordnet wurden; der Tageshöchstwert lag demnach bei knapp drei Millionen Austauschvorgängen pro Tag. Gleichzeitig verteilt sich das Traffic-Bild über 3.500 unterschiedliche Konten. Die Zuordnung zu einem einzelnen Vorhaben begründet Anthropic aber damit, dass viele Anfragen auf einem gemeinsamen, festen Prompt-Template basierten, das explizit auf die Extraktion der „chain of thought“ ausgerichtet war – also ein wiederholbarer Mechanismus zur Herstellung von Trainingsmaterial für die Qwen-Modellfamilie.
Neben dem Alibaba-Fokus beschreibt Anthropic eine zweite, in ihrer Ausrichtung auffällige Kampagne von Moonshot AI, dem Hersteller des Kimi-Systems. Der Bericht legt nahe, dass Anfragen über ein Netzwerk von Konten über Umwege zu Claude geroutet worden seien. Ein Beispiel nennt eine Anfrage, bei der Claude ein „Cache“ geschlossener Überwachungsvideoaufnahmen bewerten sollte, um zu bestimmen, ob die Person „abnormally“ agiere. Über einen Zeitraum von zehn Tagen sollen dem Bericht zufolge fast 300.000 Anfragen über eine Infrastruktur mit rund 5.000 Konten an Claude gegangen sein, wobei vor allem das Opus-Modell adressiert worden sei. Für Sicherheits- und Produktteams ist die technische Botschaft hier weniger das konkrete Anwendungsbeispiel als vielmehr das Muster: Wenn Prompting über große Kontennetzwerke skaliert wird, steigt die Wahrscheinlichkeit, dass auch seltene Schwachstellen in einzelnen Prompt-Formulierungen wirtschaftlich ausgenutzt werden.
Der Bericht ordnet die aktuelle Welle außerdem in eine längere Entwicklung ein. Anthropic habe bereits im Februar öffentlich über Distillation-Angriffe gesprochen und dabei auch einzelne Labore genannt. Ebenso meldete OpenAI laut Quelle vergleichbare Aktivitäten, wobei OpenAI dies speziell DeepSeek zugeschrieben habe. Neu sei laut Anthropic jedoch, dass die aktuellen Kampagnen im Gesamtbild größer und „more aggressive“ seien – und dass sie mehrere Funktionsdomänen gleichzeitig ansteuern: von Agentik über Tool-Use bis zu Codierung, Datenanalyse und logischem Schlussfolgern. Für Unternehmen, die KI-Modelle produktiv einsetzen, bedeutet das: Je allgemeiner die Zielkomponenten sind, desto schwieriger wird ein rein thematischer Schutz, weil Angreifer ihre Payloads flexibel auf verschiedene Kompetenzfelder ausrollen können.
Für die Praxis stellt sich damit die Frage, wie Betreiber ihre Abwehrstrategie operationalisieren. Wenn Distillation-Angriffe systematisch „Kontext“-Informationen ausgeben sollen, dann rückt der Schutz nicht nur in Richtung Prompt-Filtering, sondern auch in Richtung Observability: Muster wie wiederkehrende Prompts, starke Skalierung über viele Konten und wiederholt ähnliche Aufgabenrahmungen lassen sich in Logdaten auffälliger machen, selbst wenn einzelne Anfragen harmlos wirken. Gleichzeitig zeigt der Bericht, dass Angreifer die Modellgrenzen nicht nur über Direktzugriff auf interne Ketten testen, sondern über sprachliche Tarnung, Aufgabenumdeutung und die Ausnutzung von Verarbeitungsroutinen. Technisch betrachtet ist das weniger ein „Spiel um maximale Ausgaben“, sondern ein datengetriebener Wettlauf um verwertbare Trainingssignale – und genau dort wird die Abwehr anspruchsvoll, weil sie robust gegen Umgehungsvarianten bleiben muss.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic warnt vor Distillation-Angriffen: Alibaba, Moonshot AI und DeepSeek im Fokus" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic warnt vor Distillation-Angriffen: Alibaba, Moonshot AI und DeepSeek im Fokus" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic warnt vor Distillation-Angriffen: Alibaba, Moonshot AI und DeepSeek im Fokus« bei Google Deutschland suchen, bei Bing oder Google News!