LONDON / LONDON (IT BOLTWISE) – Anthropic beschreibt neue Schutzmaßnahmen gegen Distillation-Angriffe auf Claude, die auf das Auslesen der „reasoning“-Transkripte zielen. Laut Anbieter wurden die extrahierten Reasoning-Token vor allem durch einen Zwei-Stufen-Classifier und „preserved thinking“ deutlich reduziert. In frühen Ergebnissen sinkt die Datenmenge, die Distillierer angeblich abgreifen, um etwa 90 bis 99 Prozent. Gleichzeitig nennt Anthropic Trade-offs wie aktualisierte Integrationen, mögliche Fehlklassifikationen unter 0,1 Prozent und das Wieder-Erheben von Gebühren für blockierte Requests.
Wenn KI-Modelle wie Claude für viele Teams über APIs verfügbar werden, steigt auch die Angriffsfläche. Distillation-Angriffe nutzen genau diese Öffnung: Angreifer versuchen, die Fähigkeiten eines großen Modells in ein kleineres Modell zu „kopieren“, indem sie massive Antwortmengen sammeln und anschließend zum Nachbau verwenden. Anthropic ordnet diese Vorgehensweise als kovert betriebene Kampagnen im industriellen Maßstab ein, häufig über Netzwerke mit gefälschten Accounts. Zentral ist dabei nicht nur das Endresultat einer Modellantwort, sondern das, was in vielen Fällen als internes „Reasoning“ vor der sichtbaren Antwort entsteht und im Prompt-/Antwort-Kontext als Transkript zugänglich sein kann.
Der Anbieter verbindet den technischen Hebel mit einem doppelten Risiko. Erstens sollen distillierte Modelle Funktionsnähe zur Capability-Frontier erreichen, allerdings ohne die in der Praxis durchgesetzten und weiterentwickelten Schutzvorkehrungen. Anthropic nennt als Bereiche mit besonders hohem Schadenspotenzial unter anderem Biologie und Cybersecurity. Zweitens macht das Unternehmen Distillation auch zu einem nationalen Sicherheitsrisiko, weil die gewonnenen Fähigkeiten in ausländische militärische, nachrichtendienstliche oder Überwachungs-Systeme einfließen könnten. In diesem Zusammenhang führt Anthropic ein konkretes Beispiel an: Nach den Angaben im Blog wurden Requests an Modelle eines anderen Anbieters heimlich an Claude weitergeleitet, um dessen Distillation zu betreiben; ein einzelner Request sei mutmaßlich mit der Volksbefreiungsarmee verbunden gewesen.
Technisch betrachtet greifen die neuen Verteidigungen vor allem an der Stelle an, an der Distillierer am meisten „Lernsignal“ erwarten: bei den Reasoning-Transkripten. Anthropic beschreibt, dass frühere Maßnahmen gegen passive Distillation bereits geholfen haben, etwa indem Claude seine Begründung zuerst zusammenfasste und erst dann an Nutzer ausspielte. In den beschriebenen Tests fiel die Distillierbarkeit je nach Trainingsmaterial: Mit vollen Transkripten habe das distillierte Modell auf dem SWE-bench Verified Coding Benchmark 80,4 % erreicht, mit nur zusammengefassten Transkripten 71,8 %. Doch Distillierer seien daraufhin auf aktives Ausprobieren umgeschwenkt, etwa indem sie das Modell aufforderten, sein vorheriges Reasoning wortgetreu auszugeben, oder indem sie versuchten, die Schutzmechanismen mit vielfältig variierten Prompt-Tricks zu umgehen.
Aus Anthropics Sicht reichen „einfache“ Detektion und Blockierung allein nicht aus, weil Angreifer auf Umgehungen skalieren können. Genau an diesem Punkt nennt der Blog mehrere Schutz-Schichten: „Preserved thinking“ soll verhindern, dass neue API-Accounts ab dem 31. August 2026 den bisherigen Kontext von Claude bearbeiten. Dadurch wird es schwerer, Proxy-Netzwerke wiederholt einzusetzen, um schrittweise an geschützte Reasoning-Inhalte zu gelangen. Zusätzlich soll Reasoning für frühere Modelle mit schwächeren Anti-Distillation-Safeguards nicht lesbar sein; bei Claude Sonnet 5.5 wird es zudem nur der Organisation zugänglich gemacht, die die zugehörige Anfrage erzeugte. Neben dem Zugriffsschutz beschreibt Anthropic außerdem eine Klassifikationskette: ein Zwei-Stufen-Classifier, dessen Design in „constitutional classifiers research“ verortet wird, der Distillationsversuche anhand der extraktionsbezogenen Transkripte erkennt, intern und extern per Red-Teaming gehärtet wird und laut Angaben eine False-Positive-Rate von weniger als 0,1 % erreichen soll.
Damit nicht genug, erweitert Anthropic die Abwehr um das Management wiederholter Versuche. So lassen sich laut Anbieter Distillierer-Accounts häufig daran erkennen, dass sie fortlaufend versuchen, Reasoning aus Claude zu extrahieren; dann verschärft das System Usage-Limits, und bei wiederholten, beharrlichen Versuchen werden die zugehörigen Accounts gebannt. Auffällig ist auch eine operative Konsequenz ab dem 24. September: Anthropic habe die Abrechnung für Requests wieder aufgenommen, wenn deren Inhalte durch die Safeguards vor der Ausführung blockiert werden – explizit in Bereichen, in denen die False-Positive-Rate unter 0,1 % liegt, wozu auch Distillation zählt. Anthropic positioniert das als Belastungsfaktor für Angreifer: Der Angriff soll nicht nur technisch, sondern auch ökonomisch unattraktiver werden.
Wie wirksam das Zusammenspiel aus preserved thinking, Klassifizierung und wiederholtem Account-Handling ist, versucht der Blog über quantifizierbare Proxy-Messungen zu stützen. Nach Einführung des Classifiers sei die Zahl der extrahierten Reasoning-Token auf der eigenen Plattform „10 bis 100 Mal“ geringer als zuvor. Zudem nennt Anthropic, man habe Zehntausende Accounts in Verbindung mit Distillation gebannt, häufig innerhalb von weniger als zwei Stunden nach Beginn einer Kampagne. Gleichzeitig bleibt die Aussage vorsichtig: Es gebe keine Gewissheit, wie lange die verbesserten Resultate anhalten, weil Distillation weiterhin als „Kat-und-Maus“-Spiel beschrieben wird. Der Anbieter erwartet, dass Angreifer neue Techniken finden, und kündigt an, Safeguards laufend zu aktualisieren.
Für den Markt ist die Botschaft zweigeteilt. Auf der einen Seite macht Anthropic deutlich, dass sich Schutzvorkehrungen gegen Distillation auf mehrere Ebenen verteilen müssen und nicht als einzelner Patch funktionieren. Auf der anderen Seite sind Trade-offs real: preserved thinking habe einige Entwickler gezwungen, Integrationen anzupassen; die Klassifikatoren könnten in weniger als 0,1 % der Fälle auch harmlose Anfragen fälschlich blockieren; und Kunden zahlten zudem für blockierte Requests. Entscheidend ist jedoch auch die industriepolitische Perspektive: Anthropic betont, Distillation betreffe alle Model-Entwickler, und das eigene Vorgehen könne unterlaufen werden, wenn Angreifer auf ähnlich starke, aber weniger robuste Modelle ausweichen. Da Distillierer Traffic über verschiedene APIs und Inferenzanbieter streuen, sieht der Blog auch Plattformen und Betreiber in der Pflicht, Missbrauch schnell zu erkennen und betrügerische Accounts „offboarding“-mäßig zu beenden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic wehrt Distillation-Angriffe auf Claude mit neuen Schutzmechanismen ab" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic wehrt Distillation-Angriffe auf Claude mit neuen Schutzmechanismen ab" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic wehrt Distillation-Angriffe auf Claude mit neuen Schutzmechanismen ab« bei Google Deutschland suchen, bei Bing oder Google News!