LONDON (IT BOLTWISE) – Anthropics Threat-Intelligence-Chef Jacob Klein warnt vor distillierten Kopien der Claude-Modelle, die laut seinem Team über betrügerische Zugriffe entstehen. Er beschreibt, dass fremde Akteure über extreme Skalierung zehntausende bis hunderttausende gefälschte Accounts aufbauen, um Modellantworten zu sammeln. Die Methode soll dann genutzt werden, um eigene konkurrierende Systeme zu trainieren. Zusätzlich verweist Klein auf Sicherheitsrisiken, wenn der Zugang zu leistungsfähigeren Modellen durch diese Praxis untergraben wird.
Anthropic schärft den Tonfall im Streit um KI-„Distillation“: Laut Angaben von Jacob Klein, dem Leiter Threat Intelligence des Unternehmens, geht es nicht um die legale, lizenz- oder permissionsbasierte Weiterverwendung von Modellwissen, sondern um einen Ablauf, der wie ein systematischer Kopier- und Umgehungsversuch wirkt. Distillation ist grundsätzlich eine Technik, bei der ein „Student“-Modell anhand von Ausgaben eines „Teacher“-Modells trainiert wird. Im Idealfall geschieht das mit Einwilligung, sauberem Daten- und Rechte-Handling sowie Beachtung von Export- und Schutzmechanismen. Genau diese Rahmenbedingungen sieht Klein nach eigener Darstellung jedoch bei bestimmten ausländischen Akteuren verletzt.
Der praktische Kern der Vorwürfe liegt auf den Zugriffswegen: Fremde Adversaries sollen auf Claude-Modelle zugreifen und dabei die Antworten in großem Stil wiederverwenden, um konkurrierende Systeme günstiger zu bauen. In der Darstellung von Anthropic entsteht so ein Geschäftsmodell, das am Endkundenpreis ansetzt: Wer teurere Trainingsdaten und die eigene Entwicklung eines vollwertigen Modells überspringt, kann ein Wettbewerbsangebot zu einem „winzigen Bruchteil“ der Kosten anbieten. Für die betroffenen Labore wird dadurch die Betriebssicherheit zu einem Sicherheitsproblem, denn viele Anfragen lassen sich als „Normalbetrieb“ tarnen. Klein beschreibt zudem ein Muster, bei dem nicht nur viele Fragen gestellt werden, sondern gleichzeitig viele Accounts zum Einsatz kommen, wodurch ein klassisches Whack-a-mole-Umfeld entsteht, das in der KI-Industrie schwer vollständig zu stoppen ist.
Besonders brisant wird es für Anthropic in dem Moment, in dem der Wettbewerb um Kapazität und Preisgestaltung ohnehin eskaliert. Die Quelle ordnet die Warnung in eine Phase ein, in der das Unternehmen auf einen sehr hohen Marktwert im privaten Umfeld zusteuert und mit einem Börsengang „so bald wie möglich“ im Oktober rechnet. Gleichzeitig fällt der Marktstart eines günstigeren, aber leistungsnahen Gegenmodells in denselben Zeitraum: Moonshot AI brachte im Juli mit Kimi K3 ein Modell, das in der Silicon-Valley-Praxis schnell Verbreitung fand. Anthropic macht Moonshot AI (und in früheren Aussagen auch weitere chinesische Labore wie DeepSeek und MiniMax) konkret dafür verantwortlich, dass eine neue Version von Claude illegal als Ausgangspunkt gedient habe. Ebenso wird Alibaba für ein großes „Distillation attack“-Szenario im Umfeld der Qwen-Modellfamilie genannt; auf Anfragen soll keine Stellungnahme erfolgt sein.
Technisch betrachtet ist Distillation nicht per se „Diebstahl“. Der Unterschied entsteht, sobald Output, Zugriffsbedingungen und Rechte nicht zusammenpassen. Klein beschreibt in diesem Zusammenhang eine Art Ökosystem, das aus seiner Sicht darauf ausgerichtet ist, Kontrollen zu umgehen, und das sich offenbar auch mit massenhaftem Account-Setup betreibt. Dass solche Umgehungsstrategien in restriktiven Märkten besonders häufig vorkommen, erklärt sich für die Quelle auch durch Sanktionen: In Ländern, in denen der Zugriff auf Claude, auf Googles Gemini oder auf OpenAI-ChatGPT durch Unternehmensregeln eingeschränkt wird, greifen manche Akteure laut Darstellung schneller zu Umwegen. Cybersecurity-Experten verweisen dabei darauf, dass entsprechende Zugriffe über den Dark Web-Bereich stattfinden können, wo unter anderem gestohlene Kreditkartendaten und kompromittierte Konten gehandelt werden.
Als sichtbares „Signal“ nennt Klein eine ungewöhnliche Nachfragecharakteristik: Ein Distillationsprozess könne darauf hindeuten, dass Nutzer nicht nur dutzendweise Fragen stellen, sondern über tausende Anfragen und gegebenenfalls tausende Accounts hinweg konsistente Informationen für das Training sammeln. Das ist aus Unternehmenssicht deshalb schwierig, weil moderne KI-Plattformen ohnehin enorme Last bewältigen und Akteure versuchen, als „Teil der Menge“ zu wirken. Travis Lanham, Technologiechef bei Armadin und früherer Google-Ingenieur, beschreibt das als strukturelles Problem: Große KI-Anbieter seien stark unter Druck, Plattformen möglichst zugänglich zu halten, und in der Masse der Anfragen gehe das Auffällige leicht unter. Aus der Perspektive eines Produkt- oder Security-Teams bedeutet das: Schutzmaßnahmen dürfen nicht allein auf Einzelfall-Erkennung beruhen, sondern brauchen robuste Mustererkennung für Account-Skalierung, Anfragevolumen, Prompt-Charakteristik und typische Trainingsphasen.
Die regulatorische Debatte spielt in der Quelle ebenfalls mit hinein, aber ohne eine endgültige technische Lösung vorzugeben. In den USA wird Distillation laut Text von unterschiedlichen Lagern unterschiedlich eingeordnet: Einige Stimmen plädieren dafür, Regulierungen zu vermeiden, damit „die besten und kostengünstigsten“ KI-Systeme gewinnen. Andere drängen auf ein strikteres Vorgehen, weil sie in bestimmten Praktiken einen direkten Eingriff in geistiges Eigentum sehen. Konkretes Beispiel: In einem April-Memo der US-Regierung heißt es, dass Distillation, die amerikanische Forschung und proprietäre Informationen untergräbt, „unacceptable“ sei, und dass eine Reihe von Maßnahmen geprüft werde, um ausländische Akteure zur Verantwortung zu ziehen. Für Unternehmen heißt das vor allem: Die Definitionsfrage, wann Distillation noch zulässig ist und wann nicht, wird politisch und damit auch operativ relevanter.
Für Anthropic und die gesamte KI-Industrie ist die Aussage weniger eine reine Beschwerde, sondern ein Aufruf zur Priorisierung von „Guardrails“ in den Zugriffsschichten. Klein betont, dass Konkurrenz prinzipiell willkommen sei, aber die Sorge sich auf Umgehung durch betrügerische Mittel, gefälschte Konten und fehlende Schutzvorkehrungen in den resultierenden Modellen richtet. Zusätzlich nennt er Sicherheitsrisiken im nationalen Kontext, wenn nicht vertrauenswürdige Akteure in der Lage sind, sich Zugang zu leistungsfähigeren Modellen zu verschaffen, als es ohne diese Praxis möglich wäre. Das klingt nach einem langwierigen Kampf, aber es gibt einen klaren operativen Hebel: Wenn Anbieter Zeit gewinnen, Anomalien verlangsamen und systematische Account- und Zugriffsökosysteme stören können, sinkt der ökonomische Anreiz für „billig trainierte“ Kopien – und die Verhandlungsmacht gegenüber solchen Umgehungsmodellen verschiebt sich.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic warnt: Distillation-Kopien von Claude mit gefälschten Accounts" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic warnt: Distillation-Kopien von Claude mit gefälschten Accounts" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic warnt: Distillation-Kopien von Claude mit gefälschten Accounts« bei Google Deutschland suchen, bei Bing oder Google News!