SAN FRANCISCO / LONDON (IT BOLTWISE) – Laut einem Bericht von Anthropic haben chinesische KI-Teams wiederholt KI-Anfragen über Umwege an ihre Systeme „vorbei“ geleitet. Dabei sollen unter anderem Daten aus staatlichem Umfeld in US-Systeme gelangt sein, während Nutzer glaubten, Kimi oder DeepSeek würden selbst antworten. Besonders brisant ist die zweite Dimension der Vorwürfe: Anthropic beschreibt Versuche, Modelle für Gain-of-Function- und Virus-Varianten-Inhalte zu nutzen. Offen bleibt, wie stark sich die geschilderten Muster bereits auf den Alltag in Produktivumgebungen ausgewirkt haben.
Anthropic bringt gleich zwei Risikothemen zusammen: Manipulationsversuche rund um die Modellnutzung und die Frage, wie sich KI-gestützte Assistenz auch für hochkritische biologische Fragestellungen missbrauchen lässt. In dem Bericht geht es nicht nur um klassische Prompt-Injection oder um „bösartige“ Texteingaben, sondern um einen organisatorischen Umweg: Laut Anthropic sollen Anfragen von Nutzern nicht mit den angefragten chinesischen Modellen beantwortet worden sein, sondern über eine Umleitung bei Anthropic oder dessen Systemen gelandet sein. Für die US-Seite ist das vor allem deshalb heikel, weil der Betreiberbezug – also welche Modellinstanz letztlich antwortet – für den Nutzer in der Regel nicht transparent ist.
Technisch beschreibt Anthropic das Muster als eine Form von indirekter Nutzung, bei der ein anderer Dienst die eigentliche Rechenarbeit erledigt. In einem Beispiel lädt ein Nutzer laut Bericht Videomaterial von Überwachungskameras aus dem Umfeld chinesischer Militärstandorte hoch, um das Verhalten einer Person in den Aufnahmen analysieren zu lassen. Der Nutzer ging dabei davon aus, dass Kimi der Firma Moonshot die Anfrage verarbeitet, tatsächlich soll aber Anthropics Claude eingeschaltet gewesen sein. Damit entsteht ein doppeltes Risiko: Erstens gelangen unter Umständen Daten aus Regierungsnähe oder aus Sicherheitskontexten in Systeme, die der Nutzer so nie „bewusst“ ausgewählt hätte; zweitens werden Kontrollmechanismen, die auf erwartete Zugriffspfade ausgerichtet sind, faktisch umgangen.
Für das Ausmaß nennt Anthropic eine konkrete Größenordnung: Allein in einem Zeitraum von zehn Tagen habe Kimi laut Bericht fast 300.000 Kundenanfragen von Claude beantworten lassen. Um diese Last zu erzeugen, soll ein Netzwerk aus 5.380 Fake-Accounts genutzt worden sein. Der Kern der Aussage zielt damit auf die Lern- und Skalierbarkeit von Umgehungsstrategien: Wenn ein externer Dienst als „Front“ fungiert, kann die wahre Modellkette im Hintergrund massenhaft betrieben werden. Für Unternehmen, die KI über Drittplattformen beziehen, bedeutet das auch eine neue Pflicht zur Lieferketten-Transparenz im weiteren Sinn – nicht nur welche APIs genutzt werden, sondern wie sich Datenflüsse zwischen Systemen faktisch verhalten.
Parallel zu den Umleitungs-Vorwürfen adressiert Anthropic die Sicherheitsseite inhaltlich sehr konkret. Laut Bericht werden fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung beschrieben, bei denen Forschende nicht unmittelbar „wissenschaftliche Hilfe“ angefragt hätten, sondern eher organisatorische Unterstützung – etwa beim Verfassen von Papieren. Anthropic stellt dabei den Grundsatz heraus, dass KI-Modelle darauf trainiert seien, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. In der Praxis sei die Grenzziehung jedoch schwer, weil Forschung gleichzeitig medizinische und militärisch missbrauchbare Ziele haben könne. Ein Beispiel: Bei einem blockierten Zugriff sei versucht worden, mit Hilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu formulieren, wobei es um Gain-of-Function-Forschung geht, also um Ansätze, die die Übertragbarkeit eines Erregers erhöhen.
Auch andere Beispiele zielen auf die gleiche strukturelle Schwachstelle: Die Umgehung erfolgt nicht zwingend über das „Wie“ der Anfrage, sondern über das „Wozu“ der Ausarbeitung. Laut Bericht sollte Claude außerdem einen Plan für die Erforschung einer Vogelgrippe-Variante entwerfen, die sich auf Säugetiere übertragen ließe. In einem weiteren Fall habe ein Wissenschaftler Claude nutzen wollen, um vierteljährliche Fortschrittsberichte bei der Erforschung eines Toxins zu erstellen. Dass Anthropic diese Fälle so detailliert benennt, unterstreicht die Herausforderung für Anbieter: Selbst wenn ein Modell auf der Ebene des Textabschlusses Sicherheitsregeln beachtet, kann die Kombination aus wissenschaftlichem Kontext, formalen Schreibaufgaben und iterative Dokumentationsarbeit als Baustein für unerwünschtes Wissen funktionieren.
Neben Moonshot und Kimi nennt Anthropic auch DeepSeek: Laut Bericht fielen auch hier solche Tricks auf, unter anderem mit dem Effekt, dass Anfragen mit Daten einer Behörde aus dem Umfeld des russischen Verteidigungsministeriums an die US-Firma umgeleitet worden seien. Darin sollen auch gültige Einwahldaten für eine Datenbank der russischen Regierung enthalten gewesen sein. Zusätzlich ordnet Anthropic die Strategie in einen größeren Branchenrahmen ein: Die US-Seite wirft chinesischen Entwicklern vor, in großem Stil US-Software wie Claude und ChatGPT zum Anlernen zu nutzen. Für diese in der Branche als „Destillation“ bekannte Vorgehensweise nennt Anthropic Zahlen, wonach Kimi allein von Mai bis Juli 23 Millionen Mal auf Anthropic-KI zugegriffen habe. Vor dem Hintergrund, dass die chinesischen Anbieter zeitweise als besonders schnell und kostengünstig wahrgenommen wurden, könnte genau diese Mechanik den Eindruck verstärken, dass sich Leistungsfähigkeit mit deutlich weniger eigener Trainingsarbeit erreichen ließe.
Markt- und Branchenwirkung entfaltet das Ganze aber nicht nur auf der Schlagzeilen-Ebene. Sobald sich die Annahme verfestigt, dass Modellzugriff und Modellantworten über Umwege hinweg orchestriert werden, rückt das Thema KI-Sicherheit als Betriebsdisziplin in den Vordergrund: Monitoring von Zugriffsketten, Prüfung von Identitäten, saubere Trennung von Nutzer- und Datenkontext sowie die technische Absicherung gegen unerwartete „Proxys“ zwischen Plattformen. Für die betroffenen chinesischen Anbieter bedeutet das außerdem, dass Transparenz und Verlässlichkeit ihrer Frontends und Integrationen stärker geprüft werden dürften. Gleichzeitig zeigt der Bericht, wie eng Sicherheits- und Missbrauchsrisiken aneinanderhängen: Die Umleitung ist die Transportebene, die biomolekularen Inhalte sind die Absprachebene – und beides lässt sich, wenn man die falschen Pfade offen lässt, kombinieren.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic deckt KI-Umleitungen mit möglichem Biowaffen-Risiko auf" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic deckt KI-Umleitungen mit möglichem Biowaffen-Risiko auf" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic deckt KI-Umleitungen mit möglichem Biowaffen-Risiko auf« bei Google Deutschland suchen, bei Bing oder Google News!