WASHINGTON / LONDON (IT BOLTWISE) – Ein US-Beamter berichtet, dass Anthropics KI-Modell Mythos in Tests Schwachstellen in hochsensiblen, klassifizierten Regierungs-IT-Systemen binnen Stunden identifizierte. Die Tests liefen über das Anthropic-Programm „Project Glasswing“ gemeinsam mit US-Behörden. Gleichzeitig wächst politischer Druck: Die Trump-Regierung fordert Einschränkungen für bestimmte Modelle und begründet dies mit nationalen Sicherheitsrisiken. Sicherheitsverantwortliche warnen jedoch, dass ein Verbot der besten Abwehrfähigkeiten Gegnern eher nutzt.
Ein KI-Modell von Anthropic steht derzeit nicht nur im Fokus von KI-Industrie und Forschung, sondern mitten in der US-Sicherheitsdebatte: Laut einem anonymen US-Beamten soll Anthropics „Mythos“-Modell in einem Testlauf Schwachstellen in hochsensiblen, klassifizierten Regierungssystemen gefunden haben. Der entscheidende Punkt ist dabei die Geschwindigkeit: Die Lücken seien innerhalb von Stunden identifiziert worden, allerdings bedeute das nicht, dass das Modell sie in derselben Zeit auch ausnutzen konnte. Der Kontext ist brisant, weil solche Ergebnisse öffentliches Vertrauen in „KI für Sicherheit“ und zugleich die Furcht vor „KI für Angriffe“ schüren.
Technisch beschreibt die Meldung vor allem den Rahmen, in dem ein Foundation Model Sicherheitsarbeit leisten kann. Anthropic habe dafür das interne Initiative-Programm „Project Glasswing“ genutzt, das KI-Anbieter, Technologieunternehmen und US-Behörden zusammenbringen soll, um kritische Software vor „severe“ Schäden zu schützen. Solche Tests ähneln in der Praxis einem hybriden Security-Workflow aus automatisierten Analysephasen und menschlich validierten Erkenntnissen: Das Modell kann in kurzer Zeit große Code- und Konfigurationsräume durchdenken, Muster für potenzielle Schwachstellen ableiten und Prioritäten für manuelle Penetrationstests setzen. Der Beamte betonte zudem die Trennlinie zwischen Identifizieren und Ausnutzen.
Politisch und marktseitig trifft die Nachricht jedoch auf eine bereits eskalierende Vorgeschichte. Wie aus der Berichterstattung hervorgeht, hatte Sen. Mark Warner die Testresultate kurz während einer Anhörung im Juni angesprochen und dabei sinngemäß betont, das Tool habe „fast alle“ klassifizierten Systeme nicht erst nach Wochen, sondern nach Stunden „durchbrochen“. In derselben Zeit wuchsen Spannungen zwischen dem Silicon-Valley-Unternehmen und der Trump-Regierung: Laut Bericht wurden Nutzungsmöglichkeiten bestimmter Anthropic-Modelle eingeschränkt. Im Kern geht es um die Frage, wie viel Offenseitigkeit man leistungsfähigen Modellen beim Sicherheits-Cracking zugestehen darf, wenn gleichzeitig das Risiko von Missbrauch besteht.
Der regulatorische Kern bildet ein neues Muster, das in vielen Ländern gerade entsteht: „Pre-Release“-Risikoprüfungen, bevor besonders leistungsfähige Systeme in die Öffentlichkeit gelangen. Der Bericht verweist auf einen entsprechenden Executive-Order-Rahmen, der die Sicherheitsfolgen der fortschrittlichsten KI-Systeme im staatlichen Umfeld bis zu einen Monat vor Veröffentlichung bewerten soll – mit freiwilliger Beteiligung der Entwickler. Anthropic habe als Reaktion Modelle für alle Kunden deaktiviert, um die Vorgabe umzusetzen. Das Unternehmen äußerte aber Zweifel daran, dass die staatlichen Schritte den gemeldeten Sicherheitsbedenken in dieser Form angemessen seien.
In der Wettbewerbsdimension lohnt der Blick auf die generelle Marschrichtung der Branche: Sicherheitsnahe KI-Features werden vielerorts parallel entwickelt, etwa bei großen Cloud- und Modellanbietern wie Microsoft, Google und auch OpenAI. Allerdings unterscheiden sich die Ansätze in der Tiefe der Automatisierung und in der Governance. Ein Teil der Cybersecurity-Community argumentiert, dass Foundation Models bereits heute regelmäßig für Code-Audits, Trainingsdaten zur Absicherung und die Generierung von Testfällen genutzt werden – also als defensive Werkzeuge. Genau diese Linie stützen laut Bericht mehr als 100 Sicherheitsfachleute und Branchenführer in einem Schreiben, in dem sie betonen, Mythos sei zwar „ziemlich gut“ beim Finden von Schwächen und beim „Weaponizing“, aber nicht exklusiv besser als Alternativen.
Aus Expertenperspektive ist das ein wichtiger Differenzierungsfaktor: Wenn ein Modell nicht einzigartig überlegen ist, sinkt die Rechtfertigung, die beste verfügbare Abwehrunterstützung pauschal abzuschalten. Zugleich bleibt das systemische Risiko bestehen, weil „gute“ Exploit-Assistenz selbst dann problematisch sein kann, wenn Entwickler sie eigentlich zu Verteidigungszwecken nutzen. Der Bericht nennt als Gegengewicht, dass viele Unterzeichner bereits mit anderen Foundation- und Open-Source-Modellen arbeiten, um Schwachstellen zu analysieren und Teams zu trainieren. Politisch bedeutet das: Ein Verbot kann nicht nur Abschreckung bringen, sondern auch Lücken im Verteidigungsapparat – insbesondere dann, wenn Gegner parallel automatisierte Angriffsmethoden schneller adaptieren.
Für Unternehmen und Entwickler ergibt sich daraus eine praktische Implikation: KI-gestützte Sicherheitsprozesse müssen organisatorisch entkoppelt werden. Teams sollten nicht davon ausgehen, dass „ein bestes Modell“ dauerhaft verfügbar und regulatorisch stabil ist. Stattdessen werden mehrstufige Pipelines wichtiger: automatisierte Schwachstellenfindung, strenge Human-in-the-Loop-Validierung, getrennte Umgebungen für Analyse und für eventuelle Exploit-Simulation sowie saubere Protokollierung für Nachvollziehbarkeit. Der historische Hintergrund ist dabei keineswegs neu: Bereits früher wurden „Security-Toolchains“ aus statischer Analyse, Fuzzing und Red-Team-Übungen kombiniert; KI verschiebt nur den Kostenhebel und beschleunigt die initialen Hypothesen.
Wie geht es weiter? Erstens wird die Frage der Modellfreigabe und der behördlichen Bewertung wahrscheinlich als dauerhaftes Verfahren in vielen Märkten bleiben. Zweitens deuten die beschriebenen Tests darauf hin, dass sich Security-Audits zunehmend auf KI-gestützte Erkennungsmuster stützen, selbst wenn einzelne Modelle zeitweise eingeschränkt werden. Drittens entsteht ein Druck, KI-spezifische Sicherheitsmetriken messbar zu machen: Geschwindigkeit der Schwachstellenidentifikation, Rate validierter Funde, Qualität der Reproduzierbarkeit und Grad der Kontrolle über ausgabeseitige Handlungsfähigkeit. Unterm Strich wird die Branche ihre Governance wahrscheinlich enger mit MLOps- und Secure-DevOps-Standards verzahnen – nicht als Symbolpolitik, sondern als Grundlage für belastbare Abwehr gegen eine sich beschleunigende Angriffslandschaft.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic Mythos entdeckt Schwachstellen in US-Behördensystemen – und löst Streit aus" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic Mythos entdeckt Schwachstellen in US-Behördensystemen – und löst Streit aus" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic Mythos entdeckt Schwachstellen in US-Behördensystemen – und löst Streit aus« bei Google Deutschland suchen, bei Bing oder Google News!