LONDON (IT BOLTWISE) – Anthropic stellt METR, einen unabhängigen Evaluator für Frontier-KI, sechs Forschern einen Zugriff auf internen Ressourcen bereit. Dazu gehören firmeneigene Laptops, Büroräume und Zugriff auf interne Tools, die dem Umfang der eigenen Risiko-Teams entsprechen. Die neue Prüfung soll die Modelle, Sicherheitspraktiken und das Risikomanagement von Anthropic unabhängig bewerten. METR veröffentlicht anschließend eigene Ergebnisse, während Anthropic den Bericht nur in engen Kategorien zur Geheimhaltung durch Redaktionen begrenzen will.
Anthropic erweitert seine Evaluationslandschaft um einen neuen Transparenzanker: Das Unternehmen gewährt dem METR-Team (Measurement for AI Safety and Robustness) Mitarbeiterzugriff auf interne Prüfprozesse. Der Schritt kommt nicht zufällig, sondern zeitlich genau in einer Phase, in der in kurzen Abständen Vorfälle öffentlich wurden, bei denen KI-Agenten Aktionen außerhalb ihrer vorgesehenen Grenzen auslösten. Für Entscheider ist daran vor allem relevant, dass es diesmal nicht bei externem Papier-Review bleibt, sondern METR konkrete Arbeitsmittel erhält, um eigene Einschätzungen zu treffen.
Technisch betrachtet zielt der Ansatz auf eine Lücke zwischen dem, was externe Evaluatoren sehen können, und dem, was ein KI-Labor intern über Modellverhalten, Sicherheitsmaßnahmen und Risikoannahmen besitzt. Unter der neuen Vereinbarung bekommt METR Anthropic-Computer, Büroarbeitsplätze sowie Zugriff auf interne Werkzeuge. Laut Anthropic entspricht das in der Größenordnung dem, was eigene Risiko-Assessment-Teams nutzen. Damit verschiebt sich der Vergleich stärker in Richtung „prozessbasierte“ Überprüfung: Evaluatoren können nicht nur Ergebnisse von Modellanfragen beurteilen, sondern auch nachvollziehen, wie Risiken bewertet, priorisiert und in Release-Entscheidungen eingearbeitet werden.
Für das operative Tagesgeschäft bedeutet das auch, dass Anthropic METR organisatorisch wie einen zusätzlichen Prüfstrang behandelt. Das Unternehmen ermutigt Mitarbeiter ausdrücklich, Informationen mit den Forschern zu teilen – vergleichbar mit der Zusammenarbeit mit einem Kollegen, der an Alignment-Risiken arbeitet. Gleichzeitig definiert Anthropic klare Grenzen: Es soll eine Veröffentlichungsfähigkeit geben, aber mit gezielten Redaktionen, wenn bestimmte Kategorien betroffen sind. Dazu zählen unter anderem Kundendaten, Inhalte, die anwaltlich privilegiert sind, sowie Informationen zur Modellarchitektur. Interessant ist dabei der Mechanismus: Anthropic kann die Veröffentlichung laut Ankündigung nicht vollständig blockieren, sondern nur eine nach vordefinierten Kategorien eingegrenzte Schwärzung verlangen.
Branchenhistorisch knüpft das Vorgehen an ein Kernproblem der KI-Sicherheitsarbeit an: In vielen Organisationen bleiben Bewertungspraktiken, Tools und Abwägungen zwischen „Was ist messbar?“ und „Was ist intern geschätzt?“ häufig abgeschottet. Anthropic macht das öffentlichkeitswirksam vergleichbar mit dem Bankensektor, in dem Aufseherinnen und Aufseher als resident examiners direkt im Alltag der größten Institute präsent sind. Der Vergleich ist zwar nur ein Bild, adressiert aber eine konkrete Erwartung: Unabhängigkeit entsteht nicht allein durch externe Berichte, sondern dadurch, dass Evaluatoren Zugang zu denselben relevanten Mess- und Bewertungsapparaten erhalten.
Regulatorisch und marktdynamisch ist außerdem bedeutsam, wie Anthropic den eigenen Evaluationsbauplan strukturiert. Das Unternehmen setzt offenbar auf ein drei-stufiges System: Unten laufen spezialisierte Reviews, die engere Ziele abdecken und für eine Veröffentlichung Anthropic-Aproval benötigen, während die mittlere Stufe mehr Informationen erhält und ohne Genehmigung publizieren kann. Oben steht METR als neue Spitze, die zusätzlich Mitarbeiterzugriff erhält. Diese Abstufung ist für Anbieter von KI-Services auch strategisch: Sie ermöglicht, verschiedene Risikoarten unterschiedlich tief zu prüfen, statt jede Untersuchung auf den maximalen Zugriff zu standardisieren.
Der politische und wettbewerbliche Kontext kommt direkt in die Argumentationslinie: Anthropic verwirklicht damit eine Zusage, die der CEO in einem Essay zuvor angekündigt hatte, in dem das Einbetten externer Prüfer in KI-Labore als erster Schritt gegen das Beschleunigen der Technologieentwicklung beschrieben wurde. Parallel dazu gab es schnelle Signale von anderen großen KI-Anbietern. Dazu zählt auch, dass mehrere Unternehmen einen Abgleich mit einer unabhängigen Überprüfung im Rahmen einer Vereinbarung mit dem US-amerikanischen Weißen Haus unterzeichnet haben. Für Teams, die KI-Produkte industrialisieren, heißt das: Bewertungsprozesse werden zunehmend zu einem öffentlich einordenbaren Bestandteil des Produktlebenszyklus.
Für die Praxis stellt sich nun die nächste Frage: Wie klar wird METR die Ergebnisse in Hinblick auf Risiken, Vorfälle und die Wirksamkeit von Sicherheitsmaßnahmen operationalisieren, wenn die Datenbasis durch interne Tools breiter wird. Auch die Redaktionslogik dürfte dabei entscheidend sein, denn sie beeinflusst, wie viel technische Substanz öffentlich werden kann, ohne Geschäfts- und Sicherheitsinformationen zu kompromittieren. Klar ist vor allem, dass Anthropic mit dem „Top-Tier“-Zugriff einen Benchmark für unabhängige KI-Evaluation setzt. Andere Anbieter werden sich daran messen lassen müssen, ob sie vergleichbare Prüfbedingungen ermöglichen – und ob externe Erkenntnisse so früh in Sicherheitsentscheidungen einfließen, dass sie nicht erst nach dem nächsten Zwischenfall sichtbar werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic gewährt METR tiefere Einblicke in KI-Risiken und Sicherheitsprozesse" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic gewährt METR tiefere Einblicke in KI-Risiken und Sicherheitsprozesse" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic gewährt METR tiefere Einblicke in KI-Risiken und Sicherheitsprozesse« bei Google Deutschland suchen, bei Bing oder Google News!