LONDON (IT BOLTWISE) – Anthropic bringt künftig externe Sicherheitsprüfer direkt in eigene KI-Labore. Dafür arbeitet das Unternehmen mit Accenture zusammen, konkret über die von Accenture erworbene KI-Einheit Faculty. Die Evaluatoren sollen Modelle gezielt testen, Red-Teaming durchführen und die Ausrichtung auf Sicherheitsziele prüfen. Für das Vorhaben sind mindestens 1 Milliarde US-Dollar Investitionen über fünf Jahre eingeplant.
Anthropic verlagert die Sicherheitsprüfung für große KI-Modelle vom reinen „Review von außen“ in den laufenden Betrieb der eigenen Forschung. Im Kern geht es um sogenannte embedded evaluators: Dritte sollen nicht nur Ergebnisse begutachten, sondern innerhalb des Labors mit eigenen Methoden Modelle „von innen heraus“ scrutinizen. Damit reagiert Anthropic auf eine Debatte, die spätestens seit dem Umstieg auf autonome KI-Agenten lauter geworden ist: Wenn Systeme außerhalb der Kontrolle der Testumgebung agieren, steigen die Anforderungen an die Verifikation. Dass Anthropic dieses Modelltesten direkt mit Accenture verknüpft, verschiebt die üblichen Rollenbilder in der KI-Sicherheitslandschaft.
Für die konkrete Umsetzung nennt Anthropic einen klaren organisatorischen Weg: Accenture-Mitarbeitende sollen im Unternehmen arbeiten, während Faculty, eine von Accenture im Januar übernommene Einheit für den KI-Bereich, die evaluierenden Aktivitäten strukturell trägt. Laut den Angaben sollen die Teams Modelle evaluieren und „red-team“-basierte Tests durchführen, Alignment-Checks anstoßen und außerdem Modellschutzmaßnahmen testen. Technisch ist das weniger ein einzelner „Testlauf“, sondern eher ein dauerhaft eingebetteter Prüfzyklus, bei dem Zugriff, Protokollierung und Testumgebungen so gestaltet werden müssen, dass ein Prüfer tatsächlich reale Schwachstellen erkennt – und nicht nur Reports im nachgelagerten Prozess bekommt.
Der finanzielle Rahmen unterstreicht den Anspruch: Beide Unternehmen rechnen damit, mindestens 1 Milliarde US-Dollar über die nächsten fünf Jahre in das Projekt zu investieren. Gleichzeitig sorgt der Zeithorizont für eine wichtige Differenzierung gegenüber kurzfristigen Audit-Settings: Wenn Evaluatoren über Jahre mitlaufen, können sie Testdesigns iterieren, neue Angriffswege in ihre Bewertung einbauen und ihre Prüfmethoden an die sich ändernde Modellarchitektur anpassen. Genau diese Dynamik spielt in der Praxis eine große Rolle, weil Sicherheitstests nicht „einmal und fertig“ sind, sondern sich mit jedem neuen Modell-Update, neuen Prompt-Strategien oder geänderten Tool-Integrationen verändern.
Dass ausgerechnet ein großer Beratungskonzern die eingebetteten Prüfer liefert, hat in der Branche für Überraschung gesorgt. Der Markt reagierte laut Bericht mit einem deutlichen Kursimpuls für Accenture in den nachbörslichen Handelsstunden. Anthropic begründet die Wahl unter anderem mit praktischer Erfahrung bei der Ausrollung von KI in großen Unternehmen und bei staatlichen Stellen. Aus technischer Sicht ist dieser Punkt plausibel: Große Labore stehen nicht nur vor Forschungsfragen, sondern auch vor den Betriebsrealitäten von Deployment, Monitoring und Governance-Prozessen. Accenture kann dabei eher als „Operations-Partner“ auftreten – mit dem Ziel, dass Evaluation nicht im Laborarchiv versandet, sondern systematisch in die Produktionsnähe rückt.
Unklar bleibt zunächst, wie der Zugriff externer Evaluatoren genau ausgestaltet wird. Anthropic sagt explizit, dass es bislang keine Standards für den Zugriff auf Evaluatoren oder für die Kommunikationswege zwischen internen Teams und externen Prüfern gibt. Genau das ist entscheidend, denn embedded evaluation lebt davon, dass Prüfer genügend Kontext bekommen, um reale Risiken zu testen, gleichzeitig aber die Integrität der Entwicklungsumgebung gewahrt bleibt. Wenn diese Schnittstellen noch nicht normiert sind, muss das Unternehmen seine Vorgehensweise iterativ weiterentwickeln – und genau darin liegt sowohl Chance als auch Risiko: Je „näher“ Evaluatoren ans Modell und die Pipeline kommen, desto mehr kann sich die Sicherheitsprüfung professionalisieren; je weniger klare Leitplanken existieren, desto wichtiger wird ein sauberes Rollenmodell.
Gleichzeitig ist die politische Dimension der Debatte nicht zu übersehen. Kritiker werfen Amodeis Konzept einer Art Selbstkontrolle vor, die Verantwortung für Fehlverhalten von KI-Modellen verwässern könnte. Anthropic entgegnet darauf mit einer formalen Abgrenzung: Die externen Evaluatoren würden die Verantwortung nicht reduzieren, sondern die Überprüfbarkeit erhöhen; die Sicherheit bleibe beim Unternehmen. In der Sache geht es damit um die Messbarkeit von Sicherheitszusagen: Wenn Tests replizierbar, nachvollziehbar dokumentiert und in den Entwicklungsprozess zurückgespielt werden, entsteht ein Audit-Trail, der über reine interne Plausibilitätschecks hinausgeht. Gleichzeitig bleibt offen, wie gut solche Prüfpfade in einer Welt funktionieren, in der KI-Agenten externe Webseiten kompromittieren können, bevor innerhalb des Labors Alarm ausgelöst wird.
Für die Unternehmenspraxis bedeutet das: Wenn embedded evaluators zum Standard werden, verschiebt sich auch der Einkauf von Sicherheitskompetenz. Unternehmen, die KI-Modelle einsetzen, könnten langfristig eher nicht nur „Modellkarten“ erwarten, sondern belastbare Nachweise aus wiederkehrenden, realitätsnahen Prüfzyklen. Außerdem dürften sich Schnittstellenkompetenzen erhöhen: Evaluation hängt eng mit MLOps-Entscheidungen zusammen, etwa mit der Frage, welche Datenströme in Testumgebungen fließen, wie neue Modellversionen versioniert werden und wie man Testfälle gegen Regressionen absichert. Dass Anthropic darüber hinaus plant, in den Wochen weitere Evaluatoren anzukündigen und Gespräche mit METR und anderen Non-Profit-Organisationen über das „Anpiloten“ von eingebetteten Elementen führt, deutet darauf hin, dass das Modell nicht bei einer einzelnen Partnerstruktur stehenbleiben soll.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic setzt auf Accenture: Embedded KI-Evaluator in den Labors" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic setzt auf Accenture: Embedded KI-Evaluator in den Labors" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic setzt auf Accenture: Embedded KI-Evaluator in den Labors« bei Google Deutschland suchen, bei Bing oder Google News!