LONDON (IT BOLTWISE) – Anthropic hat einen Entwurf für ein KI-Sicherheitsgesetz angestoßen, der bestimmte Freigaben von Modellen blockieren lassen soll. Konkret sieht der Vorschlag Fälle vor, in denen ein unmittelbar drohendes „katastrophales Risiko“ besteht – etwa wenn mehr als 50 Menschen sterben könnten oder Schäden in Höhe von über 1 Milliarde US-Dollar drohen. Die Bewertung soll über registrierte „unabhängige Evaluatoren“ erfolgen, die das Commerce Department nach einem engen Zeitfenster einschalten. Anschließend soll ein Bundesrichter entscheiden, ob die Verbreitung des Modells gestoppt wird.
Anthropic versucht, die Diskussion um KI-Sicherheit aus dem Abstrakten herauszuholen und in einen rechtlich durchsetzbaren Mechanismus zu übersetzen. Im Kern geht es um die Frage, wann ein KI-Modell nicht „frei im Markt“ landen darf, selbst wenn ein Labor die Risikoquellen für beherrschbar hält. Der Entwurf verknüpft dafür quantifizierbare Schwellen mit einem klaren Ablauf: Bestimmte Szenarien sollen zur Blockade einer Veröffentlichung führen, statt auf freiwillige Zusagen zu vertrauen.
Technisch und rechtlich bemerkenswert ist dabei vor allem, wie der Gesetzentwurf das „katastrophale Risiko“ definiert. Die Schwellen orientieren sich an zwei Größenordnungen: Wenn im ungünstigsten Fall über 50 Menschen in den Tod oder eine vergleichbare Gefährdung geraten könnten oder wenn Schäden von mehr als 1 Milliarde US-Dollar an Eigentum drohen, soll die Freigabe grundsätzlich überprüfbar werden. Entscheidend bleibt jedoch die Ursache: Das Risiko soll aus einer biologischen Waffenentwicklung oder -freisetzung stammen, aus einem Fall, in dem das Modell die Kontrollen seines Entwicklers umgeht, oder aus einem Cyberangriff. Damit wird der Fokus enger gesetzt als bei einer generischen „Missbrauchs“-Definition, die sonst schnell zu unklaren Beurteilungen führt.
Der zweite große Hebel des Vorschlags liegt in der vorgeschlagenen Governance-Struktur. Anthropic setzt auf „unabhängige Evaluatoren“, die beim U.S.-Commerce-Department registriert würden. Diese Evaluatoren könnten für ihre Arbeit potenziell von den KI-Labs selbst bezahlt werden, allerdings nur unter der Bedingung, dass die Zahlung nicht an das Ergebnis der Bewertung gekoppelt ist. Genau hier entsteht für Unternehmen und Regulatoren eine praktische Kernfrage: Wie lässt sich organisatorisch und prozessual so absichern, dass die Finanzierungslogik keinen indirekten Druck auf die Einschätzung ausübt? Ohne nachvollziehbare Prüf- und Auditpfade bleibt die neutrale Bewertung zwar als Prinzip formuliert, aber schwer überprüfbar.
Auch der Zeitablauf ist eng getaktet und damit operativ anspruchsvoll. Stellt ein Evaluator fest, dass ein unmittelbar drohendes katastrophales Risiko vorliegt, sollen 72 Stunden vergehen, bis der Fall beim Commerce Department gemeldet wird. Erst dann müsste das Ministerium eine Unterbrechung der Modellfreigabe über ein gerichtliches Verfahren anstoßen – konkret soll ein D.C.-Richter um das Stoppen gebeten werden. Gleichzeitig enthält der Entwurf den expliziten Ausschluss einer „freien“ Entscheidung durch Bundesbehörden: Keine Behörde soll allein aus dem Stand heraus die Verbreitung nach eigenem Ermessen untersagen können, sondern der Mechanismus soll an den beschriebenen Prozess gebunden sein. Das verschiebt die Macht vom Verwaltungsentscheid hin zu einer gerichtlichen Kontrolle.
In der Branche trifft ein solcher Gesetzesvorschlag auf eine Gemengelage aus Sicherheitsdebatten und Wettbewerbsdruck. Viele Labore warnen seit Jahren vor Risiken, bleiben aber bei der Frage nach verbindlichen Auflagen oft auf freiwillige oder „eingebettete“ Überwachungssysteme fokussiert. Der Entwurf geht darüber zumindest in der Richtung hinaus, weil er die Bewertung in ein formales Verfahren gießt, das am Ende eine gerichtliche Entscheidung auslösen soll. Dass dies ausgerechnet im Umfeld von „Advanced AI Framework“-Überlegungen kommuniziert wird, passt zum Muster, Sicherheitsversprechen als integrierte Unternehmensaufgabe darzustellen – nur eben mit einer gesetzlichen Klammer, die den Schritt von Selbstverpflichtung zur Durchsetzbarkeit markiert.
Interessant ist zudem der Abgleich mit bereits existierenden rechtlichen Vorläufern. Die verwendeten Schwellenwerte für Tote und Sachschäden werden im Kontext eines kalifornischen Gesetzes genannt, das erst kürzlich in Kraft getreten ist und ähnliche Szenarien als „katastrophales Risiko“ einstuft. Das deutet auf einen Trend hin: Risikoabgrenzungen sollen nicht nur qualitativ argumentieren, sondern mit messbaren Größen arbeiten, um spätere Rechtsstreitigkeiten zu vereinfachen. Für Entwickler und Sicherheitsverantwortliche bedeutet das außerdem, dass die Dokumentation von Gefährdungsanalysen, Testresultaten und Abwägungen künftig stärker in Richtung Nachweisfähigkeit gedrängt wird.
Für den Markt könnte ein solcher Mechanismus zwei Effekte haben. Zum einen würde die Veröffentlichung bestimmter Modelle planbarer reguliert: Labore müssten ihre Safety-Pipeline so gestalten, dass sie im Zweifel innerhalb von 72 Stunden verwertbare Informationen liefern können. Zum anderen steigt der ökonomische Druck auf die Evaluationslandschaft, weil registrierte Evaluatoren und gerichtsfeste Verfahren Kosten und Organisationstiefe erfordern. Selbst wenn nicht jede Modellfreigabe betroffen ist, verschiebt sich damit die Erwartung an Sicherheitsprüfungen von einer internen Qualitätsmaßnahme hin zu einem extern überprüfbaren Prozess. In der Praxis dürfte der größte Streitpunkt weniger im „Ob“ der Schwellen liegen als in der Umsetzung dessen, was „unabhängig“ und „nicht ergebnisgekoppelt“ real bedeutet.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic wirbt für KI-Sicherheitsgesetz mit Blockade bei Katastrophenrisiko" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic wirbt für KI-Sicherheitsgesetz mit Blockade bei Katastrophenrisiko" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic wirbt für KI-Sicherheitsgesetz mit Blockade bei Katastrophenrisiko« bei Google Deutschland suchen, bei Bing oder Google News!