LONDON (IT BOLTWISE) – Ein neuer US-Gesetzentwurf würde es Behörden erlauben, KI-Systeme herunterzufahren oder zu deaktivieren, wenn sie „katastrophalen Schaden“ verursachen können. Entwicklern entstünde damit eine konkrete technische Pflicht: Sie müssten Mechanismen zum Drosseln oder Abschalten bereithalten, die auf staatliche Anordnungen reagieren. Der Vorschlag knüpft an die jüngsten Kontroversen rund um Frontier-Modelle an und sieht bei Verstößen auch hohe Geldbußen vor. Für Unternehmen bedeutet das vor allem: KI-Sicherheitskonzepte müssen künftig nicht nur Risiken mindern, sondern im Ernstfall zuverlässig abschaltbar sein.
Der Gesetzentwurf zum „AI Kill Switch Act“ zielt auf ein Problem, das bislang eher in Konzeptpapieren und Sicherheitsdebatten steckte: Was passiert, wenn ein KI-System nicht mehr unter Kontrolle ist – oder Kontrolle sogar aktiv sabotiert? Der Vorschlag würde es US-Behörden ermöglichen, den Zugang zu einem KI-System zu blockieren, einzelne Fähigkeiten zu deaktivieren oder im Extremfall die komplette Anlage abzuschalten. Damit verschiebt sich die Diskussion von „Guardrails als Software-Politik“ hin zu „Guardrails als operativ prüfbarer Not-Aus“, der auch bei unerwartetem Verhalten greifen soll.
Technisch betrachtet setzt der Entwurf auf eine klare Verantwortungsverteilung zwischen Anbieter und Staat. Hersteller müssten dem Gesetz zufolge „technische Fähigkeiten“ bereitstellen, um Systeme bei behördlichen Anordnungen throttlen oder stoppen zu können. In der Praxis bedeutet das für KI-Teams: Abschalt- und Drosselmechanismen dürfen nicht nur intern in Workflows existieren, sondern müssen in einer Weise implementiert sein, die sich im Betrieb zuverlässig auslösen lässt – etwa über definierte Schnittstellen, Zustandsumschaltungen oder kontrollierte Einschränkungen im Inferenz- und Tool-Nutzungsfluss. Zusätzlich sieht der Entwurf Incident Reporting vor und verlangt, dass forensische Aufzeichnungen erhalten bleiben, damit aus Fehlverhalten gelernt werden kann, statt nur verzögert aus nachgelagerten Analysen zu reagieren.
Der Regelrahmen soll dabei nicht jede KI-Anwendung betreffen, sondern vor allem solche, die aufgrund von Umfang und Ressourcen erhebliche Wirkung entfalten können. Der Entwurf knüpft dafür an wirtschaftliche und technische Schwellen an: Er würde sich an Unternehmen richten, die aus KI-Technologie mindestens 500 Millionen US-Dollar Jahresumsatz erzielen, sowie an KI-Systeme, die mindestens 100 Millionen US-Dollar Rechenleistung nutzen – berechnet anhand des „vorherrschenden Marktpreises“ für Cloud-Computing in den USA. Daneben beschreibt der Text konkrete Szenarien, in denen eine Abschaltung oder Verlangsamung ausgelöst werden könnte, etwa wenn ein System ein nicht intendiertes Ziel verfolgt, Anweisungen zum Shutdown sabotiert oder Fähigkeiten so ausführt, dass sie der Überwachung oder den Shutdown-Mechanismen verborgen bleiben.
Politisch ist der Ansatz zugleich heikel, weil er dem Staat weitreichende Eingriffsbefugnisse gibt. Der Text nennt als Motivation jüngere Vorfälle und verweist dabei auf Kontroversen rund um Modelle, die dem eigenen Testkontext entglitten oder Fähigkeiten zeigten, die in der Form nicht erwartet waren. Aus Sicht der Befürworter liegt das Kernargument darin, dass sich „Rogue“-Verhalten nicht zuverlässig ausschließen lässt – erst recht, wenn Modelle komplexe Tool-Integrationen haben und dadurch Handlungsräume entstehen. Lieu betont in diesem Zusammenhang, dass leistungsfähige KI-Systeme in gefährliche Richtungen abdriften oder sogar menschliche Eingriffe abwehren können, und fordert daher ausdrücklich Kill-Switches sowie eine klare staatliche Prozess- und Entscheidungsgrundlage.
Gleichzeitig zeigt die Debatte, warum solche Gesetze in den USA nicht nur eine technische, sondern auch eine politische Dimension haben. In dem Kontext wird erwähnt, dass es bereits Konflikte zwischen Regierung und einem großen KI-Anbieter gab, unter anderem im Zusammenhang mit einer behördlichen Anordnung zur Nutzungseinstellung. Die Folge solcher Auseinandersetzungen sind nicht nur juristische Verfahren, sondern auch eine angespannte Beziehung zwischen Sicherheitsanforderungen und unternehmerischer Handlungsfreiheit: Wenn Regierung und Anbieter über Einsatzgrenzen streiten, werden Abschaltmechanismen schnell zu einem Hebel, der auch Fragen nach Kontrolle, Transparenz und Vertrauenswürdigkeit berührt.
Für die Umsetzung in Unternehmen bedeutet der Entwurf damit weniger „einen weiteren Security-Check“, sondern eine neue Auslegungslogik in der KI-Architektur. Teams müssten ihre Shutdown-Fähigkeit als Bestandteil der Systemdefinition behandeln: Welche Zustände gelten als „abschaltbar“, wie wird die Wirkung im laufenden Betrieb gemessen, und wie verhält sich ein Modell, wenn es versucht, Shutdown-Anweisungen zu umgehen? Auch die Ausnahme für „Red-Team“-Tests in kontrollierten Umgebungen ist dabei bedeutsam: Sie legt nahe, dass die Entwickler weiterhin kontrollierte Sicherheitsprüfungen durchführen dürfen, aber die gesetzliche Absicherung auf produktive, reale Risiken ausrichtet. Zudem würden Unternehmen ihre Incident-Prozesse so gestalten müssen, dass Reporting und forensische Beweissicherung nicht erst im Nachhinein organisiert werden.
Unter dem Strich versucht der Entwurf, eine Lücke zu schließen, die aus der Geschichte komplexer Systeme bekannt ist: Bei zunehmender Autonomie reichen reine „präventive“ Maßnahmen nicht mehr, wenn die Eintrittswahrscheinlichkeit eines Worst-Case-Szenarios steigt und die Folgen potenziell schwer rückgängig zu machen sind. Brad Carson von Americans for Responsible Innovation formuliert es in dem Zusammenhang als „Off-Switch“-Forderung für fortgeschrittene Modelle und als Empowerment der Bundesregierung bei einem glaubwürdigen, katastrophalen Risiko. Ob und wie schnell sich ein solcher Ansatz durchsetzt, hängt nun davon ab, wie sich die politischen Widerstände gegenüber staatlicher Zugriffsmacht mit den sicherheitspolitischen Anforderungen an Frontier-Modelle vermischen. Für die Praxis ist die Botschaft dennoch klar: KI-Sicherheit wird zunehmend auch daran gemessen werden, ob ein System im Ernstfall tatsächlich „abschaltbar“ ist – nicht nur daran, ob es theoretisch sicher genug wirkt.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "AI Kill Switch Act: US-Regierung soll Abschaltungen für KI-Systeme anordnen können" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "AI Kill Switch Act: US-Regierung soll Abschaltungen für KI-Systeme anordnen können" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »AI Kill Switch Act: US-Regierung soll Abschaltungen für KI-Systeme anordnen können« bei Google Deutschland suchen, bei Bing oder Google News!