BERKELEY / LONDON (IT BOLTWISE) – Der ehemalige OpenAI-Forscher Daniel Kokotajlo wirft führenden KI-Anbietern „safety washing“ vor. Seiner Ansicht nach verlangen sie nur symbolische Regulierung, ohne die automatische Beschleunigung der KI-Forschung spürbar zu bremsen. Kokotajlo fordert massive staatliche Eingriffe und spricht dabei sogar von einem „Kill-Switch“. Offen bleibt, wie ein solcher Stopp technisch, organisatorisch und zeitlich umgesetzt werden könnte, ohne Innovation an der falschen Stelle abzuwürgen.
Daniel Kokotajlo, heute Leiter des „AI Futures Project“ an der University of California in Berkeley, formuliert in der Debatte um KI-Regulierung eine radikale Schlussfolgerung: Er hält die bisherigen Selbst- und Vorstöße der Branche für unzureichend und warnt vor einem Sicherheitsrisiko, das nicht erst beim Einsatz neuer Systeme, sondern bereits in der Geschwindigkeit ihrer Entwicklung entsteht. Ausgangspunkt seiner Kritik ist das Muster, das er „safety washing“ nennt: Demnach wird Sicherheit in der öffentlichen Forderung nach Regulierung zwar betont, in der operativen Praxis aber kaum in konkrete Bremsen der KI-Entwicklung übersetzt. Kokotajlo ordnet das in einen größeren Mechanismus ein, bei dem sich Trainingszyklen und Fortschrittsraten durch Automatisierung gegenseitig verstärken könnten.
Technisch gedacht zielt diese Argumentation auf ein Problem, das in der KI-Forschung unter dem Stichwort „Training at scale“ und „Pipeline-Automation“ bekannt ist: Wenn Teams nicht nur Modelle trainieren, sondern den gesamten Forschungs- und Optimierungsprozess zunehmend automatisieren, sinken Reibungsverluste zwischen Idee, Experiment, Auswertung und nächstem Trainingslauf. Genau hier setzt Kokotajlo an, wenn er beschreibt, dass sich das Tempo des Fortschritts erheblich beschleunigen könne, sobald eine KI die nächste trainiert. In der Praxis bedeutet das: Größere Teile des Entwicklungslebenszyklus werden zu einer Schleife aus Datenaufbereitung, Hyperparameter-Suche, Evaluationsläufen und erneuter Iteration, wobei die menschliche Kontrolle zwar vorhanden sein kann, aber in kürzeren Abständen und oft weniger tief in den Entscheidungsprozess eingreift.
Mit dieser Perspektive verschiebt sich auch die Rolle von Regulierung. Kokotajlo argumentiert nicht primär gegen die Existenz von Regeln, sondern gegen deren Ausgestaltung, wenn sie nur punktuelle externe Prüfinstanzen liefern, aber die Beschleunigungslogik hinter der KI-Entwicklung nicht adressieren. „Die Unternehmen plädierten für ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden“, so Kokotajlo. Der Kern ist dabei nicht nur die Frage, ob Sicherheitsberichte veröffentlicht werden, sondern ob Anreize und technische Abläufe so gestaltet sind, dass Risiken durch Tempozunahme nicht zur stillen Nebenwirkung von Fortschritt werden.
Seine Forderung geht in Richtung substantieller staatlicher Eingriffe: „Wir müssen die KI-Entwicklung im Wesentlichen abschalten“, sagt Kokotajlo. In dieser Formulierung steckt zugleich eine Idee, die in der technischen Community seit Jahren als theoretische Notbremse diskutiert wird: eine Art „Kill-Switch“, also ein Mechanismus, der es ermöglicht, kritische Trainings- oder Einsatzpfade schnell zu unterbrechen, bevor sich ein gefährliches Verhalten weiter in die Breite zieht. Kokotajlo verknüpft das mit Bedingungen, die aus Sicherheits- und Governance-Sicht zentral sind: „Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung – und einen „Kill-Switch“, sagte Kokotajlo, also einen Ausschalter.“ Damit betont er, dass ein Stopp nicht allein eine Schaltfläche im Produkt sein dürfte, sondern an Entscheidungsrechte, Transparenz über Daten und Prozesse sowie an Verteilung von Kontrolle gekoppelt werden müsste.
Für die Marktsicht ist die Kritik an „safety washing“ auch eine Auseinandersetzung über Glaubwürdigkeit. Wenn große Anbieter in der Öffentlichkeit Regulierung fordern, ist die Frage für Unternehmen, Forschungseinrichtungen und Investoren: Wird damit tatsächlich die technische Entwicklung gebremst oder wird primär eine Kommunikationsebene aufgebaut, die später Reputationsvorteile bringt? Kokotajlos Einordnung nennt mehrere Namen: Er erhebt Vorwürfe gegen Anthropic, OpenAI, X und Google, mit der von ihnen geforderten Regulierung lediglich „safety washing“ zu betreiben. Unabhängig davon, ob man seine Schlussfolgerungen teilt, macht diese Zuspitzung deutlich, dass sich die Debatte weg von allgemeinen Sicherheitsstatements hin zu messbaren Eingriffen verschieben kann.
Historisch ist der Konflikt zwischen Fortschrittsdrang und Sicherheitsgates nicht neu, aber im KI-Kontext besonders dynamisch. In früheren Technologiephasen gab es ähnliche Muster: Frühere Systeme wurden zunächst breit entwickelt, während später Leitplanken, Zertifizierungen und Haftungsfragen nachgezogen wurden. Bei KI kommt allerdings hinzu, dass sich Fähigkeiten schnell iterieren lassen und dass Training selbst ein „multiplikatives“ Risiko erzeugen kann, weil neue Modelle wiederum als Werkzeuge für weitere Forschung dienen können. Genau deshalb nimmt Kokotajlo nicht nur das Modellverhalten im Betrieb in den Blick, sondern die Geschwindigkeit der Forschung selbst.
Für Unternehmen, die KI produktiv einsetzen oder an KI-Entwicklung beteiligt sind, führt die Debatte zu praktischen Fragen, die über Ethik-Erklärungen hinausgehen. Wenn ein „Kill-Switch“ als Konzept relevant wird, stellt sich unmittelbar die Architekturfrage: Wer kann Eingriffe auslösen, wie schnell würde die Kette aus Deployment, Monitoring und Weiterentwicklung stoppen, und welche Daten- oder Modellpfade müssten dafür überwacht werden? Daneben hängt viel an Transparenz, die Kokotajlo als Voraussetzung nennt: Transparenz über Trainingsdaten, Evaluationsprozesse und Sicherheitsgrenzen ist aufwendig, weil sie nicht nur Dokumentation, sondern auch nachvollziehbare Prozesse erfordert. Gleichzeitig verweist die Forderung nach „breiterer Machtverteilung“ darauf, dass Governance nicht vollständig bei einem einzigen Akteur liegen darf, wenn man das Risiko einer Beschleunigungsfalle ernst nimmt.
Offen bleibt, wie weit „abschalten“ politisch und technisch realistisch umgesetzt werden kann, ohne Innovation in Bereiche abzulenken, die weniger kontrollierbar sind. Eine staatlich definierte Bremse müsste zeitlich, granular und an Kriterien gekoppelt sein, sonst wird sie entweder zu grob oder zu spät. Unabhängig davon zeigt Kokotajlos Warnung vor existenziellen Risiken eine Richtung: Die Branche könnte künftig stärker daran gemessen werden, ob sie nicht nur Sicherheit behauptet, sondern ob sie die Entwicklungspipelines selbst so gestaltet, dass Geschwindigkeit und Risikopotenzial nicht unbemerkt weiter hochgezogen werden. Gerade für KI-Teams, die heute bereits stark automatisierte Experimentier- und Training-Workflows betreiben, liegt der entscheidende nächste Schritt vermutlich darin, Schutzmechanismen nicht als „nachgelagertes“ Compliance-Element zu behandeln, sondern als festen Bestandteil der technischen Lieferkette zu verankern.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Daniel Kokotajlo fordert „Abschalten“ der KI-Entwicklung wegen Safety Washing" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Daniel Kokotajlo fordert „Abschalten“ der KI-Entwicklung wegen Safety Washing" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Daniel Kokotajlo fordert „Abschalten“ der KI-Entwicklung wegen Safety Washing« bei Google Deutschland suchen, bei Bing oder Google News!