LONDON (IT BOLTWISE) – Deutschland und 21 weitere Staaten fordern strengere Leitplanken für KI-Systeme mit hohem Risiko. Im Zentrum steht der Anspruch, dass neue Modelle „unter menschlicher Anleitung, Aufsicht und Kontrolle“ bleiben sollen. Die Staaten wollen außerdem gemeinsame Sicherheitsstandards ausbauen und Transparenz über Vorfälle fördern. Eine globale KI-Aufsicht nach dem Vorbild der IAEA innerhalb des UN-Systems wird dafür als Option ausgelotet.
Deutschland steht gemeinsam mit 21 weiteren Ländern an der Schwelle zu einer neuen Runde internationaler KI-Governance: In einer Erklärung, die im Kontext der laufenden UN-Generalversammlung verabschiedet wurde, setzen die Unterzeichner auf das Prinzip „unter menschlicher Anleitung, Aufsicht und Kontrolle“. Die politische Botschaft ist dabei bewusst breit angelegt. Sie reagiert auf die Befürchtung, dass die rasante Entwicklung besonders leistungsfähiger KI-Modelle nicht nur Innovation beschleunigt, sondern auch neue Sicherheitslücken öffnet, die sich mit klassischer Softwareregulierung nicht ohne Weiteres abdecken lassen.
Technisch betrachtet zielt der Kernbegriff „menschliche Kontrolle“ auf mehr als reine Policy-Sprache: Für die Praxis bedeutet das, dass kritische Entscheidungen oder zumindest die Freigabe in sicherheitsrelevanten Handlungsabläufen nicht vollständig dem Modell überlassen werden. Genau deshalb nennt die Erklärung konkrete Kontrollinstrumente rund um die Einführung neuer Systeme. Dazu gehören verpflichtende Tests vor dem Rollout sowie unabhängige Bewertungen durch qualifizierte Prüfinstanzen. Interessant ist außerdem, dass die Staaten gerade keine generelle Bremse oder einen Stopp der Entwicklung verlangen, sondern das Thema Risikomanagement in den Vordergrund stellen.
Damit rückt die Debatte weg von „Ban or Build“ hin zu „Measure and Monitor“: Transparenz über Sicherheitsvorfälle und ein abgestimmter Austausch können helfen, Muster von Fehlverhalten schneller zu erkennen, etwa wenn Modelle in Grenzsituationen unerwartete Entscheidungen treffen. Die Erklärung spricht von der Weiterentwicklung und Koordination gemeinsamer Standards, was im Kern auf ein ökonomisch und organisatorisch realistisches Modell hinausläuft. Denn ein vollständiges Verbot scheitert in internationalen Allianzen häufig an unterschiedlichen Sicherheits- und Innovationsinteressen; koordinierte Prüf- und Berichtspflichten dagegen lassen sich eher auf eine Vielzahl von Akteuren übertragen.
Im politischen Timing spielt zudem die außenpolitische Bühne eine Rolle: Die Initiative fällt in die Phase, in der Staatschefs führender KI-Nationen aufeinander treffen wollen. Weder die USA noch China haben die Erklärung unterzeichnet; Finnlands Präsident Alexander Stubb, der als einer der Hauptinitiatoren genannt wird, sieht dennoch eine Anschlussfähigkeit. „Ich denke, sowohl China als auch die Vereinigten Staaten haben ein Interesse daran, gewisse Leitplanken zu haben. Unsere Botschaft lautet: Es braucht menschliches Eingreifen. Menschen müssen die Kontrolle behalten“, sagte er in einem Interview. Für die nächste Phase bedeutet das vor allem: Die Allianz versucht, ihre Leitplanken so zu formulieren, dass große Akteure sie nicht als symbolische Einschränkung lesen müssen, sondern als Sicherheitsrahmen, der auch ihre eigenen Risiken reduziert.
Auch die Ausgestaltung der möglichen Institution ist vergleichsweise konkret. Stubb spricht sich dafür aus, eine internationale KI-Aufsichtsstruktur nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA) innerhalb des UN-Systems aufzubauen. Er argumentiert dabei nicht nur mit Kontrolllogik, sondern auch mit politischer Anschlussfähigkeit. „Wir müssen die Formulierung offen halten, damit niemand die Idee allein deshalb ablehnt, weil sie im Rahmen der Vereinten Nationen angesiedelt wäre“, ergänzte er. Norwegens Ministerpräsident Jonas Gahr Støre wiederum hebt die Bedeutung weiterer Foren hervor, etwa G7 und der künftigen britischen G20-Präsidentschaft. „Wir würden es sehr begrüßen, wenn sowohl die G7 als auch die künftige britische G20-Präsidentschaft dieses Thema aufgreifen. Die Vereinten Nationen sind groß, die G7 und G20 sind etwas fokussierter“, sagte er.
Gleichzeitig macht die Erklärung deutlich, dass noch nicht alle wichtigen europäischen Stimmen mitziehen. Das Vereinigte Königreich hat die Erklärung bislang nicht unterzeichnet; auch Unterschriften aus Frankreich, Italien und Polen fehlen. Stubb liefert außerdem eine deutlich auf Sicherheitsrisiken fokussierte Begründung, warum ein wirksamer Aufsichtsmechanismus nicht verzichtbar ist. Er nennt in diesem Zusammenhang mögliche Gefahren wie durch KI geschaffene Biowaffen, Cyberangriffe durch KI-Agenten sowie tödliche Angriffe durch KI-gesteuerte Waffen. Entscheidend ist: Diese Risikowirkung wird als Argumentation für bessere Kontrolle formuliert, nicht als bereits feststehendes Ergebnis. Gerade dadurch bleibt der politische Druck auf die Umsetzung von Prüf- und Transparenzmechanismen hoch.
Für Unternehmen und Entwickler liegt die Relevanz vor allem in der erwartbaren Verschiebung von internen Qualitätsprozessen hin zu überprüfbaren Sicherheitsnachweisen. Wenn verpflichtende Tests vor der Einfädelung neuer Systeme und unabhängige Bewertungen zum Standard werden, müssen Produktteams ohnehin vorhandene Sicherheitsdaten, Eval-Setups und Incident-Prozesse so gestalten, dass sie extern nachvollziehbar sind. Zusätzlich gewinnt die Frage an Gewicht, wie „menschliche Anleitung“ in Workflows praktisch umgesetzt wird: etwa über Freigabemechanismen, gestaffelte Rollouts, Protokollierung von Entscheidungen oder klare Grenzen für autonomes Handeln. Die Allianz legt damit einen Rahmen vor, an dem sich künftige nationale Umsetzung und auch interne Governance-Programme ausrichten können, solange sich die beteiligten Staaten auf eine robuste, nicht rein kosmetische Definition von Kontrolle einigen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "21 Staaten plus Deutschland wollen KI unter menschlicher Kontrolle halten" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "21 Staaten plus Deutschland wollen KI unter menschlicher Kontrolle halten" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »21 Staaten plus Deutschland wollen KI unter menschlicher Kontrolle halten« bei Google Deutschland suchen, bei Bing oder Google News!