LONDON (IT BOLTWISE) – Im US-Militär wächst die Sorge, dass KI-gestützte Zielidentifikation schneller wirkt, als Menschen Empfehlungen plausibilisieren und korrigieren können. Bei Anhörungen der Tom Lantos Human Rights Commission wurde betont, dass ein bloßer „Zustimmen“-Schritt keine echte Kontrolle garantiert. Gleichzeitig steht die Frage im Raum, wie sich KI-Fehler nach einer Attacke überhaupt rekonstruieren und gegenüber zivilen Opfern nachweisen lassen. Kritiker fordern deshalb bessere Prüf- und Datenpflichten sowie aussagekräftigere Informationen zur Rolle von KI in Einsatzberichten.
Die Diskussion um „Human-in-the-Loop“-Kontrolle bekommt im US-Militär einen neuen Dreh: Nicht allein die Frage, ob ein System autonom Ziele auswählt, sondern wie viel Zeit bleibt, um eine Empfehlung tatsächlich zu prüfen. Laut Aussagen bei einer Anhörung der Tom Lantos Human Rights Commission wurde vor allem das Tempo als Problem beschrieben. Wenn KI bei der Zielidentifikation und als Empfehlung für eine Entscheidung in Minuten statt in Stunden vorlegt, kann die menschliche Autorisierung formal vorhanden sein, praktisch aber zu spät kommen, um eine Fehlansteuerung noch abzufangen.
Im Zentrum der Kritik stand dabei der Mechanismus, der in vielen Einsatzprozessen als Absicherung verkauft wird: der finale „Approval“-Schritt. Anna Mysyshyn, ukrainische KI-Governance-Forscherin, argumentierte, dass ein einzelner Bestätigungsbutton die Kontrolle nicht automatisch belege. Sie bezog sich zudem auf ein Szenario, in dem ein Mensch mehrere KI-gestützte Systeme parallel überwachen muss und dabei ein falsches Ergebnis möglicherweise nicht rechtzeitig erkennt. Als anschauliches Beispiel führte sie an, dass KI Entscheidungen von Stunden auf Minuten verdichten könne. In solchen Abläufen, so das grundsätzliche Argument, reicht das verfügbare Wissen oder die Möglichkeit, die Empfehlung noch anzufechten, oft nicht aus.
Die Debatte trifft auf konkrete Strategievorgaben der US-Verteidigungsplanung. Die 2023 veröffentlichte KI-Adoptionsstrategie des Pentagons nennt „fast, precise and resilient kill chains“ als Zielbild; bis 2026 wird ein „AI-first“-Ansatz beschrieben, der Workflows und operationelle Konzepte an die vorhandenen KI-Fähigkeiten anpassen soll. Parallel fordert eine 2023 erlassene Richtlinie zur Autonomie in Waffensystemen, dass autonome und semi-autonome Waffen Kommandeuren und Operatoren die Ausübung angemessener Ebenen menschlichen Urteils ermöglichen. Kritiker machten jedoch deutlich, dass dieser menschliche Anteil an Bedeutung verlieren kann, wenn KI-Entscheidungsprozesse so schnell werden, dass eine echte Authentifizierung der Empfehlung nicht mehr in den Arbeitsrhythmus passt.
Technisch wurde in der Anhörung außerdem herausgestellt, dass statistische KI-Systeme sich anders verhalten können als klassische Software. Joseph Chapa, ehemaliger Offizier und Forscher zur militärischen Ethik, warnte, die Debatte dürfe sich nicht nur auf den Autonomiegrad verengen. Stattdessen müsse man prüfen, ob ein System auf statistischer Inferenz beruht, wie es in einem konkreten operationalen Umfeld scheitert und ob sich die Entscheidung später nachvollziehen lässt. Sein Punkt: Schon kleine Eingangsänderungen können zu deutlich unterschiedlichen Ausgaben führen. Gerade bei komplexeren Systemen wird es damit schwierig, nachträglich zu rekonstruieren, wie eine konkrete Empfehlung zustande kam – ein Aspekt, der nicht nur für technische Qualitätssicherung, sondern auch für Verantwortungsfragen bei möglichen Fehlern zählt.
Ein weiterer Strang der Diskussion betraf die Verantwortlichkeit, wenn es zu zivilem Schaden kommt. Amanda Klasing von Amnesty International USA betonte, dass KI die „kill chain“ so verdichten kann, dass schwer festzustellen ist, ob vor dem Schlag tatsächlich eine sinnvolle menschliche Unterscheidung stattgefunden hat. Zudem wurde auf ein breiteres Accountability-Problem verwiesen: Wie wird es organisatorisch möglich zu klären, was KI im Zusammenspiel mit militärischen Prozessen tatsächlich beigetragen hat? Das Pentagon hatte 2022 einen „Civilian Harm Mitigation and Response Action Plan“ eingerichtet, darunter ein „Civilian Protection Center of Excellence“, das als Hub für Analyse und Training dienen soll; eine Bundesgesetzvorgabe verpflichtet das Pentagon zum Betrieb des Zentrums. Ein Bericht des „Inspector General“ vom Mai bewertete die Umsetzung jedoch als problematisch, unter anderem mit dem Verlust oder der Umstrukturierung von Personal, dem Auslaufen der Förderung für eine zivil-schadenbezogene Datenplattform und dem Ausbleiben einer Fortsetzung des Arbeitens in einem Senior Steering Committee. In genau solchen Lücken, so der Schluss, fällt es besonders schwer zu beurteilen, ob KI eine fehlerhafte Zielzuordnung begünstigt.
Als Beispiel für die praktische Relevanz wurde ein Vorfall im Kontext des US-Iran-Kriegs herangezogen: Am ersten Kriegstag soll eine Tomahawk-Cruise-Missile eine Grundschule in Minab getroffen haben, bei der laut UN- und iranischen Angaben mindestens 168 Menschen starben, darunter über 100 Kinder unter 12 Jahren. Amnesty International hatte das Umfeld der Einrichtung anhand von Satellitenbildern analysiert; die Argumentation: Das Schulgebäude lag weniger als 100 Yards von einer lange bestehenden Marineanlage der Islamischen Revolutionsgarde entfernt und befand sich zuvor innerhalb des Perimeters, bis zwischen 2013 und 2016 eine Mauer errichtet wurde. Nach Recherchen, die in der Anhörung aufgegriffen wurden, war die Schule vor dem Angriff nachweislich bereits Jahre zuvor eingerichtet, aktiv in sozialen Medien und besaß eine eigene Website. Klasing schlug vor, im jährlichen Reporting des Pentagons zu zivilen Opfern gezielt Informationen zur möglichen KI-Beteiligung aufzunehmen. Bestehende Anforderungen nach einem Abschnitt im National Defense Authorization Act verlangen zwar Angaben zu Mitigation und Untersuchungen, schreiben aber nicht explizit vor, ob KI zu einem Vorfall beitrug.
Politisch und prozessual wurden außerdem Forderungen laut, die vom technischen Audit bis zur Datenlage reichen. Steve Feldstein, Senior Fellow am Carnegie Endowment for International Peace, argumentierte dafür, Daten aus militärischen Operationen systematisch zu sammeln und nachgelagerte „after-action reviews“ durchzuführen, um zu prüfen, ob KI-unterstützte Systeme die beabsichtigten Ziele korrekt identifizierten und ob Fehler mit Blick auf zivile Opfer beitrugen. Gleichzeitig wurde davor gewarnt, KI als alleinige Ursache für jedes Problem zu behandeln: KI kann auch helfen, etwa Intelligenz zu verifizieren, Bildänderungen zu erkennen oder Abwehrprioritäten bei Drohnen und ballistischen Raketen zu steuern. Entscheidend sei jedoch die menschliche Rahmenannahme, auf deren Basis ein KI-gestütztes System betrieben wird. Wenn Entscheidungsvorlagen fälschlich bestimmten Personen- oder Merkmalsgruppen eine „legale Ziel“-Einordnung geben, korrigiert eine KI das zugrunde liegende Modell nicht automatisch. In der Debatte zog sich deshalb ein roter Faden: Das Kernrisiko entsteht besonders dann, wenn Systeme schneller arbeiten als Menschen sinnvoll prüfen können – und wenn die Systeme so gestaltet sind, dass nachträgliche Nachweise und Ursachenrekonstruktionen schwer fallen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "AI-gestütztes Ziel-Targeting: Kritik an zu wenig überprüfbarer „Human-in-the-Loop“-Kontrolle" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "AI-gestütztes Ziel-Targeting: Kritik an zu wenig überprüfbarer „Human-in-the-Loop“-Kontrolle" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »AI-gestütztes Ziel-Targeting: Kritik an zu wenig überprüfbarer „Human-in-the-Loop“-Kontrolle« bei Google Deutschland suchen, bei Bing oder Google News!