Fehlerhafte KI-Tools gefährden Veteranen-Verträge

LONDON (IT BOLTWISE) – Die Trump-Administration hat ein KI-Tool entwickelt, das bei der Überprüfung von Verträgen des Veteranenministeriums erhebliche Fehler aufweist.

Die Trump-Administration hat ein KI-Tool entwickelt, um Verträge des Veteranenministeriums zu überprüfen und potenziell unnötige Ausgaben zu identifizieren. Dieses Tool, das von einem Software-Ingenieur ohne Erfahrung im Gesundheitswesen oder im öffentlichen Sektor entwickelt wurde, hat jedoch erhebliche Fehler aufgewiesen. Es wurde festgestellt, dass das Tool die Größe von Verträgen falsch einschätzte und deren Wert oft stark überhöhte.

Das KI-Tool, das von der Abteilung für Regierungseffizienz (DOGE) entwickelt wurde, markierte über 2.000 Verträge als “munchable”, was bedeutet, dass sie als nicht essenziell angesehen wurden. Die genaue Anzahl der tatsächlich gekündigten Verträge bleibt unklar, da die Entscheidungen der Trump-Administration über VA-Verträge weitgehend undurchsichtig sind.

Experten kritisierten die Verwendung von veralteten KI-Modellen, die nicht in der Lage sind, komplexe Aufgaben zuverlässig zu bewältigen. Cary Coglianese, Professor für Recht und Politikwissenschaft an der University of Pennsylvania, äußerte Bedenken über die Zuverlässigkeit solcher Modelle für komplexe Aufgaben wie die Verwaltung von Regierungsverträgen.

Der Entwickler des Tools, Sahil Lavingia, räumte ein, dass das Tool fehlerhaft sei und empfahl nicht, es ohne menschliche Überprüfung zu verwenden. Lavingia, der keine formale Ausbildung in KI hat, arbeitete nur kurzzeitig bei DOGE und entwickelte das Tool in einem sehr engen Zeitrahmen.

Die VA hat erklärt, dass sie alle ihre Verträge überprüft, um sicherzustellen, dass sie den Veteranen zugutekommen und eine sinnvolle Verwendung von Steuergeldern darstellen. Entscheidungen über die Kündigung oder Reduzierung von Verträgen werden nach mehreren Überprüfungen durch VA-Mitarbeiter getroffen.

Die Verwendung von KI zur Verwaltung von Regierungsverträgen wirft Fragen zur Transparenz und Zuverlässigkeit auf. Viele innerhalb der VA berichteten, dass der Prozess der Vertragsüberprüfung so undurchsichtig war, dass sie nicht einmal sehen konnten, wer die endgültigen Entscheidungen traf.

Die Zukunft der Verwendung von KI-Tools in der Verwaltung bleibt ungewiss, da die VA noch nicht entschieden hat, ob sie das “munchable”-Tool weiterhin verwenden wird. Die Diskussion über den Einsatz von KI in der Verwaltung zeigt die Notwendigkeit einer sorgfältigen Abwägung zwischen Effizienz und Genauigkeit.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!