Wer haftet, wenn KI-Agenten Fehler machen?

SILICON VALLEY / KALIFORNIEN / MÜNCHEN (IT BOLTWISE) – Die Entwicklung von KI-Agenten, die in der Lage sind, Aufgaben nahezu autonom zu erledigen, wirft neue rechtliche Fragen auf. Unternehmen, die diese Technologie nutzen, stehen vor der Herausforderung, Verantwortung zu übernehmen, wenn Fehler auftreten.

Die rasante Entwicklung von KI-Agenten, die in der Lage sind, Aufgaben nahezu autonom zu erledigen, wirft neue rechtliche Fragen auf. Unternehmen, die diese Technologie nutzen, stehen vor der Herausforderung, Verantwortung zu übernehmen, wenn Fehler auftreten. Jay Prakash Thakur, ein erfahrener Software-Ingenieur, hat in seiner Freizeit an der Entwicklung solcher Agenten gearbeitet. Diese könnten in naher Zukunft in der Lage sein, Mahlzeiten zu bestellen oder mobile Apps fast vollständig selbstständig zu entwickeln.

Agenten sind KI-Programme, die weitgehend unabhängig agieren können und es Unternehmen ermöglichen, Aufgaben wie die Beantwortung von Kundenanfragen oder das Bezahlen von Rechnungen zu automatisieren. Während Chatbots wie ChatGPT E-Mails verfassen oder Rechnungen analysieren können, erwarten Microsoft und andere Technologiegiganten, dass Agenten komplexere Funktionen übernehmen und dies mit minimaler menschlicher Aufsicht tun.

Die ambitioniertesten Pläne der Technologiebranche beinhalten Systeme mit mehreren Agenten, die eines Tages ganze Arbeitskräfte ersetzen könnten. Der Vorteil für Unternehmen liegt auf der Hand: Zeit- und Arbeitskostenersparnis. Die Nachfrage nach dieser Technologie steigt bereits. Der Technologiemarktforscher Gartner schätzt, dass agentische KI bis 2029 80 Prozent der gängigen Kundenserviceanfragen lösen wird.

Thakur, ein größtenteils autodidaktischer Programmierer, der in Kalifornien lebt, wollte an der Spitze dieses aufstrebenden Feldes stehen. Sein Tagesjob bei Microsoft hat zwar nichts mit Agenten zu tun, aber er hat seit seiner Zeit bei Amazon im Jahr 2024 mit AutoGen, Microsofts Open-Source-Software zur Erstellung von Agenten, experimentiert. Thakur sagt, er habe mit nur einem Hauch von Programmierung Multi-Agenten-Prototypen entwickelt.

Ein großes Problem, das Thakur beschäftigt, ist die Frage der Verantwortung, wenn Agenten Fehler machen, die finanziellen Schaden verursachen. Die Zuweisung von Schuld, wenn Agenten verschiedener Unternehmen innerhalb eines großen Systems falsch kommunizieren, könnte seiner Meinung nach umstritten werden. Joseph Fireman, leitender Rechtsberater bei OpenAI, erklärte kürzlich auf einer Konferenz, dass betroffene Parteien dazu neigen, diejenigen mit den tiefsten Taschen zu verklagen.

Die Versicherungsbranche hat begonnen, Policen für Probleme mit KI-Chatbots anzubieten, um Unternehmen bei der Deckung der Kosten von Missgeschicken zu unterstützen. Thakurs Experimente beinhalteten die Entwicklung eines Bestellsystems für ein futuristisches Restaurant, das maßgeschneiderte Bestellungen über verschiedene Küchen hinweg annehmen konnte. Die Fehlerquote war jedoch noch zu hoch, um eine Markteinführung zu rechtfertigen.

Ein Hoffnungsschimmer für Entwickler ist die Idee eines “Richter”-Agenten, der diese Systeme überwachen und Fehler identifizieren und beheben kann, bevor sie eskalieren. Mark Kashef, ein Freelancer, der ein Unternehmen für KI-Strategien leitet, warnt jedoch davor, dass Unternehmen beginnen, frühe Systeme mit einer unnötigen Anzahl von Agenten zu überfrachten.

Die rechtlichen Experten auf der Konferenz in San Francisco betonten, dass bestehende Gesetze die Benutzer, die Agenten Befehle erteilen, in gewissem Maße für die Handlungen dieser Agenten verantwortlich machen würden. Dazza Greenwood, ein Anwalt, der die rechtlichen Risiken von Agenten untersucht, rät zur Vorsicht und betont, dass Systeme so entwickelt werden sollten, dass sie keinen Schaden anrichten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!