Versicherer bieten Schutz vor KI-Fehlern an

LONDON / MÜNCHEN (IT BOLTWISE) – In einer Zeit, in der Unternehmen zunehmend auf Künstliche Intelligenz setzen, um ihre Effizienz zu steigern, haben Versicherer bei Lloyd’s of London ein neues Produkt eingeführt, das Schutz vor Verlusten durch fehlerhafte KI-Tools bietet.

Die Einführung von Versicherungsprodukten, die speziell auf die Risiken von KI-Fehlern abzielen, markiert einen bedeutenden Schritt in der Anpassung der Versicherungsbranche an die digitale Transformation. Armilla, ein von Y Combinator unterstütztes Startup, hat in Zusammenarbeit mit mehreren Versicherern bei Lloyd’s of London eine Police entwickelt, die Unternehmen vor den finanziellen Folgen von Fehlfunktionen ihrer KI-Tools schützt.

Diese Versicherungen decken die Kosten von Gerichtsverfahren ab, die entstehen, wenn ein Unternehmen von einem Kunden oder Dritten verklagt wird, der durch die Fehlfunktion eines KI-Tools geschädigt wurde. Die Deckung umfasst sowohl Schadensersatz als auch Anwaltskosten. Ein prominentes Beispiel für solche Fehlfunktionen ist der Fall von Virgin Money, dessen KI-gestützter Chatbot einen Kunden wegen der Verwendung des Wortes „virgin“ rügte.

Ein weiteres Beispiel ist der Kurierdienst DPD, der einen Teil seines Kundenservice-Bots deaktivierte, nachdem dieser Kunden beleidigte. Solche Vorfälle verdeutlichen die potenziellen Risiken, die mit der Nutzung von KI-Tools verbunden sind, insbesondere wenn diese „halluzinieren“ oder falsche Informationen generieren.

Armilla betont, dass ihre Versicherungspolice greift, wenn ein KI-Tool unter den Erwartungen bleibt. Beispielsweise könnte die Police einspringen, wenn ein Chatbot nur noch 85 Prozent der Zeit korrekte Informationen liefert, nachdem er ursprünglich 95 Prozent erreicht hatte. Diese Art von Versicherung könnte Unternehmen ermutigen, KI-Technologien breiter einzusetzen, da sie sich weniger Sorgen über mögliche Fehlfunktionen machen müssen.

Einige Versicherer bieten bereits allgemeine Technologie-Fehler- und Auslassungspolicen an, die auch KI-bezogene Verluste abdecken. Diese haben jedoch oft niedrige Deckungssummen für KI-spezifische Haftungen. Armillas Ansatz ist es, die KI-Modelle zu bewerten und deren Wahrscheinlichkeit einer Verschlechterung einzuschätzen, um dann im Falle einer solchen Verschlechterung zu kompensieren.

Tom Graham von Chaucer, einem der Versicherer bei Lloyd’s, der die Policen von Armilla unterzeichnet, betont, dass man selektiv vorgehen werde. Nur Systeme, die nicht als übermäßig anfällig für Ausfälle gelten, werden versichert. Diese selektive Herangehensweise soll sicherstellen, dass die Versicherer nicht übermäßig hohe Risiken eingehen.

Die Einführung dieser speziellen Versicherungsprodukte könnte einen wichtigen Beitrag dazu leisten, die Akzeptanz von KI-Technologien in Unternehmen zu fördern, indem sie ein Sicherheitsnetz gegen die finanziellen Risiken von Fehlfunktionen bieten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!