Versicherungen für KI: Ein neuer Ansatz zur Risikominderung

LONDON (IT BOLTWISE) – In einer Welt, in der Künstliche Intelligenz (KI) zunehmend an Bedeutung gewinnt, stellt sich die Frage, wie Unternehmen die Risiken dieser Technologie effektiv managen können. Ein neues Startup hat sich dieser Herausforderung angenommen und bietet eine innovative Lösung an.

Ein früherer Mitarbeiter von Anthropic hat ein Versicherungsunternehmen für Künstliche Intelligenz gegründet, um Unternehmen bei der Implementierung von KI-Systemen zu unterstützen und gleichzeitig die katastrophalen Risiken von unkontrollierten KI-Modellen zu mindern. Die Artificial Intelligence Underwriting Company, die kürzlich aus der Geheimhaltung hervorgetreten ist, wurde von den Mitgründern Rune Kvist, ehemals bei Anthropic; Brandon Wang, einem ehemaligen Thiel-Stipendiaten; und Rajiv Dattani, einem früheren McKinsey-Versicherungspartner, ins Leben gerufen. Das Trio sammelte 15 Millionen US-Dollar, hauptsächlich von Nat Friedman, dem früheren CEO von GitHub, über seine Firma NFDG.

Kvist erklärt, dass ein Top-Down-Ansatz zur KI-Regulierung zu langsam sei, um mit der schnellen Entwicklung der Technologie Schritt zu halten. Stattdessen schafft AIUC sowohl Sicherheitsstandards als auch Versicherungen für Unternehmen, die KI-Technologie implementieren. “Man würde sich nicht auf Goldman Sachs verlassen, um zu beurteilen, ob ihre Anleihen lohnenswert sind; man schaut auf Standard & Poor”, sagt er. Diese unabhängige Perspektive sei entscheidend, um die Sicherheit von KI-Modellen und deren Implementierung genau zu bewerten.

Für Unternehmen, die die Sicherheitsstandards von AIUC erfüllen, arbeitet das Unternehmen mit einigen der größten Versicherungsunternehmen zusammen, um eine Versicherungspolice anzubieten. Ein Einzelhändler könnte beispielsweise eine Police abschließen, um Fälle abzudecken, in denen seine KI-Chatbots falsche Informationen über die Rückgaberichtlinien geben. Ein versicherungsbasierter Ansatz hilft, eine der drängendsten Fragen zur KI-Sicherheit zu entwirren: Wer ist verantwortlich, wenn die Maschine versagt?

Das Team, das offiziell im Dezember 2024 gestartet ist und bis vor kurzem im Verborgenen arbeitete, besteht derzeit aus fünf Personen, plant jedoch, die Mitarbeiterzahl im nächsten Jahr zu verdoppeln. “Wir versuchen, die Dinge überschaubar zu halten”, sagt Kvist. In einem kürzlich veröffentlichten Papier skizzierten Kvist, Dattani und Wang ihre Philosophie, wie Versicherungen den Fortschritt der KI beschleunigen können, während sie die Risiken für die Gesellschaft managen.

Die Mitgründer betonen, dass die Regulierung von KI zu langsam und zu fragmentiert sei, um die Risiken der Technologie effektiv zu mindern. Stattdessen seien Versicherer motiviert, schnell Kern-Sicherheitsmaßnahmen zu entwickeln und zu iterieren und könnten daher bei den Bemühungen zur KI-Regulierung führen. AIUC ist jedoch kein Ersatz für staatliche Regulierung. Kvist glaubt weiterhin, dass Regierungen eine Schlüsselrolle bei der Regulierung größerer KI-Risiken spielen sollten, wie etwa der von Deepfakes oder der Fähigkeit von KI, Biowaffen zu schaffen.

Timnit Gebru, die Gründerin des Distributed AI Research Institute, betont, dass es keinen Ersatz für staatliche Regulierung gibt. Versicherungsunternehmen sollten sich der Risiken bewusster sein, aber Gebru sorgt sich, dass das schnelle Tempo der KI-Adoption im Widerspruch zur Reduzierung von KI-Schäden steht. Kvist schätzt, dass die Unternehmensadoption von KI in den nächsten fünf Jahren 500 Milliarden US-Dollar erreichen wird. Mit diesem Wachstum wird auch der Markt für Versicherungsanbieter exponentiell wachsen.

“Wir befinden uns in unkartiertem Gebiet ohne Parallele in der Menschheitsgeschichte”, sagt Kvist. “Wir müssen mit Zuversicht inmitten all der Unklarheiten handeln und die Risiken quantifizieren. Diejenigen, denen man vertrauen kann, diese Risiken zu bewerten, sind diejenigen, die selbst betroffen sind, wenn die Zahlen falsch sind.”

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!