Anthropic entschuldigt sich für KI-Fehler in juristischer Einreichung

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – In einem bemerkenswerten Vorfall hat das KI-Unternehmen Anthropic eine Entschuldigung ausgesprochen, nachdem sein KI-gestützter Chatbot Claude fehlerhafte Zitate in einer juristischen Einreichung generiert hatte.

Anthropic, ein führendes Unternehmen im Bereich der Künstlichen Intelligenz, sieht sich derzeit mit Vorwürfen konfrontiert, dass sein KI-gestützter Chatbot Claude fehlerhafte Zitate in einer juristischen Einreichung generiert hat. Diese Vorwürfe kamen im Rahmen eines Rechtsstreits mit Musikverlagen auf, die behaupten, dass Claude mit urheberrechtlich geschützten Liedtexten trainiert wurde. Der Vorfall wirft ein Schlaglicht auf die Herausforderungen und Risiken, die mit der Nutzung von KI-Tools in rechtlichen Kontexten verbunden sind.

Der Fehler wurde in einer Einreichung von Olivia Chen, einer Datenwissenschaftlerin bei Anthropic, entdeckt. Die Einreichung sollte als Verteidigung gegen die Vorwürfe dienen, dass Claude mit urheberrechtlich geschützten Materialien trainiert wurde. Ein Anwalt, der Universal Music Group, ABKCO und Concord vertritt, bezeichnete die zitierten Quellen als ‘vollständige Erfindung’ und deutete an, dass sie von der KI halluziniert wurden.

In einer Antwort erklärte die Verteidigungsanwältin von Anthropic, Ivana Dukanovic, dass die kritisierte Quelle tatsächlich existiere und dass Claude zur Formatierung der juristischen Zitate verwendet wurde. Während einige Fehler in den Volumen- und Seitenzahlen durch eine manuelle Überprüfung korrigiert wurden, blieben andere Formulierungsfehler unentdeckt. Dukanovic betonte, dass es sich nicht um eine ‘Erfindung von Autorität’ handelte, sondern um einen unbeabsichtigten Fehler.

Der Vorfall ist ein weiteres Beispiel dafür, wie der Einsatz von KI-Tools in juristischen Kontexten zu Problemen führen kann. Erst kürzlich wurde eine kalifornische Anwaltskanzlei von einem Richter gerügt, weil sie nicht offengelegt hatte, dass KI zur Erstellung eines Dokuments verwendet wurde, das falsche Informationen enthielt. Ein Experte für Desinformation gab im Dezember zu, dass ChatGPT in einer von ihm eingereichten juristischen Einreichung Zitate halluziniert hatte.

Die zunehmende Abhängigkeit von KI in verschiedenen Branchen, einschließlich des Rechtswesens, wirft Fragen zur Zuverlässigkeit und Genauigkeit dieser Technologien auf. Während KI-Tools wie Claude erhebliche Vorteile in Bezug auf Effizienz und Geschwindigkeit bieten, bleibt die Notwendigkeit menschlicher Überprüfung und Validierung bestehen. Dies ist besonders wichtig in Bereichen, in denen Präzision und Genauigkeit von entscheidender Bedeutung sind.

Anthropic hat sich für den Vorfall entschuldigt und betont, dass es sich um einen ‘peinlichen und unbeabsichtigten Fehler’ handelte. Das Unternehmen arbeitet daran, seine Prozesse zu verbessern, um ähnliche Vorfälle in der Zukunft zu vermeiden. Der Vorfall unterstreicht die Notwendigkeit, die Grenzen und Möglichkeiten von KI-gestützten Tools kritisch zu hinterfragen und sicherzustellen, dass sie verantwortungsvoll eingesetzt werden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!