Fehlerhafte Gerichtsentscheidung wirft Fragen zur KI-Nutzung auf

LONDON (IT BOLTWISE) – In einem bemerkenswerten Fall hat ein US-Bezirksrichter seine Entscheidung in einem biopharmazeutischen Wertpapierverfahren zurückgezogen, nachdem Anwälte auf gefälschte Zitate und fehlerhafte Fallinformationen hingewiesen hatten.

In einem aufsehenerregenden Fall hat ein US-Bezirksrichter seine Entscheidung in einem biopharmazeutischen Wertpapierverfahren zurückgezogen, nachdem Anwälte auf gefälschte Zitate und fehlerhafte Fallinformationen hingewiesen hatten. Diese Fehler, die in der Entscheidung des Richters Julien Xavier Neals auftraten, erinnern stark an die sogenannten Halluzinationen, die bei der Nutzung von KI-Tools wie ChatGPT auftreten können.

Der Anwalt Andrew Lichtman hatte in einem Schreiben an den Richter Neals auf eine Reihe von Fehlern hingewiesen, die in der Entscheidung zur Ablehnung eines Antrags auf Klageabweisung gegen das Pharmaunternehmen CorMedix enthalten waren. Diese Fehler umfassten unter anderem die falsche Darstellung der Ergebnisse in drei anderen Fällen sowie zahlreiche erfundene Zitate, die fälschlicherweise anderen Entscheidungen zugeschrieben wurden.

Wie aus der Gerichtsakte hervorgeht, wurde die ursprüngliche Entscheidung als fehlerhaft eingestuft, und es soll eine neue Entscheidung folgen. Während es nicht ungewöhnlich ist, dass Gerichte kleinere Korrekturen an Entscheidungen vornehmen, sind größere Änderungen wie das Entfernen ganzer Absätze oder das Zurückziehen von Entscheidungen selten.

Obwohl es keine Bestätigung dafür gibt, dass in diesem Fall KI eingesetzt wurde, weisen die Fehler deutliche Anzeichen von KI-Halluzinationen auf, die in anderen juristischen Dokumenten aufgetreten sind. Anwälte, die den MyPillow-Gründer Mike Lindell verteidigten, wurden kürzlich wegen der Verwendung von KI-generierten Zitaten mit einer Geldstrafe belegt, und auch das Unternehmen Anthropic machte seinen Claude-KI-Chatbot für einen peinlichen Fehler in einem Rechtsstreit mit Musikverlagen verantwortlich.

Diese Vorfälle verdeutlichen, dass KI-Tools wie ChatGPT und Claude zwar nützlich sein können, aber noch nicht in der Lage sind, die Arbeit von echten Anwälten zu ersetzen. Die Technologie entwickelt sich zwar weiter, doch die Risiken von Halluzinationen und fehlerhaften Informationen bleiben bestehen, was die Notwendigkeit einer sorgfältigen Überprüfung und Validierung der von KI generierten Inhalte unterstreicht.

In der juristischen Gemeinschaft wächst die Besorgnis über die zunehmende Abhängigkeit von KI-Tools, insbesondere in Bereichen, in denen Genauigkeit und Zuverlässigkeit von entscheidender Bedeutung sind. Experten warnen davor, dass die unkritische Verwendung solcher Technologien zu erheblichen rechtlichen und ethischen Problemen führen kann.

Die Zukunft der KI im juristischen Bereich bleibt ungewiss, da die Technologie sowohl Chancen als auch Herausforderungen mit sich bringt. Während KI-Tools die Effizienz und den Zugang zu Informationen verbessern können, ist es entscheidend, dass ihre Nutzung durch strenge Kontrollen und menschliche Aufsicht ergänzt wird, um die Integrität des Rechtssystems zu gewährleisten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!