Britische Gerichte warnen vor KI-Fehlinformationen in juristischen Verfahren

LONDON (IT BOLTWISE) – In einer wegweisenden Entscheidung hat das britische High Court von England und Wales Anwälte davor gewarnt, dass sie strafrechtlich verfolgt werden könnten, wenn sie falsche Informationen verwenden, die von Künstlicher Intelligenz generiert wurden.

Die britische Justiz hat eine klare Warnung an Anwälte ausgesprochen: Die Verwendung von KI-generierten Inhalten, die falsche Informationen enthalten, kann schwerwiegende rechtliche Konsequenzen nach sich ziehen. Diese Entscheidung kommt nach mehreren Fällen, in denen Anwälte auf nicht existierende Urteile und Zitate zurückgegriffen haben, die von KI-Tools wie ChatGPT generiert wurden. Die Präsidentin der King’s Bench Division, Victoria Sharp, betonte, dass die bisherigen Richtlinien für Anwälte nicht ausreichen, um den Missbrauch von KI zu verhindern.

In zwei kürzlich verhandelten Fällen wurden falsche Informationen in schriftlichen Argumenten vorgelegt. In einem Fall gestand ein Kläger, dass er auf KI-Tools vertraut hatte, die ungenaue und fiktive Informationen lieferten. Diese Informationen führten zu einer Klage gegen zwei Banken, die schließlich abgewiesen wurde. In einem anderen Fall konnte eine Anwältin nicht erklären, woher die nicht existierenden Fälle in ihren Argumenten stammten.

Die Richterin Sharp nutzte selten angewandte Befugnisse, um die Verfahren zu regulieren und die Pflichten der Anwälte durchzusetzen. Sie warnte, dass die Missbrauch von KI das Vertrauen in das Justizsystem untergraben könnte. Anwälte, die falsche Informationen verwenden, könnten wegen Justizbehinderung oder Missachtung des Gerichts strafrechtlich verfolgt werden.

Die Warnung der Richter unterstreicht die anhaltenden Bedenken von Technologieexperten über die Neigung von KI-Chatbots, in unvorhersehbarer Weise Informationen zu erfinden. Eine Untersuchung von Vectara, einem Unternehmen aus dem Silicon Valley, zeigt, dass führende KI-Systeme in 0,7 bis 2,2 Prozent der Fälle Informationen erfinden, wenn sie einfache Aufgaben wie das Zusammenfassen von Nachrichtenartikeln ausführen.

Die britischen Fälle sind nicht die einzigen Beispiele für KI-Fehlinformationen in der Rechtsprechung. Ähnliche Vorfälle wurden in Kalifornien, Minnesota, Texas sowie in Australien, Kanada und Neuseeland gemeldet. Richterin Sharp betonte, dass KI zwar ein mächtiges Werkzeug sei, aber auch Risiken mit sich bringe, die sorgfältig gemanagt werden müssen.

Die Entscheidung des High Court ist ein Weckruf für die juristische Gemeinschaft, die sich zunehmend auf KI-Tools verlässt. Es ist entscheidend, dass Anwälte die Grenzen dieser Technologien verstehen und sicherstellen, dass alle Informationen, die sie vor Gericht präsentieren, gründlich überprüft werden. Die Zukunft der Rechtsprechung könnte von der Fähigkeit abhängen, KI verantwortungsvoll zu integrieren, ohne die Integrität des Justizsystems zu gefährden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!