Strenge Sanktionen für falsche KI-Zitate: Britische Gerichte warnen Anwälte

LONDON (IT BOLTWISE) – Die britischen Gerichte haben eine klare Warnung an Anwälte ausgesprochen: Der Missbrauch von Künstlicher Intelligenz (KI) in der juristischen Recherche kann zu schweren Sanktionen führen.

Die High Court of England and Wales hat kürzlich in einer wegweisenden Entscheidung betont, dass Anwälte strengere Maßnahmen ergreifen müssen, um den Missbrauch von Künstlicher Intelligenz in ihrer Arbeit zu verhindern. In einem Urteil, das zwei aktuelle Fälle zusammenfasst, erklärte Richterin Victoria Sharp, dass generative KI-Tools wie ChatGPT nicht in der Lage sind, zuverlässige juristische Recherchen durchzuführen.

Richterin Sharp wies darauf hin, dass solche Werkzeuge zwar scheinbar kohärente und plausible Antworten auf Eingaben liefern können, diese jedoch vollständig falsch sein können. Die Antworten könnten selbstbewusste Behauptungen enthalten, die einfach nicht der Wahrheit entsprechen. Dies bedeutet nicht, dass Anwälte keine KI in ihrer Recherche verwenden dürfen, aber sie haben die berufliche Pflicht, die Genauigkeit solcher Recherchen anhand autoritativer Quellen zu überprüfen, bevor sie sie in ihrer beruflichen Arbeit verwenden.

Die wachsende Zahl von Fällen, in denen Anwälte, einschließlich solcher, die große KI-Plattformen vertreten, scheinbar KI-generierte Falschinformationen zitiert haben, deutet darauf hin, dass mehr getan werden muss, um sicherzustellen, dass die Richtlinien befolgt werden und Anwälte ihren Pflichten gegenüber dem Gericht nachkommen. Richterin Sharp sagte, ihr Urteil werde an Berufsverbände wie den Bar Council und die Law Society weitergeleitet.

In einem der betreffenden Fälle reichte ein Anwalt, der einen Mann vertrat, der Schadensersatz von zwei Banken forderte, eine Eingabe mit 45 Zitaten ein – 18 dieser Fälle existierten nicht, während viele andere nicht die ihnen zugeschriebenen Zitate enthielten, die für die zitierten Vorschläge nicht unterstützten und keine Relevanz für den Gegenstand des Antrags hatten.

In einem anderen Fall zitierte ein Anwalt, der einen Mann vertrat, der aus seinem Londoner Zuhause vertrieben worden war, fünf Fälle, die nicht zu existieren schienen. Der Anwalt bestritt die Verwendung von KI, sagte jedoch, die Zitate könnten aus KI-generierten Zusammenfassungen stammen, die in „Google oder Safari“ erschienen. Richterin Sharp sagte, dass das Gericht zwar beschlossen habe, keine Missachtungsverfahren einzuleiten, dies jedoch „kein Präzedenzfall“ sei.

Anwälte, die ihren beruflichen Verpflichtungen in dieser Hinsicht nicht nachkommen, riskieren schwere Sanktionen. Beide Anwälte wurden entweder an Berufsregulierungsbehörden verwiesen oder haben sich selbst dorthin verwiesen. Richterin Sharp stellte fest, dass, wenn Anwälte ihren Pflichten gegenüber dem Gericht nicht nachkommen, die Befugnisse des Gerichts von einer öffentlichen Rüge bis zur Auferlegung von Kosten, Missachtungsverfahren oder sogar einer Überweisung an die Polizei reichen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!