Fehlerhafte KI-Nutzung führt zu Sanktionen gegen MyPillow-Gründer

DENVER / LONDON (IT BOLTWISE) – Ein jüngstes Gerichtsurteil in Colorado hat erneut die Risiken der unkritischen Nutzung von Künstlicher Intelligenz im Rechtswesen aufgezeigt.

Ein Bundesrichter in Colorado hat ein klares Signal an Anwälte gesendet, die versucht sein könnten, generative Künstliche Intelligenz unüberlegt einzusetzen: Überprüfen Sie stets Ihre Arbeit. In einer Entscheidung vom Montag verhängte Richterin Nina Y. Wang vom US-Bezirksgericht für den Bezirk Colorado Sanktionen gegen zwei Anwälte, die Mike Lindell, den Gründer von MyPillow, vertraten.

Lindell ist bekannt für die Verbreitung von Verschwörungstheorien über die Präsidentschaftswahlen 2020. Im Februar, so Richterin Wang, reichten die Anwälte ein Gerichtsdokument in einem Verleumdungsfall gegen Lindell ein, das fast 30 fehlerhafte Zitate enthielt. Es wurden Gerichtsfälle falsch zitiert, Rechtsprinzipien falsch dargestellt und, am gravierendsten, Fälle zitiert, die nicht existieren. Richterin Wang erklärte, die Anwälte Christopher I. Kachouroff und Jennifer T. DeMaster hätten nicht erklärt, wie solche Fehler in die Einreichung gelangen konnten, es sei denn durch den Einsatz von generativer Künstlicher Intelligenz oder grobe Fahrlässigkeit. Sie stellte fest, dass sie gegen eine Bundesregel verstoßen hatten, die von Anwälten verlangt, zu bestätigen, dass die in Gerichtsdokumenten gemachten Behauptungen im Gesetz verankert sind.

Sie verhängte eine Geldstrafe von jeweils 3.000 US-Dollar gegen sie und bezeichnete dies als die mildeste Sanktion, die ausreicht, um die Verteidiger in diesem Fall abzuschrecken und zu bestrafen. Herr Kachouroff und Frau DeMaster reagierten am Dienstag nicht sofort auf Anfragen zu den Geldstrafen. Bei einer Anhörung im April fragte Richterin Wang Herrn Kachouroff, ob das fehlerhafte Gerichtsdokument von generativer Künstlicher Intelligenz erstellt worden sei. ‘Nicht ursprünglich’, antwortete Herr Kachouroff laut Gerichtsunterlagen. ‘Zunächst habe ich für mich selbst eine Gliederung erstellt und einen Antrag entworfen, und dann haben wir ihn durch KI laufen lassen.’ Richterin Wang fragte auch, ob Herr Kachouroff die Zitate in der Einreichung überprüft habe.

‘Euer Ehren, ich habe es persönlich nicht überprüft’, sagte er laut Gerichtsunterlagen. ‘Ich bin dafür verantwortlich, dass es nicht überprüft wurde.’ Herr Kachouroff erklärte später in Gerichtsdokumenten, dass er von der Fragestellung der Richterin völlig überrascht gewesen sei. ‘Ich habe nicht verstanden, was vor sich ging, da meine Co-Anwältin und ich nicht auf KI-Recherche zurückgegriffen hatten und ein gründlich überprüftes Enddokument vorbereitet hatten, das eingereicht werden sollte’, sagte Herr Kachouroff. Er sagte jedoch, seine Co-Anwältin, Frau DeMaster, habe versehentlich eine Entwurfsversion des Gerichtsdokuments eingereicht, anstatt der endgültigen Version, die sie sorgfältig überprüft und bearbeitet hatten. Als sie das Dokument hochlud, war Herr Kachouroff im Urlaub in Mexiko und hatte nur begrenzten Internetzugang. Herr Kachouroff fügte hinzu, dass er zwar häufig KI-Programme nutze, um seine Argumente und die seiner Gegner zu analysieren, aber nicht auf KI für juristische Recherchen oder die Suche nach Fällen angewiesen sei.

‘Unabhängig davon, ob ich KI in einem bestimmten Schriftsatz verwende, führe ich immer eine Überprüfung der Zitate durch, bevor ich sie einreiche’, fügte er hinzu. Frau DeMaster erklärte in ihrer eigenen Einreichung im April, dass sie versehentlich die Entwurfsversion des Gerichtsdokuments hochgeladen habe, da sie dachte, es sei die endgültige Version. ‘Ich entschuldige mich aufrichtig bei dem Gericht für die Einreichung der falschen Version und die Unannehmlichkeiten, die dies diesem Gericht und den Parteien verursacht hat’, schrieb sie. ‘Es wurde nicht absichtlich getan, um das Gericht in die Irre zu führen, in böser Absicht oder zu einem unzulässigen Zweck.’ Richterin Wang erklärte in ihrer Entscheidung am Montag, dass sie nicht überzeugt sei, dass die Einreichung einfach ein Versehen war, angesichts der widersprüchlichen Aussagen und des Mangels an bestätigenden Beweisen.

Herr Lindell verlor den Verleumdungsfall letzten Monat und wurde angewiesen, 2,3 Millionen US-Dollar Schadensersatz an Eric Coomer, einen ehemaligen Mitarbeiter von Dominion Voting Systems, zu zahlen. Herr Coomer hatte Herrn Lindell beschuldigt, ihn als ‘Verräter der Vereinigten Staaten’ bezeichnet zu haben und gesagt, er solle sich den Behörden stellen, so die Gerichtsunterlagen. Die Sanktionen kamen zu einer Zeit, in der Anwälte – ebenso wie Studenten, Lehrer, Journalisten und andere – mit der richtigen Nutzung der enormen Kräfte der Künstlichen Intelligenz ringen, während sie sicherstellen, dass die von ihnen produzierten Arbeiten originell und genau sind.

Die American Bar Association, in ihrer ersten ethischen Richtlinie für Anwälte zur Nutzung von generativer KI, stellte im letzten Jahr fest, dass viele Anwälte KI-Tools nutzen, um die Effizienz und Qualität der von ihnen erbrachten Rechtsdienstleistungen zu verbessern. Doch die Anwaltskammer warnte davor, dass ‘unkritische Abhängigkeit’ von solchen Tools ‘zu ungenauer Rechtsberatung für Mandanten oder irreführenden Darstellungen gegenüber Gerichten und Dritten führen kann’. Sie erklärte, dass Anwälte ‘ein angemessenes Maß an unabhängiger Überprüfung oder Kontrolle’ von KI-generierten Inhalten ausüben sollten, um sicherzustellen, dass sie ihre Pflicht zur kompetenten Vertretung ihrer Mandanten nicht verletzen. Letzten Monat warnte das High Court of England and Wales Anwälte, dass sie strafrechtlich verfolgt werden könnten, wenn sie falsches Material präsentieren, das von Künstlicher Intelligenz generiert wurde, nachdem eine Reihe von Fällen erfundene Zitate und Urteile zitiert hatte, die nicht existierten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!