Alabama: KI-Fehler in der Verteidigung von Gefängnisfällen

BIRMINGHAM / LONDON (IT BOLTWISE) – Ein bemerkenswerter Fall von KI-Fehlverhalten hat das Rechtssystem in Alabama erschüttert. Ein führendes Anwaltsbüro, das Millionen von Dollar erhielt, um die Gefängnisse des Bundesstaates zu verteidigen, steht nun im Zentrum eines Skandals um gefälschte Zitate, die von Künstlicher Intelligenz generiert wurden.

In Alabama hat sich ein bemerkenswerter Vorfall ereignet, der die Nutzung von Künstlicher Intelligenz im Rechtssystem in Frage stellt. Ein führendes Anwaltsbüro, das seit Jahren Millionen von Dollar vom Staat erhält, um die problematischen Gefängnisse zu verteidigen, steht nun im Zentrum eines Skandals. Der Fall dreht sich um Frankie Johnson, einen Insassen des William E. Donaldson Gefängnisses, der in einem Zeitraum von weniger als anderthalb Jahren etwa 20 Mal erstochen wurde. Johnson reichte 2021 eine Klage gegen die Gefängnisbehörden ein, in der er die unzureichende Sicherheit, die allgegenwärtige Gewalt, die Unterbesetzung und die Korruption in den Gefängnissen von Alabama anprangerte. Um diesen Fall zu verteidigen, wandte sich das Büro des Generalstaatsanwalts von Alabama an die Anwaltskanzlei Butler Snow, die für ihre Erfahrung in der Verteidigung von Gefängnisfällen bekannt ist. Doch nun drohen der Kanzlei Sanktionen, nachdem ein Anwalt der Kanzlei, der mit William Lunsford, dem Leiter der Abteilung für Verfassungs- und Bürgerrechtsstreitigkeiten, zusammenarbeitete, Fälle zitierte, die von Künstlicher Intelligenz generiert wurden und sich als nicht existent herausstellten. Dies ist einer von vielen Fällen, in denen Anwälte in den USA Konsequenzen für die Aufnahme falscher, KI-generierter Informationen in offizielle juristische Dokumente tragen mussten. Ein Datenbankversuch, die Häufigkeit solcher Fälle zu verfolgen, hat weltweit 106 Instanzen identifiziert, in denen Gerichte “KI-Halluzinationen” in Gerichtsdokumenten festgestellt haben. Letztes Jahr wurde ein Anwalt für ein Jahr von der Ausübung des Rechts in der mittleren Bundesbezirks von Florida suspendiert, nachdem ein Ausschuss festgestellt hatte, dass er erfundene, KI-generierte Fälle zitiert hatte. In Kalifornien wurde eine Kanzlei Anfang dieses Monats von einem Bundesrichter angewiesen, mehr als 30.000 Dollar an Anwaltsgebühren zu zahlen, nachdem sie falsche, KI-generierte Recherchen in einem Schriftsatz aufgenommen hatte. Bei einer Anhörung in Birmingham am Mittwoch im Fall von Johnson sagte die US-Bezirksrichterin Anna Manasco, dass sie eine breite Palette von Sanktionen in Betracht ziehe – einschließlich Geldstrafen, verpflichtender Fortbildung, Verweisen an Zulassungsorganisationen und vorübergehenden Suspendierungen – gegen Butler Snow, nachdem der Anwalt Matthew Reeves ChatGPT verwendet hatte, um falsche Zitate zu den Einreichungen im Zusammenhang mit laufenden Streitigkeiten über Aussagen und Entdeckungen im Fall hinzuzufügen. Sie schlug vor, dass die bisherigen Disziplinarmaßnahmen im ganzen Land nicht weit genug gegangen seien. Der aktuelle Fall sei “der Beweis dafür, dass diese Sanktionen unzureichend waren”, sagte sie den Anwälten. “Wenn sie es wären, wären wir nicht hier.” Während der Anhörung waren die Anwälte von Butler Snow überaus entschuldigend und sagten, sie würden jede Sanktion akzeptieren, die Manasco für angemessen halte. Sie wiesen auch auf eine Firmenpolitik hin, die von den Anwälten verlangt, eine Genehmigung einzuholen, wenn sie KI für juristische Recherchen verwenden. Reeves versuchte, die volle Verantwortung zu übernehmen. “Ich war mir der Einschränkungen bei der Nutzung [von KI] bewusst, und in diesen beiden Fällen habe ich die Richtlinien nicht eingehalten”, sagte Reeves. “Ich hoffe, dass Ihre Ehre meine Kollegen nicht bestraft.” Anwälte von Butler Snow wurden vom Büro des Generalstaatsanwalts von Alabama ernannt und werden vom Staat bezahlt, um Jefferson Dunn, den ehemaligen Kommissar des Alabama Department of Corrections, in dem Fall zu verteidigen. Lunsford, der den Vertrag mit dem Staat für den Fall hält, sagte, dass er begonnen habe, frühere Einreichungen zu überprüfen, um sicherzustellen, dass es nicht mehr Fälle von falschen Zitaten gebe. “Dies ist sehr frisch und roh”, sagte Lunsford zu Manasco. “Die Reaktion der Kanzlei darauf ist noch nicht abgeschlossen.” Manasco sagte, dass sie Butler Snow erlauben würde, innerhalb von 10 Tagen einen Antrag einzureichen, um zu erklären, wie ihr Prozess zur Lösung des Problems aussehen wird, bevor sie eine Entscheidung über Sanktionen trifft. Die Verwendung der gefälschten KI-Zitate in dem Fall kam im Zusammenhang mit einem Terminierungsstreit in dem Fall ans Licht. Anwälte von Butler Snow hatten die Anwälte von Johnson kontaktiert, um eine Aussage von Johnson zu arrangieren, der sich noch im Gefängnis befindet. Die Anwälte von Johnson widersprachen den vorgeschlagenen Terminen und verwiesen auf ausstehende Dokumente, auf die sie ihrer Meinung nach vor der Aussage von Johnson Anspruch hatten. In einer Gerichtsakte vom 7. Mai argumentierte Butler Snow jedoch, dass die Rechtsprechung vorschreibe, dass Johnson zügig vernommen werde. “Der elfte Bezirk und die Bezirksgerichte genehmigen routinemäßig Inhaftierte Vernehmungen, wenn ordnungsgemäße Mitteilung gegeben wird und die Vernehmung für Ansprüche oder Verteidigungen relevant ist, ungeachtet anderer Entdeckungsstreitigkeiten”, schrieben sie. Die Anwälte listeten vier Fälle auf, die angeblich ihre Behauptung stützten. Es stellte sich heraus, dass sie alle erfunden waren. Während einige der zitierten Fälle Zitaten für echte Fälle ähnelten, war keiner von ihnen für die vor dem Gericht stehende Frage relevant. Zum Beispiel war einer für einen Fall von 2021 mit dem Titel Kelley v. City of Birmingham, aber laut den Anwälten von Johnson war “der einzige existierende Fall mit dem Titel Kelley v. City of Birmingham, den der Anwalt des Klägers identifizieren konnte, 1939 vom Alabama Court of Appeals entschieden worden und betraf die Lösung eines Strafzettels wegen Geschwindigkeitsüberschreitung.” Anfang dieser Woche reichten die Anwälte von Johnson einen Antrag ein, in dem sie auf die Erfindungen hinwiesen und vorschlugen, dass sie das Produkt von “generativer Künstlicher Intelligenz” seien. Sie fanden auch ein weiteres anscheinend erfundenes Zitat in einer früheren Einreichung im Zusammenhang mit einem Streit über Entdeckungen. Am nächsten Tag setzte Manasco eine Anhörung an, um zu bestimmen, ob die Anwälte von Butler Snow sanktioniert werden sollten. “Angesichts der Ernsthaftigkeit der Anschuldigung hat das Gericht unabhängige Suchen nach jedem angeblich erfundenen Zitat durchgeführt, ohne Erfolg”, schrieb sie. In einer Erklärung an das Gericht sagte Reeves, dass er die Einreichungen überprüft habe, die von einem jüngeren Kollegen verfasst worden waren, und Zitate für das hinzufügen wollte, was er “für gut etablierte Rechtsgrundsätze hielt”. “Ich wusste allgemein über ChatGPT Bescheid”, schrieb Reeves weiter, dass er eine Suche nach unterstützender Rechtsprechung durchführte, die er für die Anträge benötigte, die “sofort angeblich anwendbare Zitate für diese Rechtsgrundsätze identifizierte”. Aber in seiner “Eile, die Anträge zu finalisieren und einzureichen”, habe er “es versäumt, die von ChatGPT zurückgegebenen Fallzitate durch unabhängige Überprüfung in Westlaw oder Pacer zu verifizieren, bevor er sie einbezog”. “Ich bedauere diesen Mangel an Sorgfalt und Urteilsvermögen aufrichtig”, schrieb Reeves. “Ich übernehme die volle Verantwortung.” Fälle, in denen falsche KI-Inhalte in juristische Einreichungen gelangen, scheinen in ihrer Häufigkeit zuzunehmen, sagte Damien Charlotin, ein in Paris ansässiger Rechtsforscher und Akademiker, der versucht, die Fälle zu verfolgen. “Ich sehe eine Beschleunigung”, sagte er. “Es gibt so viele Fälle aus den letzten Wochen und Monaten im Vergleich zu früher.” Bisher war die Reaktion der Gerichte auf das Problem jedoch bemerkenswert nachsichtig, sagte Charlotin. Die schwerwiegenderen Sanktionen – einschließlich großer Geldstrafen und Suspendierungen – tendieren dazu, wenn Anwälte es versäumen, Verantwortung für ihre Fehler zu übernehmen. “Ich erwarte nicht, dass es so bleibt”, sagte Charlotin. “Ich denke, irgendwann wird jeder gewarnt sein.” Neben dem Fall Johnson haben Lunsford und Butler Snow Verträge, um an mehreren umfassenden Bürgerrechtsfällen gegen das Alabama Department of Corrections zu arbeiten – einschließlich eines von der Trump-Regierung im Jahr 2020 eingereichten Falles des US-Justizministeriums, der viele der gleichen weitreichenden systemischen Probleme identifiziert, auf die Johnson in seiner Klage hinwies, und behauptet, dass die Bedingungen gegen das achte Verfassungszusatzverbot von grausamer und ungewöhnlicher Bestrafung verstoßen. Der Vertrag für diesen Fall allein war zu einem Zeitpunkt fast 15 Millionen Dollar über zwei Jahre wert. Einige Gesetzgeber in Alabama haben die Höhe der Ausgaben des Staates für die Kanzlei in Frage gestellt, um die Fälle zu verteidigen. Aber es scheint nicht, dass der Fehler in dieser Woche das Vertrauen des Generalstaatsanwalts in Lunsford oder Butler Snow erschüttert hat, ihre Arbeit fortzusetzen, bisher. Am Mittwoch fragte Manasco einen Anwalt des Generalstaatsanwalts, der bei der Anhörung anwesend war, ob sie bei Butler Snow bleiben würden. “Herr Lunsford bleibt der Anwalt der Wahl des Generalstaatsanwalts”, antwortete er.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!