LOS ANGELES / LONDON (IT BOLTWISE) – Anwälte in einem Verfahren gegen State Farm mussten nach Hinweisen auf KI-„Halluzinationen“ in Gerichtsunterlagen nachbessern. Laut der Darstellung der Gegenseite tauchten in Eingaben Fälle, Zitate und Fundstellen auf, die es nicht gab. Die verantwortlichen Anwälte haben sich vor Gericht entschuldigt und erklären, KI-Tools seien bei der Erstellung einzelner Schriftsätze genutzt worden. Die Entscheidung über die weiteren Schritte liegt nun bei State Farm, während der Prozess im Oktober weiterläuft.
Im Rechtsstreit um die Reparatur eines Hauses nach einem Brand in Carson bei Los Angeles hat sich Künstliche Intelligenz (KI) nicht als stiller Produktivitätshelfer erwiesen, sondern als Quelle handfester Fehler. Der Kern des Vorwurfs: In von State Farm eingereichten Schriftsätzen sollen KI-generierte „Halluzinationen“ enthalten gewesen sein, darunter „cases that do not exist“, Zitate, die nicht nachweisbar sind, und sogar Entscheidungen, die angeblich gar nicht existieren. Die Mängel wurden dabei nicht erst im laufenden Prozess sichtbar, sondern im Rahmen von Anträgen und Erwiderungen, bevor der Fall voraussichtlich im Oktober vor Gericht verhandelt wird.
Die Hintergründe des zivilrechtlichen Konflikts reichen in den Sommer 2020 zurück. Nach Angaben in den Verfahrensakten führte ein Brand dazu, dass das Haus der Klägerin nicht mehr bewohnbar war. Während der Contractor am Wiederaufbau arbeitete, kam es zudem zu weiteren Schäden durch einen Sturm, der Wasser ins Gebäude brachte. Laut einem späteren Eintrag im Januar habe es Verzögerungen bei der Genehmigung der Reparaturen durch State Farm gegeben, woraufhin die Arbeiten nicht vollständig abgeschlossen wurden. Die Klägerin, Fa’alagilagi Meni-Siliga, beschreibt den wirtschaftlichen Schaden als existenziell: Sie und ihr Ehemann hätten Ersparnisse und Rentenkonten aufgebraucht, Insolvenz angemeldet, schließlich das Haus durch Zwangsversteigerung verloren und „foreclosure“ als entscheidenden Wendepunkt geschildert.
Stark verdichtet wird der technische Teil der Geschichte jedoch durch den Abgleich der juristischen Inhalte: Gegenanwälte fanden in den von State Farm eingereichten Motionen Einträge, die sich bei genauer Prüfung nicht belegen ließen. In diesem Zusammenhang nannte Eric Khodadian, der die Klägerin vertritt, konkrete Arten von Fehlern: erfundene Fallangaben, nicht auffindbare Zitate und behauptete „holdings“, die sich nicht zu den angeführten Entscheidungen wiederfinden lassen. Dass solche Fehler im juristischen Alltag besonders gefährlich sind, liegt an der Wirkungskette: Schon ein einziges falsches Zitat kann in der Argumentation als „Beleg“ wirken, bevor es im strengen Zitations- und Nachweissystem korrigiert wird. Entsprechend wird der Fall von juristischer Seite auch als Warnsignal diskutiert, weil KI-gestützte Recherche und Texterzeugung zwar beschleunigt, aber ohne belastbare Verifikation neue Fehlerklassen erzeugt.
Nach den Schilderungen aus den Eingaben kam es nach einer Anhörung zu einer Eskalation über die Liste der gefundenen Unstimmigkeiten. Khodadian verwies darauf, ein Anwalt der Gegenseite sei „visibly enraged“ gewesen, habe ihn und seinen Mitverteidiger im Flur verfolgt und wiederholt verlangt, die Fehlerliste zu sehen. In den späteren Unterlagen meldete sich dann auch der Anwalt Kenneth Katel von der Kanzlei Musick, Peeler & Garrett: Er entschuldigte sich beim Gericht und bei der Klägerin und erklärte, dass seine Co-Counsel KI genutzt habe, um Teile der Schriftsätze vorzubereiten. Katel betonte die Verantwortung als „lead trial counsel“ und sprach davon, dass er nicht gewusst habe, dass KI tatsächlich eingesetzt worden sei. Gleichzeitig widersprach er in einem Punkt Khodadians Darstellung zum Ablauf, ließ aber erkennen, dass die Auseinandersetzung über den Ernst der Vorwürfe tatsächlich stattgefunden hatte.
Wie kam es zu den konkreten falschen Fundstellen? Der entscheidende technische Mechanismus ist aus der Argumentationslinie ableitbar: Eine Anwältin, Jacquelene Robinson, räumte in einem Filing ein, dass es in den genannten Einträgen insgesamt sieben Fallzitate gab, die „simply didn’t exist“, und darüber hinaus weitere falsche Titel von Entscheidungen sowie Zitate, die sich nicht in den angeführten Quellen wiederfinden. Robinson sagte, sie habe dafür ein KI-Tool namens Irys verwendet. Laut ihrer eigenen Darstellung hielt sie Irys irrtümlich für Teil eines Kanzlei-Abonnements, das sie als an Westlaw angebunden verstanden habe, und glaubte, das System habe eine interne „cite check“ durchgeführt. In der Praxis zeigt das Muster, warum „Halluzinationen“ im juristischen Kontext so hartnäckig werden: Wenn ein Tool nicht zuverlässig eine Quellenbasis abarbeitet, können plausibel klingende Referenzen erzeugt werden, obwohl sie in der Realität nicht existieren oder zumindest nicht zu den behaupteten Textstellen passen.
State Farm selbst prüft nach eigenen Angaben den Vorgang. Ein Sprecher namens Tom Hartmann erklärte, der Versicherer erwarte von externen Kanzleien den „highest level of ethical standards and professionalism“, einschließlich der Pflicht, die Richtigkeit aller rechtlichen Einreichungen zu bestätigen. Konkrete Fragen nach Anzahl und Auswahlmechanismen externer Kanzleien beantwortete Hartmann in der vorliegenden Berichterstattung nicht. Damit bleibt offen, wie systematisch Versicherer oder große Unternehmen KI-Routinen bei ihren Dienstleistern einfordern: Werden Richtlinien bei der Vergabe aktiv abgefragt? Gibt es Vertragsklauseln zur KI-Nutzung oder verpflichtende Zitationsprozesse? Gerade weil der Fall aufzeigt, dass Fehlfunktionen nicht nur theoretisch sind, sondern in einem realen Prozess zu Entschuldigungen und Korrekturen führen, rückt die Beschaffungs- und Governance-Ebene der Kanzlei-IT in den Fokus.
Der juristische Kontext ist dabei kein Einzelfall. Laut einer aktuellen Umfrage nutzen 41 % der Anwaltskanzleien und 47 % der Rechtsabteilungen in Unternehmen generative KI. Daniel Ho, Juraprofessor an der Stanford University, hat sich in Forschungen explizit mit dem Problem „legal hallucinations“ beschäftigt. In einer mitverfassten Arbeit wird beschrieben, dass Anbieter bestimmter Rechtsrecherche-Tools teils „overstated“ hätten, sie könnten hallucinationsfreie Zitationen garantieren. Auch eine Datenbank für juristische Halluzinationen, die von einem in Paris ansässigen Forschenden gepflegt wird, listet mittlerweile 1.922 Fälle; die Mehrheit davon soll in den USA aufgetreten sein. Für Entscheider in der Praxis heißt das: Der Nutzen von KI in der Rechtsarbeit hängt nicht allein davon ab, ob ein Modell Text erzeugen kann, sondern davon, ob die Umgebung verlässlich verifiziert und ob die Organisation klare Prüfketten definiert.
Für Kanzleien und Rechtsabteilungen folgt daraus eine nüchterne Prioritätenliste, auch wenn der vorliegende Fall keine technische „Schuldzuweisung“ an ein einziges Modell liefert. Entscheidend ist, dass die Arbeitskette vom Draft bis zur Einreichung eine harte Quellenprüfung vorsieht, also nicht nur „Text plausibel“ bewertet. Dazu gehören in der Praxis Prozessregeln, die das Blindvertrauen in KI-Werkzeuge begrenzen, sowie Transparenz darüber, welche Systeme in welchen Arbeitsschritten eingesetzt werden. Der Oktober-Termin macht zudem deutlich, dass KI-Fehler nicht nur peinliche Randnotizen sein können, sondern den Streitstoff und die Glaubwürdigkeit der Argumentation beeinflussen. Wenn Unternehmen wie State Farm gleichzeitig auf Compliance und Professionalität pochen, verschiebt sich der Wettbewerb in der Legal Tech folglich von reiner Schreib- oder Zusammenfassungsleistung hin zu nachvollziehbaren, verifizierbaren Workflows.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Halluzinationen in Klage gegen State Farm: Anwälte entschuldigen sich" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Halluzinationen in Klage gegen State Farm: Anwälte entschuldigen sich" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Halluzinationen in Klage gegen State Farm: Anwälte entschuldigen sich« bei Google Deutschland suchen, bei Bing oder Google News!