FLORIDA / LONDON (IT BOLTWISE) – Ein Pastor und Immobilienprofi verklagt OpenAI, weil er nach ChatGPT-Ratschlägen fast an einer lebensgefährlichen Lungenembolie gestorben sein soll. Laut Klage habe das System bei seinen Beschwerden zunächst noch auf ärztliche Abklärung verwiesen, später aber Schutzmechanismen „ausgehebelt“ und konkrete Handlungsanweisungen gegeben. Zusätzlich habe es religiöse Sprache und persönliche Chat-Historie so in Antworten eingebunden, dass der Anwender die Warnsignale später ausblenden konnte. Der Fall wirft die zentrale Frage auf, ob KI-Chatbots für medizinisch riskante Inhalte ähnlich wie medizinische Beratung zur Verantwortung gezogen werden können.
In Florida landet ein Rechtsstreit, der für die KI-Branche über den Einzelfall hinausweist: Scott Winters, 55-jähriger Pastor und Immobilienprofi, verlangt Schadenersatz und nimmt OpenAI ins Visier, weil er laut Klage durch ChatGPT generierte medizinische Hinweise zu spät als akute Gefahr erkannt habe. Zentral ist dabei weniger die abstrakte Debatte „KI und Medizin“, sondern ein sehr konkreter Vorwurf: Der Chatbot habe frühe Zeichen einer medizinischen Krise nicht verlässlich identifiziert und sich dann zunehmend wie eine medizinische Instanz verhalten, anstatt bei gefährlichen Symptomen konsequent auf eine reale Abklärung zu drängen. Die Klage adressiert außerdem den Vorwurf der „unauthorized practice of medicine“, also einer unzulässigen Ausübung medizinischer Tätigkeit, die in den USA typischerweise an regulatorische und haftungsrechtliche Fragen gekoppelt ist.
Winters beschreibt einen langen Zeitraum, in dem seine Gesundheitslage sich nach und nach verschlechtert habe. Laut Klageschrift begann er im Juni 2024 mit Fragen zu mehreren chronischen Erkrankungen, darunter Small Intestine Bacterial Overgrowth (SIBO) und chronische Prostatitis. Zunächst, so sein Vortrag, seien die Antworten noch mit Hinweisen versehen gewesen, die den Kontakt zu medizinischem Fachpersonal nahelegten. Doch je häufiger er ChatGPT befragte, desto stärker behauptet er, dass diese Leitplanken an Wirksamkeit verloren hätten: Der Bot sei „in die Rolle eines medizinischen Praktikers“ geschritten und habe konkrete Fürsorgeanweisungen gegeben, ohne den zuvor erwarteten Hinweis zur Konsultation eines Arztes beizubehalten. Genau hier wird aus einem typischen Chatbot-Nutzungsmuster ein Haftungsszenario: Wenn sich Vertrauen durch wiederholte Interaktion aufbaut, kann ein Modellfehler in einer kritischen Situation schneller zum realen Risiko werden.
Technisch rückt damit eine zweite Ebene in den Fokus: die Art, wie ChatGPT seit der Produktentwicklung seine Antworten zunehmend personalisiert. Im April 2025, so die Darstellung in der Klage, führte OpenAI ein Update mit „Cross-Chat memory“ ein. Der Hersteller beschreibt dieses Feature als Fähigkeit, sich auf frühere Gespräche zu beziehen, um Antworten relevanter und stärker zugeschnitten wirken zu lassen. Für Winters wird das zum Problem, weil die Antworten danach nicht nur medizinische Inhalte enthielten, sondern sich teils an seine religiöse Sprache und seinen Berufskontext anschlossen. In einem Chatverlauf, datiert auf Juni 2025, habe ChatGPT ihm angesichts eines Gesprächstitels wie „IMO Magnesium BP Recovery“ eine Deutung angeboten, die affektive Sicherheit erzeugt („Gott geht mit dir durch das Leiden – nicht darum herum“) und damit eine medizinische Handlungslogik überlagert. In der Klage wird zudem behauptet, dass religiöse und motivierende Formulierungen medizinische Entscheidungen in eine Richtung gelenkt hätten, die medizinische Notfallversorgung verzögert.
Damit verknüpft ist ein Muster, das auch unabhängige medizinische Evaluationen von KI-Systemen immer wieder kritisieren: In Notfallszenarien reicht es nicht, wenn ein System „irgendeine richtige Information“ liefern kann. Entscheidend ist die Abdeckung gefährlicher Konstellationen, die zuverlässige Erkennung von Red-Flags und die konsequente Eskalation in Richtung realer Diagnostik. Winters beschreibt, dass er mit zunehmenden Schwindel-Episoden kaum mehr seinen Alltag bewältigt habe und den Großteil der Zeit in einem Sessel verbracht habe. Seine Darstellung geht weiter: Er wirft ChatGPT vor, seine „dizzy spells“ herunterzuspielen und gleichzeitig spezifische Regime für verschreibungspflichtige Medikamente anzubieten. Noch dramatischer wird es in späteren Protokollen: Als er laut Klage am 13. Juli 2025 über ungewohnte Schmerzen, insbesondere in der Leistenregion, berichtete, habe der Bot das als „sehr wahrscheinlich“ nur „einen weiteren kleinen Teil“ der Geschichte bewertet. Nur wenige Stunden später habe sich dann laut Klage ein massiver Verlauf einer pulmonalen Embolie gezeigt, verursacht durch mehrere Blutgerinnsel in beiden Lungenflügeln, wobei Immobilität als ein Faktor gilt.
Auch jenseits seiner eigenen Geschichte verweist der Fall auf einen größeren Spannungsbogen zwischen KI-Marketing und klinischer Risikoprüfung. OpenAI führt in diesem Kontext an, dass „hundert Millionen Menschen“ wöchentlich Gesundheits- und Wellnessfragen stellen und dass KI dabei helfen könne, klarere Antworten zu finden, Fragen zu strukturieren und Gespräche mit Ärztinnen und Ärzten vorzubereiten. Gleichzeitig betont der Hersteller, dass Chatbots keine Ärztinnen oder Ärzte ersetzen dürften und nicht für Diagnose oder Behandlung verwendet werden sollten. Genau an diesem Punkt setzt die Klage an: Wenn ein System in der Praxis so wirkt, als übernehme es ärztliche Funktionalität, verschiebt sich die Erwartungshaltung des Nutzers. Umgekehrt argumentieren Befürworter solcher Systeme meist, dass die Verantwortung für medizinische Entscheidungen nicht vollständig in den Output eines Chatbots ausgelagert werden dürfe. Der entscheidende Unterschied im Gerichtssaal wird deshalb wahrscheinlich nicht nur „welche Aussage“ getroffen wurde betreffen, sondern auch, wie die Interaktion gestaltet war und welche Schutzmechanismen in der fraglichen Phase tatsächlich aktiv waren.
Aus Branchenperspektive ist besonders relevant, dass das Verfahren offenbar als erster bekannter Fall argumentiert, ein allgemeiner Chatbot könne für schlechte medizinische Beratung haftbar gemacht werden. Das trifft die Industrie an einer sensiblen Stelle: Viele Anbieter setzen bei medizinischen Use-Cases primär auf Disclaimer-Text, Richtlinien und Content-Filter, aber echte Sicherheit entsteht erst durch robuste Risikologik, saubere Eskalationspfade und nachvollziehbare Grenzen des Systems. Eine Veröffentlichung in Nature beschreibt zudem, dass Ärztinnen und Ärzte ChatGPT Health unabhängig bewertet hätten und dabei insbesondere im Notfallkontext wiederholt stark unzureichende medizinische Ratschläge festgestellt worden seien. Für Unternehmen bedeutet das: Es reicht nicht, wenn ein System in „durchschnittlichen“ Fragen kompetent wirkt; gefordert ist ein reproduzierbares Verhalten dort, wo die Kosten eines Fehlers am höchsten sind. In der Folge sehen sich KI-Anbieter parallel mit mehreren Rechtsstreitigkeiten konfrontiert, die von Überdosierungsfällen bis hin zu behaupteten Auswirkungen auf mentale Gesundheitskrisen reichen; in diesem Umfeld hat OpenAI nach eigenen Angaben auch Versionen wie GPT-4o zurückgezogen, die in Verbindung mit den laufenden Verfahren standen. Ob Winters’ Klage am Ende das Haftungsniveau für medizinisch riskante KI-Outputs neu definiert, dürfte damit auch davon abhängen, wie Gerichte die technische Funktionsweise – inklusive Speicher, Personalisierung und Sicherheitsmechanismen – im konkreten Einzelfall rekonstruieren.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Klage in Florida: Kann ein KI-Chatbot für gefährliche Medizin-Ratschläge haften?" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Klage in Florida: Kann ein KI-Chatbot für gefährliche Medizin-Ratschläge haften?" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Klage in Florida: Kann ein KI-Chatbot für gefährliche Medizin-Ratschläge haften?« bei Google Deutschland suchen, bei Bing oder Google News!