HAMM / LONDON (IT BOLTWISE) – Das Oberlandesgericht Hamm stärkt die Rechte von Verbrauchern gegen irreführende KI-Auskünfte. Im Zentrum steht die Frage, wer haftet, wenn ein Chatbot auf einer Klinik-Website Facharztbezeichnungen erfindet und damit falsche Tatsachen verbreitet. Das Urteil macht deutlich: Betreiber müssen sich den KI-Output zurechnen lassen, wenn die Ergebnisse ungeprüft veröffentlicht werden. Parallel wird auch die rechtliche Linie zu KI-Chatbots auf Plattformen wie X spürbar.
Das Oberlandesgericht Hamm hat eine Entwicklung, die in der KI-Industrie längst erwartet, aber rechtlich noch zu selten klar gezeichnet wurde, nun konkretisiert: Wer einen Chatbot betreibt, muss für dessen Falschangaben einstehen. Der Anlass ist denkbar praxisnah, weil er sich nicht auf exotische Laborfälle beschränkt, sondern auf alltägliche Website-Interaktionen zielt. Gerade im Gesundheits- und Dienstleistungsumfeld werden KI-Chatbots häufig eingesetzt, um erste Fragen zu beantworten und Leads zu generieren. Wenn dabei jedoch halluzinierte oder erfundene Informationen auftauchen, kippt der Nutzen schnell in ein Haftungsrisiko – und zwar unabhängig davon, ob die Inhalte von Menschen oder Maschinen stammen.
Im entschiedenen Fall traf es eine Schönheitsklinik, deren Chatbot in Kundenanfragen auf der Website nicht nur unscharfe Formulierungen wählte, sondern konkrete Facharztbezeichnungen „halluzinierte“. So führte der Roboter unter anderem aus, zwei hinter der Klinik-GmbH stehende Mediziner seien „Fachärzte für plastische und ästhetische Chirurgie“ sowie zudem „Fachärzte für ästhetische Medizin“ und „Fachärzte für ästhetische Behandlungen“. Die juristische Relevanz liegt hier besonders in der Kategorie „Faktische Behauptung“: Letztere beiden Disziplinen existieren gar nicht, und die geschäftsführenden Ärzte sind ebenfalls keine Fachärzte für plastische und ästhetische Chirurgie. Damit wurde aus dem Gesprächsmodus eine irreführende Darstellung mit unmittelbarer Entscheidungswirkung.
Technisch betrachtet ist das Problem weniger „Fehler im Modell“ als vielmehr die Betriebslogik: Ein Chatbot kann korrekte Daten verarbeiten, aber dennoch plausible, dennoch falsche Titel generieren, wenn das Prompting, die Datenquellen oder die Validierung unzureichend sind. Viele Betreiber setzen aus Effizienzgründen auf schnelle Veröffentlichung des Outputs, weil der Bot die Antwortzeit reduziert und den Support entlastet. Genau diese Automatisierung macht die rechtliche Bewertung jedoch scharf: Die Richter stellten darauf ab, dass Verbraucher und andere Marktteilnehmer Entscheidungen treffen können, die sie ohne die irreführenden Aussagen nicht getroffen hätten. Damit rückt nicht nur die Sprache, sondern auch die Gestaltung des Workflows in den Fokus.
Vor dem Urteil hatte ein Verbraucherschutz zunächst abgemahnt und unter anderem eine strafbewehrte Unterlassungserklärung gefordert. Die Klinik deaktivierte den Chatbot zwar später, unterzeichnete die Erklärung jedoch nicht. In der Folge klagten die Verbraucher auf Unterlassung und bekamen Recht. Der Senat stufte die Aussagen des Chatbots als irreführende geschäftliche Handlung ein. Wesentlich ist dabei, dass die Haftung nicht dadurch entkräftet wurde, dass man den Bot „ausschließlich mit korrekten Datensätzen“ habe programmieren lassen. Die Verantwortung für die unstreitigen Falschangaben betreffend nicht existierender Facharzttitel blieb beim Betreiber – ein Signal an Unternehmen, dass reine Beschaffungs- oder Implementierungsbehauptungen keine belastbare Risikoverlagerung darstellen.
Diese Linie passt zu einer bereits aus einem anderen Kontext bekannten Entscheidung: Auch bei KI-Chatbots auf sozialen Plattformen kann der Betreiber für rechtswidrige Aussagen haften, wenn die Inhalte dauerhaft öffentlich abrufbar sind. Im Fall eines KI-Chatbots „Grok“ auf X hatte ein Nutzer nach stark staatlich geförderten Institutionen gefragt; die KI nannte dabei auch einen deutschen Verein und behauptete, der Verein erhalte hohe Bundesmittel und stütze das auf angebliche Quellen. Der Verein klagte auf Unterlassung und erhielt Recht. Die Gerichte betonten, dass die Maschine als Erzeugungsquelle nicht automatisch die rechtliche Unzulässigkeit aufhebt, weil der Betreiber sich den Output zurechnen lassen müsse, wenn die Veröffentlichung entsprechend konfiguriert ist. Für die Praxis bedeutet das: Betreiber müssen Mechanismen einziehen, die halluzinierte Fakten vor der Verbreitung wirksam blocken.
Aus Marktsicht verschärft sich damit das Wettbewerbs- und Betriebsumfeld für KI-Chatbots. Unternehmen, die heute Chatbots als „Always-on“-Frontline im Kundenservice oder im Recruiting einsetzen, stehen plötzlich vor einer doppelten Aufgabe: Sie müssen nicht nur die KI-Leistung optimieren, sondern auch die Compliance des Gesprächsoutputs operationalisieren. Vergleicht man typischerweise Cloud-basierte KI-Services mit On-Prem-Ansätzen, wird der Unterschied weniger „wo“ gerechnet wird, sondern „wie“ veröffentlicht wird: In beiden Fällen entscheidet ein Governance-Layer darüber, ob Antworten automatisch freigegeben, in Review-Schritte gepackt oder mit Quellen- und Plausibilitätschecks abgesichert werden. Experten berichten branchenweit, dass insbesondere im regulierten Umfeld (Gesundheit, Finanzen, Recht) die Anforderungen an Validierung und Nachweisbarkeit zunehmen.
Historisch betrachtet ist die Debatte nicht neu: Schon bei Suchmaschinen und Empfehlungsalgorithmen gab es Fragen zu Verantwortlichkeit und Irreführung. Neu ist jedoch die Interaktionsform. Ein Chatbot antwortet nicht nur, sondern „spricht“ wie ein Wissenssystem, wodurch Fehler stärker als verlässliche Tatsachen erscheinen können. In der Vergangenheit wurden solche Risiken oft mit dem Argument „es ist nur eine Empfehlung“ relativiert. Das Urteil aus Hamm zeigt, dass Gerichte inzwischen darauf achten, ob die Kommunikation im konkreten Nutzungskontext als bindend oder entscheidungsleitend wirkt. Wer also KI-gestützte Auskünfte so in Prozesse einbettet, dass Nutzende sie als Faktengrundlage verstehen, muss auch die Fehlerfolgen tragen.
Für die Zukunft zeichnet sich damit ein klarer Pfad ab, der sowohl technische als auch organisatorische Maßnahmen umfasst. Unternehmen sollten Chatbot-Implementierungen stärker auf „Verified Responses“ ausrichten: Dazu gehören definierte Wissensbasen, kontrollierte Datenquellen, strikte Typisierung von medizinischen oder rechtlichen Begriffen, sowie automatisierte Prüfungen gegen No-Entity-/No-Discipline-Regeln, wenn bestimmte Fachbezeichnungen nicht existieren. Ergänzend werden Abschirmungen wichtig, die den Bot bei Unsicherheit nicht „kreativ“ werden lassen, sondern auf Quellhinweise, Rückfragen oder eine Weiterleitung an qualifizierte Mitarbeitende umschalten. Das ist nicht nur ein Qualitätsgewinn, sondern auch eine Voraussetzung, um Risiken im Sinne von Verbraucher- und Persönlichkeitsschutz zu reduzieren. Kurz: Die Haftung verschiebt sich vom Modellhersteller hin zum Betreiber-Workflow – und damit wird KI-Entwicklung praktisch zur Compliance-Disziplin.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OLG Hamm: Wer KI-Chatbots betreibt, haftet für Falschinfos" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OLG Hamm: Wer KI-Chatbots betreibt, haftet für Falschinfos" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OLG Hamm: Wer KI-Chatbots betreibt, haftet für Falschinfos« bei Google Deutschland suchen, bei Bing oder Google News!