HAMM / LONDON (IT BOLTWISE) – Ein KI-Chatbot einer Klinik hat Ärzten Titel zugeordnet, die es teils gar nicht gibt. Das Oberlandesgericht Hamm stellt jetzt klar: Für solche irreführenden Angaben haftet das Unternehmen selbst – selbst wenn die KI mit richtigen Daten trainiert oder vorprogrammiert wurde. Die Entscheidung könnte den Umgang mit KI im Kundenkontakt in vielen Branchen beschleunigt verschärfen und birgt Potenzial bis zum Bundesgerichtshof.
Das Urteil des Oberlandesgerichts Hamm wirkt auf den ersten Blick wie ein Einzelfall aus dem Gesundheitsbereich. Doch die Kernfrage ist branchenübergreifend: Wer trägt die Verantwortung, wenn eine KI im Kundenkontakt falsche oder irreführende Aussagen ausspielt? Im konkreten Fall hatte ein Chatbot auf der Website einer Klinik Ärzten Facharztbezeichnungen zugeschrieben, die nach dem Gericht so nicht existieren. Damit wird deutlich, dass Unternehmen KI nicht als „neutralen Kanal“ betrachten können, wenn das Ergebnis unmittelbar zu geschäftlichen Entscheidungen oder Eindrücken bei Nutzern führt. Für die Praxis ist der Signalcharakter hoch: Haftung orientiert sich stärker an der externen Wirkung als an der internen KI-Mechanik.
Technisch betrachtet geht es bei solchen Systemen meist um eine Kombination aus Natural-Language-Understanding, Wissensabrufen und anschließender Textgenerierung. Selbst wenn das Modell mit richtigen Quellen und Kuratierungsmethoden ausgestattet wurde, kann die Ausgabeseite falsch konzipierte oder unzulässige Inhalte erzeugen – etwa durch fehlerhafte Zuordnung von Attributen, Halluzinationen oder unzureichende Validierungsstufen. Entscheidend ist daher, dass Verantwortliche eine „Output-Governance“ implementieren: von kontrollierten Antwortbereichen über strikte Quellenketten bis hin zu automatisierten Prüfungen vor der Veröffentlichung. Das Urteil adressiert zwar juristisch das Wettbewerbsrecht, trifft aber gleichzeitig einen Nerv der KI-Engineering-Praxis.
Aus Marktsicht verschärft die Entscheidung den Druck auf Unternehmen, die KI-Assistenten als Self-Service-Frontdoor für Terminbuchung, Beratung und allgemeine Fragen einsetzen. Viele Anbieter setzen dabei auf große Sprachmodelle oder hybride Ansätze, die etwa über Plattformen wie Microsoft Copilot, Google Gemini oder vergleichbare Ökosysteme in bestehende Anwendungen integriert werden. Die technologische Herkunft ändert jedoch nichts an der rechtlichen Bewertung, wenn das Unternehmen den Chatbot als Teil seines Marktbetriebs betreibt und die Aussagen gegenüber Verbrauchern Wirkung entfalten. Für Einkaufs- und Compliance-Teams bedeutet das: Verträge mit Cloud- und Modellanbietern müssen stärker mit der unternehmensinternen Haftungslogik gespiegelt werden, einschließlich Nachweispflichten, Monitoring und Incident-Prozessen.
Juristisch ordnet das Gericht die Aussagen als unzulässige geschäftliche Handlung nach Wettbewerbsrecht ein. Besonders bedeutsam ist dabei die Argumentationslinie zur Zurechnung: Die Betreiber können sich nicht darauf zurückziehen, dass die KI den Fehler verursacht habe. Auch ein Abschalten des Chatbots im Nachhinein sowie eine nicht unterschriebene Unterlassungserklärung ändern laut Entscheidung nicht den grundsätzlichen Befund. Damit wird eine verbreitete Annahme unternehmenstypischer Risiko-Modelle erschüttert: „Kontrollpflichten erfüllt“ reicht allein oft nicht, wenn das Ergebnis irreführend war und der Betrieb die Darstellung nach außen ermöglicht hat. Die Entscheidung signalisiert zudem, dass Gerichte KI-Ausgaben als Teil des Unternehmensauftritts betrachten.
Dass das Oberlandesgericht die Revision zum Bundesgerichtshof zugelassen hat, macht die Tragweite plausibel. Mit dem Gang in die nächste Instanz könnte erstmals grundsätzlich geklärt werden, wie KI-Chatbots im Sinne des Gesetzes zu verorten sind – etwa ob sie als „Dritte“ gelten können oder ob sie dem verantwortlichen Unternehmen zuzurechnen sind. Diese Einordnung wird für zahlreiche Use-Cases relevant, die über Medizin hinausgehen: etwa für Versicherungssachbearbeitung, Immobilienauskünfte, HR-Fragestellungen oder die Produktberatung im E-Commerce. Branchenexperten, wie sie in der juristischen Fachöffentlichkeit derzeit diskutieren, erwarten, dass das Gericht eine klare Linie zur Zurechnung ziehen wird, weil sonst Haftungsrisiken für KI-gestützte Kontaktkanäle dauerhaft schwer kalkulierbar wären.
Für die Unternehmensseite folgt daraus kurzfristig vor allem ein Governance-Upgrade und längerfristig eine strategische Neuausrichtung der KI-Nutzung. Im Wettbewerbskontext ist entscheidend, dass irreführende Angaben nicht nur verhindert, sondern auch belegt werden können: Welche Quellen wurden genutzt? Wie wurden Fakten geprüft? Wie wurde verhindert, dass Facharztbezeichnungen frei erfunden oder falsch zugeordnet werden? Ein zusätzlicher Zukunftsaspekt betrifft die Datenschutz- und KI-Regulatorik: Auch wenn es im Urteil um Wettbewerbsrecht geht, werden Betriebe parallel weiterhin unter Druck stehen, KI-Systeme so zu gestalten, dass personenbezogene Inhalte, Einwilligungsfragen und Protokollierungsvorgaben eingehalten werden. Ergänzend kann die EU-KI-Verordnung als Leitplanke dienen, um Risikoklassen, Transparenzpflichten und technische Schutzmaßnahmen in Prozesse zu übersetzen.
In der Summe ist das Urteil ein Wendepunkt für KI im Kundenkontakt: Nicht die „Intention“ der Modelltechnologie entscheidet, sondern die Außenwirkung. Für Entwickler bedeutet das, dass reine Prompting-Optimierung allein nicht ausreicht; robuste Sicherheitsnetze gehören in die Produktionspipeline. Für Produktmanager heißt es, dass KI-Funktionen stärker als „Feature mit Betriebsrisiko“ behandelt werden müssen, inklusive Red-Team-Tests, Freigabeprozessen und klaren Eskalationspfaden bei verdächtigen Antworten. Und für die Strategieebene entsteht eine messbare Frage: Welche Grenzen setzt man KI, damit sie nur das sagen kann, was das Unternehmen auch verantworten möchte? Der BGH wird mit hoher Wahrscheinlichkeit Maßstäbe setzen, die den Markt künftig spürbar prägen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OLG Hamm: Unternehmen haften für KI-Falschaussagen im Kundenchat" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OLG Hamm: Unternehmen haften für KI-Falschaussagen im Kundenchat" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OLG Hamm: Unternehmen haften für KI-Falschaussagen im Kundenchat« bei Google Deutschland suchen, bei Bing oder Google News!