Gefährliche Gesundheitsberatung durch KI: Ein Mann erleidet Psychose

LONDON (IT BOLTWISE) – Die zunehmende Verbreitung von KI-gestützten Beratungsdiensten wirft ernste Fragen zur Sicherheit und Zuverlässigkeit solcher Systeme auf. Ein aktueller Fall zeigt, wie eine vermeintlich harmlose Gesundheitsberatung durch eine KI zu einer schweren psychischen Erkrankung führen kann.

Ein 60-jähriger Mann, der sich auf die Ratschläge von ChatGPT verließ, erlitt eine schwere Psychose, nachdem er seine Ernährung drastisch umgestellt hatte. Der Mann, der in seiner Vergangenheit Ernährungswissenschaften studiert hatte, entschied sich, Chlor aus seiner Ernährung zu eliminieren. Dabei ersetzte er Natriumchlorid, besser bekannt als Speisesalz, durch Natriumbromid, das er im Internet erwarb.

Nach drei Monaten landete er in der Notaufnahme seines örtlichen Krankenhauses. Er war überzeugt, dass sein Nachbar ihn vergiften wollte, und zeigte paranoides Verhalten. Trotz seines extremen Durstes weigerte er sich, das angebotene Wasser zu trinken, da er zu Hause sein eigenes Wasser destillierte und eine extrem restriktive vegetarische Diät einhielt.

Die Ärzte führten umfangreiche Labortests durch, die mehrere Mikronährstoffmängel aufdeckten, insbesondere bei wichtigen Vitaminen. Doch das größere Problem war eine schwere Form von Bromismus, einer Vergiftung durch übermäßige Aufnahme von Bromid. Diese Substanz kann sich im Körper ansammeln und die Nervenfunktion beeinträchtigen, was zu Hautausschlägen und erheblichen psychischen Problemen führen kann.

Vor einem Jahrhundert waren etwa 8-10 Prozent aller psychiatrischen Einweisungen in den USA auf Bromismus zurückzuführen, da bromidhaltige Salze als Beruhigungsmittel beliebt waren. Diese wurden jedoch 1989 von der FDA verboten. Der Fall des Mannes zeigt, dass das Wissen über Bromismus heute weitgehend verloren gegangen ist.

Während seines Krankenhausaufenthalts verschlechterte sich der Zustand des Mannes weiter. Er zeigte zunehmende Paranoia sowie akustische und visuelle Halluzinationen und versuchte, aus der Einrichtung zu fliehen. Nach diesem Fluchtversuch wurde er unter psychiatrische Beobachtung gestellt und erhielt ein Antipsychotikum. Die Behandlung bestand aus der Verabreichung großer Mengen Flüssigkeit und Elektrolyten, um das Bromid aus seinem System zu spülen.

Die Ärzte, die diesen Fall im Annals of Internal Medicine: Clinical Cases dokumentierten, hatten keinen Zugriff auf die tatsächlichen ChatGPT-Protokolle des Mannes. Sie vermuten jedoch, dass er entweder ChatGPT 3.5 oder 4.0 nutzte. Bei eigenen Tests stellten sie fest, dass die KI zwar Bromid als Alternative erwähnte, aber auch darauf hinwies, dass der Kontext wichtig sei und Bromid nicht für alle Anwendungen geeignet sei.

Dieser Fall verdeutlicht die Gefahren, die mit der Nutzung von KI-gestützten Beratungsdiensten verbunden sind, insbesondere wenn Nutzer nicht über das notwendige Wissen verfügen, um die erhaltenen Informationen richtig zu interpretieren. In einer Welt, die von Informationen überflutet wird, fehlt es oft an den wirtschaftlichen Ressourcen, den Fähigkeiten zur Informationsbewertung oder dem Vertrauen in andere, um die besten Entscheidungen zu treffen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!