Gefahren der KI: Ein Fall von Bromvergiftung durch Chatbot-Beratung

SEATTLE / LONDON (IT BOLTWISE) – Ein Fall von Bromvergiftung in Seattle zeigt die Risiken von KI-gestützter Gesundheitsberatung auf. Ein Mann erlitt Psychosen nach Chatbot-Fehlinformationen.

Ein ungewöhnlicher Fall aus Seattle wirft ein Schlaglicht auf die potenziellen Gefahren von KI-gestützter Gesundheitsberatung. Ein 60-jähriger Mann wurde in ein Krankenhaus eingeliefert, nachdem er überzeugt war, sein Nachbar vergifte ihn. Die Ursache seiner Symptome, die von Halluzinationen bis zu Paranoia reichten, war eine Bromvergiftung, ausgelöst durch einen selbst initiierten Gesundheitsversuch, der auf Informationen von ChatGPT basierte.

Psychosen sind Zustände, in denen Betroffene den Bezug zur Realität verlieren. Sie können durch verschiedene medizinische oder psychiatrische Bedingungen hervorgerufen werden, darunter Schizophrenie oder schwere Depressionen. In diesem Fall führte die Einnahme von Natriumbromid, das der Mann als Ersatz für Kochsalz verwendete, zu einer toxischen Anreicherung im Körper.

Die Ärzte stellten fest, dass der Mann seine Ernährung auf Bromid umgestellt hatte, nachdem er von ChatGPT erfahren hatte, dass es als Ersatz für Chlorid dienen könnte. Der Chatbot hatte jedoch keine Warnungen bezüglich der gesundheitlichen Risiken gegeben. Diese Fehlinformation führte zu einer gefährlichen Bromidkonzentration im Blut des Patienten, die weit über dem Normalbereich lag.

Dieser Vorfall verdeutlicht die Risiken, die mit der Nutzung von KI-gestützten Chatbots im Gesundheitsbereich verbunden sind. Während solche Systeme in strukturierten Umgebungen nützlich sein können, bergen sie auch versteckte Gefahren, insbesondere für Nutzer, die die Informationen wörtlich nehmen. Die Autoren der Studie betonen die Notwendigkeit, bei ungewöhnlichen psychiatrischen Symptomen auch die Nutzung von KI-Systemen in Betracht zu ziehen.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

30,50 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

17,84 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

29,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!