Gefährliche KI-Beratung: Mann erleidet Bromvergiftung

LONDON (IT BOLTWISE) – Ein besorgniserregender Vorfall zeigt, wie gefährlich es sein kann, sich auf KI-gestützte Gesundheitsberatung zu verlassen. Ein Mann wurde ins Krankenhaus eingeliefert, nachdem er den Ratschlägen eines Chatbots gefolgt war.

Die zunehmende Verbreitung von Künstlicher Intelligenz (KI) in unserem Alltag hat viele Vorteile gebracht, von der Automatisierung einfacher Aufgaben bis hin zur Unterstützung bei komplexen Entscheidungen. Doch der jüngste Fall eines Mannes, der nach der Befolgung von KI-Ratschlägen ins Krankenhaus eingeliefert wurde, wirft ernste Fragen über die Zuverlässigkeit solcher Systeme auf. Der Mann hatte sich an einen KI-Chatbot gewandt, um eine gesündere Alternative zu Natriumchlorid zu finden, und erhielt den Vorschlag, Natriumbromid zu verwenden.

Während Natriumbromid tatsächlich als Ersatz für Natriumchlorid verwendet werden kann, ist dies normalerweise auf industrielle Anwendungen wie die Reinigung von Whirlpools beschränkt. Der Chatbot versäumte es, diesen wichtigen Kontext zu liefern, was dazu führte, dass der Mann die Substanz in seine Ernährung integrierte. Drei Monate später wurde er mit schweren psychiatrischen Symptomen, darunter paranoide Wahnvorstellungen und Halluzinationen, in die Notaufnahme eingeliefert.

Die Ärzte diagnostizierten bei ihm Bromismus, eine seltene Form der Vergiftung, die durch eine toxische Anreicherung von Bromid im Körper verursacht wird. Diese Erkrankung war im frühen 20. Jahrhundert relativ häufig, verschwand jedoch weitgehend, nachdem bromidhaltige Medikamente aus dem Verkehr gezogen wurden. Der Fall verdeutlicht die Gefahren, die mit der unkritischen Nutzung von KI-Systemen verbunden sind, insbesondere wenn es um medizinische Ratschläge geht.

Experten warnen davor, dass KI-Systeme wie ChatGPT wissenschaftliche Ungenauigkeiten erzeugen und die Verbreitung von Fehlinformationen fördern können. Ein menschlicher Experte hätte wahrscheinlich niemals Natriumbromid als Ersatz für Speisesalz empfohlen. Dieser Vorfall unterstreicht die Notwendigkeit, bei der Nutzung von KI-Technologien Vorsicht walten zu lassen und sich bei wichtigen Gesundheitsfragen auf qualifizierte Fachleute zu verlassen.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

30,50 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

17,84 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

29,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!