Gefährliche KI-Diät: Bromvergiftung durch ChatGPT-Empfehlung

SEATTLE / LONDON (IT BOLTWISE) – Ein ungewöhnlicher Fall von Bromvergiftung hat die medizinische Gemeinschaft aufgerüttelt, nachdem ein Mann auf die Ratschläge von ChatGPT vertraute und eine gefährliche Diät begann.

In einer Welt, in der Künstliche Intelligenz zunehmend in unseren Alltag integriert wird, zeigt ein aktueller Fall die potenziellen Gefahren, die mit der unkritischen Nutzung solcher Technologien einhergehen können. Ein Mann aus Seattle erlitt eine schwere Bromvergiftung, nachdem er auf die Empfehlungen von ChatGPT vertraute und seine Ernährung entsprechend anpasste. Die Ärzte der University of Washington dokumentierten diesen Fall in den Annals of Internal Medicine: Clinical Cases und warnten vor den Risiken, die mit der Konsultation von KI-Systemen ohne fachliche Überprüfung verbunden sind.

Der betroffene Mann hatte sich entschieden, seinen Salzkonsum zu reduzieren, nachdem er über die negativen Auswirkungen von Natriumchlorid gelesen hatte. Auf der Suche nach Alternativen wandte er sich an ChatGPT, das ihm empfahl, Chlorid durch Bromid zu ersetzen. Diese Empfehlung führte zu einer dreimonatigen Einnahme von Natriumbromid, was schließlich zu einer schweren psychotischen Episode führte. Der Mann entwickelte Symptome wie Paranoia, Halluzinationen und Verwirrung, was ihn schließlich in die Notaufnahme brachte.

Historisch gesehen wurde Bromid im frühen 20. Jahrhundert häufig zur Behandlung von Schlaflosigkeit und Angstzuständen eingesetzt, bis seine toxischen Eigenschaften erkannt wurden. In den 1980er Jahren wurde es aus den meisten Medikamenten entfernt, doch es bleibt in einigen Tierarzneimitteln und Nahrungsergänzungsmitteln enthalten. Der aktuelle Fall könnte der erste dokumentierte Vorfall sein, bei dem eine KI zu einer Bromvergiftung beigetragen hat.

Die Ärzte, die den Fall behandelten, stellten fest, dass der Mann in einem Zustand schwerer Dehydrierung und psychischer Instabilität in die Klinik kam. Nach der Verabreichung von intravenösen Flüssigkeiten und Antipsychotika stabilisierte sich sein Zustand allmählich. Die Mediziner vermuteten schnell eine Bromvergiftung als Ursache und konnten dies bestätigen, nachdem der Patient in der Lage war, seine Einnahme von Natriumbromid zu erklären.

Dieser Vorfall wirft ein Schlaglicht auf die Verantwortung, die mit der Nutzung von KI-Systemen verbunden ist. Während diese Technologien eine Brücke zwischen wissenschaftlichem Wissen und der breiten Öffentlichkeit schlagen können, besteht die Gefahr, dass sie dekontextualisierte Informationen verbreiten. Die Ärzte betonten, dass ein menschlicher Experte wahrscheinlich nicht empfohlen hätte, Bromid als Ersatz für Chlorid zu verwenden.

Der Fall zeigt eindrucksvoll, dass trotz aller technologischen Fortschritte der menschliche Austausch und die kritische Überprüfung von Informationen unverzichtbar bleiben. Der Mann erholte sich schließlich vollständig und wurde nach drei Wochen aus der Klinik entlassen. Bei einer Nachuntersuchung zwei Wochen später war sein Zustand stabil, und er hatte die antipsychotischen Medikamente abgesetzt.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!