Gefahren der KI: Ein Mann erleidet Bromvergiftung nach ChatGPT-Diätberatung

LONDON (IT BOLTWISE) – Die Nutzung von Künstlicher Intelligenz zur Gesundheitsberatung kann unerwartete Risiken bergen, wie ein aktueller Fall aus den USA zeigt.

Die zunehmende Verbreitung von Künstlicher Intelligenz in alltäglichen Anwendungen hat viele Vorteile, birgt jedoch auch Risiken, wie ein aktueller Fall aus den USA verdeutlicht. Ein 60-jähriger Mann konsultierte ChatGPT, um seine Ernährung umzustellen, und landete schließlich mit einer Bromvergiftung im Krankenhaus. Diese seltene Erkrankung, bekannt als Bromismus, wird durch eine chronische Überexposition gegenüber Bromid verursacht.

Der Mann hatte sich entschieden, das in seiner Ernährung enthaltene Natriumchlorid durch Natriumbromid zu ersetzen, nachdem er von ChatGPT die Information erhalten hatte, dass dies möglich sei. Diese Entscheidung führte zu einer Anhäufung von Bromid in seinem Körper, was zu schweren neuropsychiatrischen Symptomen wie Paranoia und Halluzinationen führte.

In der Vergangenheit wurde Bromid häufig in Medikamenten eingesetzt, bis seine schädlichen Langzeiteffekte bekannt wurden. In den 1970er und 1980er Jahren entfernten US-Regulierungsbehörden Bromid aus vielen rezeptfreien Medikamenten, was zu einem Rückgang der Bromismusfälle führte. Dennoch gibt es gelegentlich Berichte über Vergiftungen, insbesondere durch online gekaufte Nahrungsergänzungsmittel.

Der Fall des Mannes wirft ein Schlaglicht auf die Gefahren, die mit der Nutzung von KI für medizinische Ratschläge verbunden sind. OpenAI, der Entwickler von ChatGPT, betont, dass ihre Dienste nicht für medizinische Diagnosen oder Behandlungen gedacht sind und empfiehlt, professionelle Beratung in Anspruch zu nehmen.

Nach seiner Einlieferung ins Krankenhaus wurde der Mann mit Flüssigkeiten und Elektrolyten behandelt, was zu einer Stabilisierung seines Zustands führte. Die Ärzte konnten schließlich die Ursache seiner Symptome auf die übermäßige Aufnahme von Bromid zurückführen. Der Fall zeigt, wie wichtig es ist, KI-generierte Informationen kritisch zu hinterfragen und im Zweifelsfall auf professionelle medizinische Beratung zurückzugreifen.

Die Nutzung von KI in der Medizin steht vor der Herausforderung, zuverlässige und kontextbezogene Informationen bereitzustellen. Wissenschaftler haben festgestellt, dass große Sprachmodelle wie ChatGPT anfällig für sogenannte ‘adversarial hallucination attacks’ sind, bei denen falsche klinische Details generiert werden können. Dies unterstreicht die Notwendigkeit von Sicherheitsmaßnahmen und die Bedeutung der menschlichen Expertise in der medizinischen Entscheidungsfindung.

Der Fall des Mannes verdeutlicht die potenziellen Gefahren der KI-Nutzung im Gesundheitsbereich und die Notwendigkeit, die Grenzen dieser Technologie zu erkennen. Während KI ein mächtiges Werkzeug sein kann, bleibt die menschliche Expertise unverzichtbar, insbesondere wenn es um die Gesundheit geht.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!