Herausforderungen bei der Nutzung von KI-Chatbots für Gesundheitsberatung

OXFORD / MÜNCHEN (IT BOLTWISE) – In einer Zeit, in der die Gesundheitsversorgung zunehmend unter Druck steht, wenden sich viele Menschen an KI-gestützte Chatbots, um medizinische Ratschläge einzuholen. Eine aktuelle Studie der Universität Oxford zeigt jedoch, dass diese Technologie nicht immer die erhofften Ergebnisse liefert.

Die Nutzung von KI-Chatbots zur Selbstdiagnose im Gesundheitsbereich nimmt zu, insbesondere in den USA, wo etwa jeder sechste Erwachsene monatlich auf solche Dienste zurückgreift. Diese Entwicklung ist vor dem Hintergrund überlasteter Gesundheitssysteme und steigender Kosten verständlich. Doch eine Studie der Universität Oxford legt nahe, dass die Interaktion mit diesen Chatbots nicht immer zu besseren Entscheidungen führt als traditionelle Methoden wie Online-Recherchen oder die eigene Einschätzung. Die Forscher stellten fest, dass es oft zu einem Kommunikationsproblem kommt: Die Nutzer wissen nicht, welche Informationen sie den Chatbots geben müssen, um präzise Empfehlungen zu erhalten. In der Studie wurden rund 1.300 Teilnehmer in Großbritannien mit medizinischen Szenarien konfrontiert, die von Ärzten erstellt wurden. Die Teilnehmer sollten mögliche Gesundheitszustände identifizieren und sowohl Chatbots als auch ihre eigenen Methoden nutzen, um geeignete Maßnahmen zu bestimmen. Dabei kamen verschiedene KI-Modelle zum Einsatz, darunter das GPT-4o von OpenAI, Cohere’s Command R+ und Meta’s Llama 3. Die Ergebnisse zeigten, dass die Chatbots die Teilnehmer nicht nur weniger wahrscheinlich dazu brachten, relevante Gesundheitszustände zu erkennen, sondern auch dazu führten, die Schwere der erkannten Zustände zu unterschätzen. Adam Mahdi, Mitautor der Studie, betonte, dass die Antworten der Chatbots oft schwer zu interpretieren waren und sowohl gute als auch schlechte Empfehlungen enthielten. Diese Ergebnisse werfen Fragen zur Eignung von KI-Chatbots in der Gesundheitsberatung auf, insbesondere da große Technologieunternehmen wie Apple, Amazon und Microsoft zunehmend auf KI setzen, um Gesundheitsdienstleistungen zu verbessern. Trotz der Fortschritte in der KI-Technologie bleibt die Skepsis groß, ob diese Systeme für risikoreiche Anwendungen im Gesundheitsbereich bereit sind. Die American Medical Association rät Ärzten davon ab, Chatbots wie ChatGPT für klinische Entscheidungen zu nutzen, und auch große KI-Unternehmen warnen davor, Diagnosen auf Basis der Chatbot-Antworten zu stellen. Mahdi empfiehlt, sich auf vertrauenswürdige Informationsquellen zu verlassen und betont, dass KI-Systeme, ähnlich wie neue Medikamente, in der realen Welt getestet werden sollten, bevor sie breit eingesetzt werden.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

30,50 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

17,84 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

29,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!