Fehlerhafte KI-Diagnosen: Risiken und Chancen im Gesundheitswesen

LONDON (IT BOLTWISE) – Die Einführung von Künstlicher Intelligenz im Gesundheitswesen birgt sowohl Chancen als auch Risiken. Ein aktueller Fall aus London verdeutlicht die potenziellen Gefahren, die mit der Nutzung von KI in der Patientenversorgung verbunden sind.

Die Integration von Künstlicher Intelligenz (KI) in das Gesundheitswesen verspricht erhebliche Effizienzsteigerungen und Kosteneinsparungen. Doch die jüngsten Ereignisse in London zeigen, dass die Technologie auch Risiken birgt. Ein Patient erhielt eine Einladung zu einer diabetischen Augenscreening-Untersuchung, obwohl er nie mit Diabetes diagnostiziert wurde. Diese fehlerhafte Diagnose wurde durch ein KI-Tool generiert, das falsche Informationen in seine Krankenakte eintrug.

Der betroffene Patient, ein gesunder Mann in seinen Zwanzigern, bemerkte den Fehler, als er die Einladung erhielt. Bei einem routinemäßigen Bluttest am nächsten Tag stellte sich heraus, dass die KI-generierten Notizen in seiner Akte völlig unzutreffend waren. Die KI hatte nicht nur Diabetes diagnostiziert, sondern auch fiktive Symptome wie Brustschmerzen und Atemnot hinzugefügt, die auf eine koronare Herzkrankheit hindeuteten.

Die fehlerhafte Eintragung wurde von einem KI-System namens Annie AI erstellt, das von Anima Health entwickelt wurde. Diese Technologie ist als Klasse-I-Medizinprodukt registriert, was bedeutet, dass sie als risikoarm eingestuft wird und dazu dient, medizinisches Personal bei der Dokumentenverwaltung zu unterstützen. Dennoch zeigt der Vorfall, dass menschliche Aufsicht unerlässlich ist, um solche Fehler zu vermeiden.

Die britische Gesundheitsbehörde NHS betont, dass alle von der KI generierten Dokumente von einem Menschen überprüft werden müssen, bevor sie in die Patientenakte aufgenommen werden. Der Vorfall in London verdeutlicht jedoch, dass diese Überprüfungen nicht immer ausreichend sind, um Fehler zu verhindern. Ein NHS-Mitarbeiter äußerte Bedenken, dass solche Fehler insbesondere bei älteren oder weniger gebildeten Patienten unbemerkt bleiben könnten.

Die Einführung von KI im Gesundheitswesen steht unter zunehmender Beobachtung. Die britische Regierung hat in ihrem 10-Jahres-Plan angekündigt, das NHS zum weltweit führenden KI-gestützten Gesundheitssystem zu machen. Doch die Integration dieser Technologie in die Praxis erfordert strenge Kontrollen und eine sorgfältige Abwägung der Risiken und Vorteile.

Experten warnen, dass die Verwendung von KI in der Patientenversorgung mit Bedacht erfolgen muss. Der Vorfall in London sollte nicht als Argument gegen den Einsatz von KI dienen, sondern als Mahnung, die notwendigen Sicherheitsvorkehrungen zu treffen. Die Technologie hat das Potenzial, das Gesundheitswesen zu revolutionieren, doch der Schutz der Patientendaten und die Vermeidung von Fehldiagnosen müssen oberste Priorität haben.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,90 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

75,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!