Fehlerhafte KI-Diagnosen: Risiken und Chancen im Gesundheitswesen

LONDON (IT BOLTWISE) – Die Einführung von Künstlicher Intelligenz im Gesundheitswesen birgt sowohl Chancen als auch Risiken. Ein aktueller Fall aus London verdeutlicht die potenziellen Gefahren, die mit der Nutzung von KI in der Patientenversorgung verbunden sind.

Die Integration von Künstlicher Intelligenz (KI) in das Gesundheitswesen verspricht erhebliche Effizienzsteigerungen und Kosteneinsparungen. Doch die jüngsten Ereignisse in London zeigen, dass die Technologie auch Risiken birgt. Ein Patient erhielt eine Einladung zu einer diabetischen Augenscreening-Untersuchung, obwohl er nie mit Diabetes diagnostiziert wurde. Diese fehlerhafte Diagnose wurde durch ein KI-Tool generiert, das falsche Informationen in seine Krankenakte eintrug.

Der betroffene Patient, ein gesunder Mann in seinen Zwanzigern, bemerkte den Fehler, als er die Einladung erhielt. Bei einem routinemäßigen Bluttest am nächsten Tag stellte sich heraus, dass die KI-generierten Notizen in seiner Akte völlig unzutreffend waren. Die KI hatte nicht nur Diabetes diagnostiziert, sondern auch fiktive Symptome wie Brustschmerzen und Atemnot hinzugefügt, die auf eine koronare Herzkrankheit hindeuteten.

Die fehlerhafte Eintragung wurde von einem KI-System namens Annie AI erstellt, das von Anima Health entwickelt wurde. Diese Technologie ist als Klasse-I-Medizinprodukt registriert, was bedeutet, dass sie als risikoarm eingestuft wird und dazu dient, medizinisches Personal bei der Dokumentenverwaltung zu unterstützen. Dennoch zeigt der Vorfall, dass menschliche Aufsicht unerlässlich ist, um solche Fehler zu vermeiden.

Die britische Gesundheitsbehörde NHS betont, dass alle von der KI generierten Dokumente von einem Menschen überprüft werden müssen, bevor sie in die Patientenakte aufgenommen werden. Der Vorfall in London verdeutlicht jedoch, dass diese Überprüfungen nicht immer ausreichend sind, um Fehler zu verhindern. Ein NHS-Mitarbeiter äußerte Bedenken, dass solche Fehler insbesondere bei älteren oder weniger gebildeten Patienten unbemerkt bleiben könnten.

Die Einführung von KI im Gesundheitswesen steht unter zunehmender Beobachtung. Die britische Regierung hat in ihrem 10-Jahres-Plan angekündigt, das NHS zum weltweit führenden KI-gestützten Gesundheitssystem zu machen. Doch die Integration dieser Technologie in die Praxis erfordert strenge Kontrollen und eine sorgfältige Abwägung der Risiken und Vorteile.

Experten warnen, dass die Verwendung von KI in der Patientenversorgung mit Bedacht erfolgen muss. Der Vorfall in London sollte nicht als Argument gegen den Einsatz von KI dienen, sondern als Mahnung, die notwendigen Sicherheitsvorkehrungen zu treffen. Die Technologie hat das Potenzial, das Gesundheitswesen zu revolutionieren, doch der Schutz der Patientendaten und die Vermeidung von Fehldiagnosen müssen oberste Priorität haben.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!