Ethische Herausforderungen der KI in der Medizin

MÜNCHEN (IT BOLTWISE) – Die Integration von Künstlicher Intelligenz in die medizinische Versorgung birgt sowohl Chancen als auch Herausforderungen. Während KI-Systeme die Effizienz in der Forschung und Patientenversorgung steigern können, stehen sie gleichzeitig vor der Aufgabe, ethische Standards zu wahren.

Die Nutzung von Künstlicher Intelligenz (KI) im Gesundheitswesen verspricht erhebliche Fortschritte in der medizinischen Forschung und Versorgung. Doch mit diesen Möglichkeiten gehen auch bedeutende ethische Herausforderungen einher. Die Bundesärztekammer (BÄK) hat Ende 2023 ein Dialogforum ins Leben gerufen, um den Einsatz von KI in der Gesundheitsversorgung umfassend zu diskutieren. Ein zentraler Punkt dieser Diskussion sind die ethischen Aspekte, die bei der Implementierung von KI-Lösungen berücksichtigt werden müssen.

KI kann in der ärztlichen Versorgung für Entlastung sorgen und die medizinische Forschung voranbringen, betont Dr. med. (I) Klaus Reinhardt, Präsident der BÄK. Dabei dürfen jedoch die ethischen Dimensionen, wie der Schutz der Privatsphäre, nicht aus dem Blick geraten. Auch der Umgang mit neuen Akteuren der globalen IT-Industrie, die in die Gesundheitsversorgung eintreten, muss geklärt werden. Die Transparenz und Bewertbarkeit der eingesetzten KI-Algorithmen sind entscheidend, um das Vertrauen der Patienten zu gewinnen. Die BÄK setzt sich dafür ein, dass KI-Anwendungen das individuelle Arzt-Patienten-Verhältnis nicht belasten. Die persönliche Zuwendung bleibt unersetzlich, und die menschliche Interaktion soll durch KI nicht ersetzt, sondern unterstützt werden. Der Deutsche Ethikrat hat ebenfalls eine Stellungnahme zur verantwortlichen Nutzung von KI in der Medizin veröffentlicht.

Diese betont, dass die gesamte Handlungskette, von der Entwicklung bis zur Implementierung von KI-Produkten, ethischen Standards genügen muss. Besonders brisant sind KI-Systeme, deren Funktionsweise selbst von den Entwicklern nicht vollständig nachvollzogen werden kann. Solche Systeme dürfen keine medizinischen Entscheidungsvorschläge mit schwerwiegenden Konsequenzen machen, ohne dass ihre Arbeitsweise erklärbar ist. Der Ethikrat fordert einen breiten gesellschaftlichen Diskurs über die Chancen und Risiken intransparenter KI-Systeme. Ein weiteres Risiko besteht darin, dass Ärztinnen und Ärzte durch die Delegation von Aufgaben an KI-Systeme eigene Kompetenzen verlieren könnten.

Der sogenannte Automation Bias, bei dem Menschen Maschinenentscheidungen blind vertrauen, stellt eine Gefahr dar. Die ärztliche Sorgfaltspflicht bleibt jedoch unübertragbar. KI-gestützte Systeme sollten so gestaltet sein, dass eine ärztliche Plausibilitätsprüfung immer erforderlich ist. Professor Dr. Martin Hirsch von der Philipps-Universität Marburg sieht in der KI die Chance, das Menschliche in der Medizin wieder stärker in den Mittelpunkt zu rücken. KI kann Ärztinnen und Ärzten Zeit sparen, die sie für die Patienten nutzen können.

Das Vertrauen zwischen Arzt und Patient, das auf Empathie und Verständnis beruht, kann KI jedoch nicht ersetzen. Ein möglicher Weg, um das Vertrauen in KI-Systeme zu stärken, könnte ein ‘Hippokratischer Eid für KI-Entwickler’ sein, der sicherstellt, dass alle Beteiligten nach bestem Wissen und Gewissen handeln. Die Einführung eines solchen Eides könnte dazu beitragen, dass KI-Produkte den ethischen Standards der Medizin entsprechen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!