KI erkennt rassische Kategorien aus Herzscans: Chancen und Risiken

MÜNCHEN (IT BOLTWISE) – Die Fähigkeit von Künstlicher Intelligenz, rassische Kategorien aus Herzscans zu erkennen, wirft neue Fragen zur Objektivität und den ethischen Implikationen von KI in der Medizin auf.

Die jüngsten Fortschritte in der Künstlichen Intelligenz haben zu einer bemerkenswerten Entdeckung geführt: Ein KI-Modell kann mit einer Genauigkeit von bis zu 96 % vorhersagen, ob eine Person als Schwarz oder Weiß identifiziert wird, basierend auf Herzscans. Diese Fähigkeit wirft nicht nur Fragen zur Objektivität der KI auf, sondern auch zu den zugrunde liegenden Vorurteilen, die in den Daten enthalten sind, auf denen diese Systeme trainiert werden.

Es ist wichtig zu betonen, dass Rasse keine biologische Kategorie ist. Moderne Genetik zeigt, dass es innerhalb vermeintlicher Rassengruppen mehr Variation gibt als zwischen ihnen. Rasse ist vielmehr ein soziales Konstrukt, das von Gesellschaften erfunden wurde, um Menschen basierend auf wahrgenommenen physischen Merkmalen und Abstammung zu klassifizieren. Diese Klassifikationen beeinflussen jedoch das tägliche Leben und den Zugang zu medizinischer Versorgung erheblich.

In der medizinischen Praxis werden KI-Systeme zunehmend eingesetzt, um Effizienz zu steigern und Kosten zu senken. Sie analysieren Röntgenbilder, lesen Herzscans und identifizieren potenzielle Probleme schneller als menschliche Ärzte. Doch trotz ihrer Effizienz sind diese Systeme nicht neutral. Sie werden mit realen Daten trainiert, die reale Ungleichheiten widerspiegeln, einschließlich solcher, die auf Rasse, Geschlecht, Alter und sozioökonomischem Status basieren.

Ein Hauptproblem ist das unausgewogene Training der Daten. Wenn ein Modell hauptsächlich von Patienten mit heller Haut lernt, kann es Schwierigkeiten haben, Bedingungen bei Menschen mit dunklerer Haut zu erkennen. Studien in der Dermatologie haben dieses Problem bereits aufgezeigt. Auch Sprachmodelle wie ChatGPT sind nicht immun: Eine Studie fand heraus, dass einige Modelle veraltete und falsche medizinische Überzeugungen reproduzieren.

Ein weiteres Problem ist das sogenannte Shortcut-Learning, bei dem Modelle scheinbar genaue Vorhersagen treffen, aber aus den falschen Gründen. Statt die komplexen Merkmale einer Krankheit zu lernen, verlassen sie sich auf irrelevante, aber leichter erkennbare Hinweise in den Daten. Dies kann dazu führen, dass ein Modell Rasse identifiziert, anstatt die Krankheit, was gefährliche Konsequenzen haben kann.

In der Herzscan-Studie konzentrierte sich das KI-Modell nicht auf das Herz selbst, sondern auf Bereiche außerhalb des Herzens, wie subkutanes Fett und Bildartefakte. Diese Artefakte stammen oft vom Scanner und können beeinflussen, wie die KI den Scan interpretiert. Dies zeigt, dass die KI möglicherweise indirekte rassische Signale aufnimmt, anstatt relevante Informationen über das Herz selbst.

Um diese Herausforderungen zu bewältigen, gibt es mehrere Lösungsansätze. Eine Diversifizierung der Trainingsdaten kann die Leistung der KI über verschiedene Gruppen hinweg verbessern, ohne die Genauigkeit für andere zu beeinträchtigen. Transparenz ist ebenfalls entscheidend: Erklärbare KI, die zeigt, welche Teile eines Bildes die Entscheidung der KI beeinflussen, kann helfen, unangemessene Abkürzungen zu erkennen.

Die sorgfältige Behandlung von Rasse in Daten ist unerlässlich. Entwickler müssen erkennen, dass Rasse ein soziales Signal ist und kein biologischer Fakt. Wenn KI-Systeme unsere Abkürzungen lernen, könnten sie unsere Fehler wiederholen – schneller, im großen Maßstab und mit weniger Verantwortung. Und wenn Leben auf dem Spiel stehen, ist das ein Risiko, das wir uns nicht leisten können.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!