Kausales Denken als Schlüssel für zuverlässige KI-Entscheidungen

MÜNCHEN / LONDON (IT BOLTWISE) – In einer Welt, in der Künstliche Intelligenz zunehmend in sicherheitsrelevanten Bereichen wie Medizin, Verkehr und Personalwesen eingesetzt wird, betonen Experten die Notwendigkeit eines kausalen Denkens. Christoph Kern, Juniorprofessor an der LMU München, und seine Kollegen haben in einer aktuellen Publikation in Nature Computational Science die Bedeutung von Kontext und Kausalität für zuverlässige KI-Entscheidungen hervorgehoben.

Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat dazu geführt, dass sie in vielen sicherheitsrelevanten Bereichen wie Medizin, Verkehr und Personalwesen eingesetzt wird. Christoph Kern, Juniorprofessor für Social Data Science und Statistical Learning an der LMU München, warnt jedoch vor den Risiken, die mit der Nutzung von KI in diesen Bereichen verbunden sind. In einer kürzlich veröffentlichten Studie in Nature Computational Science betont er die Notwendigkeit, dass KI-Systeme nicht nur leistungsfähig, sondern auch kontext- und kausalitätsbewusst sein müssen.

Ein zentrales Anliegen von Kern und seinen Kollegen ist die Gefahr, dass technische Entwicklungen und konzeptionelles Verständnis auseinanderdriften. Viele KI-Systeme werden ohne ein tiefes Verständnis der kausalen Zusammenhänge entwickelt, was zu Fehlentscheidungen führen kann. Ein Beispiel hierfür ist die Unterstützung von Arbeitsagenturen bei der Entscheidung, welche Arbeitssuchenden besonders gefördert werden sollten. Ein einfaches Risikomodell könnte zwar vorhersagen, wer von Langzeitarbeitslosigkeit bedroht ist, doch ohne Berücksichtigung kausaler Faktoren besteht die Gefahr unfairer Entscheidungen.

Die Komplexität der Datenlage, die Informationen zu Lebensläufen, Berufserfahrung und Fördermaßnahmen umfasst, erfordert eine sorgfältige Modellierung. Werden wichtige Einflussfaktoren übersehen, können fatale Folgen entstehen: Personen, die Unterstützung benötigen, könnten übersehen werden, während andere, die weniger Bedarf haben, gefördert werden. Dies zeigt, wie entscheidend es ist, sogenannte Confounder zu identifizieren, die sowohl die Entscheidung als auch das Ergebnis beeinflussen.

In der Medizin, so Kern, sind Faktoren wie Alter, Geschlecht, Vorerkrankungen und Lebensstil entscheidend für die Behandlung und deren Erfolg. Ähnlich verhält es sich im Bereich der Smart Cities, wo adaptive Ampelsysteme und dynamische Parkpreisgestaltungen den Verkehrsfluss und die Emissionen beeinflussen. Auch hier ist ein kausales Verständnis notwendig, um die gewünschten Effekte zu erzielen.

Ein weiterer wichtiger Aspekt ist die Unsicherheit in den Vorhersagen von KI-Modellen. Laut Kern sollten diese Systeme nicht nur Entscheidungen vorschlagen, sondern auch ihre Unsicherheit offenlegen. Dies könnte dazu führen, dass Menschen genauer hinschauen und die Entscheidungen besser nachvollziehen können. Unsicherheit sollte nicht als Schwäche, sondern als notwendige Information betrachtet werden.

Für die Entwicklung solcher KI-Systeme fordert Kern mehr interdisziplinäres Denken. Neben Statistik und Informatik ist das Wissen aus der jeweiligen Fachdomäne unerlässlich. Mediziner, Verkehrsplaner und Sozialarbeiter bringen wertvolle Praxiserfahrungen ein, die für die realistische Modellierung entscheidend sind. Auch die Sozialwissenschaften spielen eine wichtige Rolle, insbesondere wenn es um den gesellschaftlichen Einsatz algorithmischer Systeme geht.

Abschließend plädiert Kern dafür, dass algorithmische Entscheidungssysteme immer im Zusammenhang mit ihrer gesellschaftlichen Wirkung betrachtet werden. Es reicht nicht, dass ein Modell eine hohe Vorhersagegüte hat. Entscheidend ist, ob es kausale Schlüsse erlaubt, die in der Realität tragfähig sind. Dies erfordert ein klares Verständnis der Fragestellung, eine gute Datenlage, Transparenz über Annahmen und einen offenen Umgang mit Unsicherheit.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!