Künstliche Intelligenz: Kein Allheilmittel um Vorhersagen über die Zukunft zu machen

MÜNCHEN (IT BOLTWISE) – Die Kehrseite Künstlicher Intelligenz: Fehlprognosen und ihre Folgen

Künstliche Intelligenz (KI) findet zunehmend Anwendung in der Vorhersage zukünftiger Ereignisse. Banken nutzen sie, um die Rückzahlungswahrscheinlichkeit von Krediten zu prognostizieren, Krankenhäuser setzen sie ein, um zu ermitteln, welche Patienten ein hohes Krankheitsrisiko haben, und Auto-Versicherungen verwenden sie, um Versicherungstarife basierend auf der Unfallwahrscheinlichkeit der Kunden festzulegen.

“Algorithmen wurden oft als Wundermittel dargestellt, die viele gesellschaftliche Probleme lösen können”, erklärt Sayash Kapoor, Forscher und Doktorand am Center for Information Technology Policy der Princeton University. “Daher erscheint es manchmal unwahrscheinlich, dass Algorithmen in der realen Welt so katastrophal versagen können.”

Doch genau das passiert. Probleme wie Datenlecks und Stichprobenverzerrungen können dazu führen, dass KI fehlerhafte Vorhersagen trifft, manchmal mit verheerenden Folgen.

Kapoor verweist auf Fälle mit hohen Einsätzen: Ein Algorithmus beschuldigte fälschlicherweise Zehntausende niederländische Eltern des Betrugs; ein anderer sollte voraussagen, welche Krankenhauspatienten ein hohes Risiko für eine Sepsis haben, löste aber häufig Fehlalarme aus und übersah Fälle.

Nachdem er Zehntausende von Zeilen maschinellen Lerncodes in Fachartikeln durchforstet hatte, stellte er fest, dass solche Beispiele auch in der wissenschaftlichen Forschung weit verbreitet sind.

“Wir haben dies in Hunderten von Artikeln und quer durch verschiedene Forschungsfelder gesehen”, sagt er. “Oft reicht maschinelles Lernen aus, um einen Artikel zu veröffentlichen, aber dieser führt nicht oft zu realen Fortschritten in wissenschaftlichen Bereichen.”

Hinweis: Teile dieses Textes könnten mithilfe einer Künstlichen Intelligenz generiert worden sein.