Warum KI-Modelle zunehmend halluzinieren und wie man dem entgegenwirken kann

LONDON (IT BOLTWISE) – Die fortschreitende Entwicklung der Künstlichen Intelligenz (KI) bringt nicht nur Verbesserungen, sondern auch neue Herausforderungen mit sich. Eine der größten Sorgen ist das Phänomen der sogenannten ‘Halluzinationen’, bei denen KI-Modelle falsche oder ungenaue Informationen generieren.

Mit der zunehmenden Komplexität und Leistungsfähigkeit von KI-Systemen steigt auch die Häufigkeit, mit der sie sogenannte ‘Halluzinationen’ erzeugen. Diese Halluzinationen sind fehlerhafte oder erfundene Informationen, die von den Modellen generiert werden. Eine Studie von OpenAI zeigt, dass die neuesten Modelle, o3 und o4-mini, in Tests bis zu 48% der Zeit halluzinieren, was eine deutliche Steigerung im Vergleich zu älteren Modellen darstellt.

Diese Entwicklung wirft Fragen zur Zuverlässigkeit und Genauigkeit von großen Sprachmodellen (LLMs) auf, die in vielen Bereichen, von Chatbots bis hin zu komplexen Entscheidungsprozessen, eingesetzt werden. Eleanor Watson, Mitglied des Institute of Electrical and Electronics Engineers (IEEE) und KI-Ethik-Ingenieurin an der Singularity University, betont die Risiken, die mit der Verbreitung von fehlerhaften Informationen verbunden sind.

Ein zentraler Aspekt der Problematik ist, dass KI-Modelle Informationen mit derselben Überzeugung präsentieren, unabhängig davon, ob diese korrekt oder erfunden sind. Dies kann zu erheblichen Missverständnissen führen, insbesondere in Bereichen, die auf präzise Informationen angewiesen sind, wie Medizin, Recht oder Finanzen. Watson hebt hervor, dass die fortschreitende Modellentwicklung zwar die Häufigkeit offensichtlicher Fehler reduzieren kann, jedoch subtilere Fehler schwerer zu erkennen sind.

Ein weiterer Faktor, der die Halluzinationen fördert, ist die Art und Weise, wie KI-Modelle Informationen verarbeiten. Anstatt nur auf statistische Wahrscheinlichkeiten zu setzen, entwickeln sie Strategien zur Problemlösung, ähnlich wie Menschen. Dies erfordert eine gewisse ‘Kreativität’, die jedoch auch zu fehlerhaften Ergebnissen führen kann. Sohrob Kazerounian, ein KI-Forscher bei Vectra AI, erklärt, dass Halluzinationen ein inhärentes Merkmal von KI sind und nicht einfach als Fehler betrachtet werden sollten.

Um die Zuverlässigkeit von KI-Ausgaben zu verbessern, schlagen Experten verschiedene Ansätze vor. Eine Möglichkeit ist die ‘retrieval-augmented generation’, bei der die Ausgaben der Modelle auf überprüfbaren externen Wissensquellen basieren. Eine andere Strategie besteht darin, die Modelle dazu zu bringen, ihre eigenen Ausgaben zu überprüfen und Unsicherheiten zu kennzeichnen, anstatt immer selbstbewusste Antworten zu geben.

Obwohl es schwierig sein könnte, Halluzinationen vollständig zu eliminieren, bieten diese Ansätze einen praktischen Weg, um die Zuverlässigkeit von KI-Ausgaben zu erhöhen. Letztendlich müssen die Informationen, die von LLMs generiert werden, mit derselben Skepsis behandelt werden, die wir auch bei menschlichen Quellen anwenden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!