KI-Modelle: Kürze führt zu mehr Halluzinationen

PARIS / MÜNCHEN (IT BOLTWISE) – Eine neue Studie zeigt, dass die Aufforderung an KI-Modelle, kurze Antworten zu geben, deren Neigung zu Halluzinationen erhöhen kann.

In der Welt der Künstlichen Intelligenz (KI) ist die Präzision der Antworten von entscheidender Bedeutung. Eine aktuelle Untersuchung von Giskard, einem in Paris ansässigen Unternehmen für KI-Tests, hat jedoch ergeben, dass die Aufforderung an KI-Modelle, sich kurz zu fassen, deren Tendenz zu Halluzinationen verstärken kann. Diese Halluzinationen, bei denen Modelle falsche Informationen generieren, sind ein bekanntes Problem in der KI-Entwicklung. Die Studie von Giskard zeigt, dass insbesondere bei vagen oder missverständlichen Fragen, die um kurze Antworten bitten, die Genauigkeit der Modelle leidet. Die Forscher betonen, dass einfache Änderungen in den Systemanweisungen, wie die Aufforderung zur Kürze, die Neigung eines Modells zu Halluzinationen erheblich beeinflussen können. Dies hat weitreichende Implikationen für den Einsatz von KI in der Praxis, da viele Anwendungen auf kurze Ausgaben setzen, um Datenverbrauch zu reduzieren und Kosten zu minimieren. Interessanterweise neigen neuere Modelle wie OpenAIs GPT-4o, die fortschrittliche Argumentationsfähigkeiten besitzen, sogar noch mehr zu Halluzinationen als ihre Vorgänger. Giskard identifizierte spezifische Aufforderungen, die Halluzinationen verschlimmern können, wie etwa unklare Fragen, die kurze Antworten verlangen. Modelle wie GPT-4o, Mistral Large und Claude 3.7 Sonnet von Anthropic zeigen bei solchen Anfragen eine geringere faktische Genauigkeit. Der Grund dafür könnte laut Giskard darin liegen, dass Modelle bei kurzen Antworten nicht genügend Raum haben, um falsche Prämissen zu erkennen und zu korrigieren. Eine ausführliche Widerlegung erfordert längere Erklärungen. Die Forscher warnen, dass scheinbar harmlose Systemaufforderungen wie ‘sei prägnant’ die Fähigkeit eines Modells, Fehlinformationen zu widerlegen, sabotieren können. Darüber hinaus zeigt die Studie, dass Modelle weniger geneigt sind, kontroverse Behauptungen zu widerlegen, wenn diese von Nutzern selbstbewusst präsentiert werden. Auch bevorzugen Nutzer oft Modelle, die nicht unbedingt die wahrheitsgetreuesten Antworten liefern. Dies stellt Entwickler vor die Herausforderung, ein Gleichgewicht zwischen Nutzererfahrung und faktischer Genauigkeit zu finden. Die Optimierung für die Nutzererfahrung kann manchmal auf Kosten der Genauigkeit gehen, was eine Spannung zwischen der Ausrichtung auf Nutzererwartungen und der Wahrheitsgenauigkeit schafft.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

30,50 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

20,99 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

29,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!