PARIS / MÜNCHEN (IT BOLTWISE) – Eine neue Studie zeigt, dass die Aufforderung an KI-Modelle, kurze Antworten zu geben, deren Neigung zu Halluzinationen erhöhen kann.
In der Welt der Künstlichen Intelligenz (KI) ist die Präzision der Antworten von entscheidender Bedeutung. Eine aktuelle Untersuchung von Giskard, einem in Paris ansässigen Unternehmen für KI-Tests, hat jedoch ergeben, dass die Aufforderung an KI-Modelle, sich kurz zu fassen, deren Tendenz zu Halluzinationen verstärken kann. Diese Halluzinationen, bei denen Modelle falsche Informationen generieren, sind ein bekanntes Problem in der KI-Entwicklung. Die Studie von Giskard zeigt, dass insbesondere bei vagen oder missverständlichen Fragen, die um kurze Antworten bitten, die Genauigkeit der Modelle leidet. Die Forscher betonen, dass einfache Änderungen in den Systemanweisungen, wie die Aufforderung zur Kürze, die Neigung eines Modells zu Halluzinationen erheblich beeinflussen können. Dies hat weitreichende Implikationen für den Einsatz von KI in der Praxis, da viele Anwendungen auf kurze Ausgaben setzen, um Datenverbrauch zu reduzieren und Kosten zu minimieren. Interessanterweise neigen neuere Modelle wie OpenAIs GPT-4o, die fortschrittliche Argumentationsfähigkeiten besitzen, sogar noch mehr zu Halluzinationen als ihre Vorgänger. Giskard identifizierte spezifische Aufforderungen, die Halluzinationen verschlimmern können, wie etwa unklare Fragen, die kurze Antworten verlangen. Modelle wie GPT-4o, Mistral Large und Claude 3.7 Sonnet von Anthropic zeigen bei solchen Anfragen eine geringere faktische Genauigkeit. Der Grund dafür könnte laut Giskard darin liegen, dass Modelle bei kurzen Antworten nicht genügend Raum haben, um falsche Prämissen zu erkennen und zu korrigieren. Eine ausführliche Widerlegung erfordert längere Erklärungen. Die Forscher warnen, dass scheinbar harmlose Systemaufforderungen wie ‘sei prägnant’ die Fähigkeit eines Modells, Fehlinformationen zu widerlegen, sabotieren können. Darüber hinaus zeigt die Studie, dass Modelle weniger geneigt sind, kontroverse Behauptungen zu widerlegen, wenn diese von Nutzern selbstbewusst präsentiert werden. Auch bevorzugen Nutzer oft Modelle, die nicht unbedingt die wahrheitsgetreuesten Antworten liefern. Dies stellt Entwickler vor die Herausforderung, ein Gleichgewicht zwischen Nutzererfahrung und faktischer Genauigkeit zu finden. Die Optimierung für die Nutzererfahrung kann manchmal auf Kosten der Genauigkeit gehen, was eine Spannung zwischen der Ausrichtung auf Nutzererwartungen und der Wahrheitsgenauigkeit schafft.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- Service Directory für AI Adult Services erkunden!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
Duales Studium BWL - Spezialisierung Artificial Intelligence (B.A.) am Campus oder virtuell
Abschlussarbeit (Bachelor / Master) im Bereich Produktionsmanagement: Einsatz von Künstlicher Intelligenz
Duales Studium BWL - Spezialisierung Artificial Intelligence (B.A.) am Campus oder virtuell
Senior Software-Entwickler*in (Schwerpunkt KI & Testautomatisierung) (m/w/d)
- Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
- Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
- Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
- Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Modelle: Kürze führt zu mehr Halluzinationen" für unsere Leser?
#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Modelle: Kürze führt zu mehr Halluzinationen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Modelle: Kürze führt zu mehr Halluzinationen« bei Google Deutschland suchen, bei Bing oder Google News!