SAN FRANCISCO / LONDON (IT BOLTWISE) – OpenAI-Forscher haben einen entscheidenden Grund für die Halluzinationen von großen Sprachmodellen identifiziert. Diese Halluzinationen treten auf, wenn Modelle falsche Informationen als Fakten präsentieren. Die Forscher schlagen vor, die Bewertungsmetriken zu überarbeiten, um das Raten zu verhindern.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
OpenAI-Forscher haben einen bedeutenden Fortschritt bei der Untersuchung von Halluzinationen in großen Sprachmodellen erzielt. Diese Halluzinationen treten auf, wenn Modelle mit großer Sicherheit falsche Informationen als Fakten präsentieren. Ein kürzlich veröffentlichter Bericht legt nahe, dass die Trainingsmethoden, die diese Modelle verwenden, das Raten belohnen, anstatt Unsicherheit zuzugeben. Dies führt dazu, dass Modelle eher dazu neigen, Informationen zu erfinden, anstatt Unsicherheiten zu kommunizieren.
Die Forscher von OpenAI argumentieren, dass die aktuellen Bewertungsmetriken, die bei der Entwicklung von Sprachmodellen verwendet werden, überarbeitet werden müssen. Derzeit sind diese Modelle darauf optimiert, gute Testergebnisse zu erzielen, was oft bedeutet, dass sie raten, wenn sie unsicher sind. Dies steht im Gegensatz zu menschlichem Lernen, bei dem das Ausdrücken von Unsicherheit als wertvoll angesehen wird. Die Forscher schlagen vor, die Bewertungsmetriken so zu gestalten, dass sie das Raten nicht belohnen, sondern das Eingeständnis von Unsicherheit fördern.
Ein weiterer Aspekt, den die Forscher hervorheben, ist die Art und Weise, wie Sprachmodelle in einer binären Denkweise operieren. Sie neigen dazu, die Welt in Schwarz und Weiß zu sehen, was in der Realität oft nicht der Fall ist. In der Praxis ist Unsicherheit häufiger als Gewissheit, und die Fähigkeit, mit Unsicherheit umzugehen, ist entscheidend für die Genauigkeit und Zuverlässigkeit von Modellen.
OpenAI hat auch darauf hingewiesen, dass einige Modelle, wie die Claude-Modelle von Anthropic, besser darin sind, ihre Unsicherheit zu erkennen und daher seltener falsche Aussagen machen. Allerdings besteht bei diesen Modellen das Risiko, dass ihre hohe Ablehnungsrate ihre Nützlichkeit einschränkt. Die Forscher betonen, dass eine Anpassung der Bewertungsmetriken notwendig ist, um die Modelle zu verbessern und die Häufigkeit von Halluzinationen zu reduzieren.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
Software Architect AI (all genders)
Lehrer IT-Programmierung (m/w/d) für Algorithmen, Webprogrammierung und KI
Werkstudentin (m/w/d) im AI-Powered Grid Analysis Product
IT Application Specialist (m/w/d) – ERP & KI-gestützte Prozessintegration
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OpenAI Forscher enthüllen Gründe für KI-Halluzinationen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OpenAI Forscher enthüllen Gründe für KI-Halluzinationen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OpenAI Forscher enthüllen Gründe für KI-Halluzinationen« bei Google Deutschland suchen, bei Bing oder Google News!