Künstliche Intelligenz: Risiken bei der Zusammenfassung wissenschaftlicher Studien

LONDON (IT BOLTWISE) – Die zunehmende Nutzung von großen Sprachmodellen (LLMs) wie ChatGPT und Llama in der Wissenschaft birgt Risiken, die nicht unterschätzt werden sollten.

Die Entwicklung von großen Sprachmodellen (LLMs) wie ChatGPT, Llama und DeepSeek hat in den letzten Jahren erheblich an Fahrt aufgenommen. Diese Modelle sind in der Lage, komplexe wissenschaftliche Studien in einfache Zusammenfassungen zu verwandeln. Doch eine aktuelle Studie zeigt, dass diese Vereinfachungen oft zu Überverallgemeinerungen führen, die die ursprünglichen Forschungsergebnisse verfälschen können.

Forscher fanden heraus, dass neuere Versionen dieser Modelle fünfmal häufiger als menschliche Experten dazu neigen, wissenschaftliche Erkenntnisse zu stark zu vereinfachen. Besonders problematisch ist, dass diese Modelle bei Aufforderung zur Genauigkeit doppelt so häufig übergeneralisieren, als wenn sie lediglich um eine einfache Zusammenfassung gebeten werden.

Ein Beispiel aus der Studie zeigt, wie DeepSeek eine medizinische Empfehlung verfälschte, indem es den Ausdruck „war sicher und konnte erfolgreich durchgeführt werden“ in „ist eine sichere und effektive Behandlungsoption“ umwandelte. Solche Änderungen können in der medizinischen Praxis zu gefährlichen Fehlinformationen führen.

Die Forscher untersuchten zehn der beliebtesten LLMs, darunter verschiedene Versionen von ChatGPT, Claude, Llama und DeepSeek. Sie wollten herausfinden, ob diese Modelle bei der Zusammenfassung von menschlichen Zusammenfassungen wissenschaftlicher Artikel übergeneralisieren und ob eine Aufforderung zur Genauigkeit die Ergebnisse verbessern würde. Die Ergebnisse zeigten, dass LLMs, mit Ausnahme von Claude, bei Aufforderung zur Genauigkeit doppelt so häufig zu übergeneralisierten Ergebnissen führten.

Diese Überverallgemeinerungen sind besonders in der Medizin problematisch, wo sie zu unsicheren Behandlungsoptionen führen können. Experten betonen die Notwendigkeit, dass Entwickler Schutzmaßnahmen in die Arbeitsabläufe integrieren, um solche Vereinfachungen und Auslassungen kritischer Informationen zu identifizieren, bevor sie an die Öffentlichkeit oder Fachgruppen weitergegeben werden.

Die Studie zeigt auch, dass LLMs dazu neigen, quantifizierte Daten in generische Informationen umzuwandeln, was die häufigste Form der Überverallgemeinerung darstellt. Dies kann zu Verzerrungen führen, die in der Schnittstelle von KI und Gesundheitswesen besonders gefährlich sind.

Max Rollwage, Vizepräsident für KI und Forschung bei Limbic, betont, dass solche Verzerrungen in subtilen Formen auftreten können, wie der stillen Ausweitung des Umfangs einer Behauptung. In Bereichen wie der Medizin, wo LLM-Zusammenfassungen bereits ein routinemäßiger Bestandteil der Arbeitsabläufe sind, ist es umso wichtiger, die Leistung dieser Systeme zu überprüfen und sicherzustellen, dass ihre Ausgaben die ursprünglichen Beweise getreu wiedergeben.

Die Forscher weisen darauf hin, dass zukünftige Studien von einer Ausweitung der Tests auf andere wissenschaftliche Aufgaben und nicht-englische Texte profitieren würden. Auch eine tiefere Analyse der Prompt-Engineering-Methoden könnte die Ergebnisse verbessern oder klären.

Uwe Peters, einer der Studienautoren, sieht größere Risiken am Horizont, da unsere Abhängigkeit von Chatbots wächst. Er betont, dass Werkzeuge wie ChatGPT, Claude und DeepSeek zunehmend Teil davon sind, wie Menschen wissenschaftliche Erkenntnisse verstehen. Dies birgt das Risiko einer großflächigen Fehlinterpretation von Wissenschaft in einer Zeit, in der das öffentliche Vertrauen und die wissenschaftliche Bildung bereits unter Druck stehen.

Bestseller Nr. 1

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3

PLAUD Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4

KI-Sprachrekorder, PLAUD NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

79,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!