Gefahr durch KI-generierte Studien: Wissenschaft unter Druck

MÜNCHEN (IT BOLTWISE) – Die Wissenschaft steht vor einer neuen Herausforderung: Eine Flut von KI-generierten Studien droht, die Qualität wissenschaftlicher Erkenntnisse zu untergraben. Ein Bericht der Universität Surrey warnt vor den Auswirkungen dieser Entwicklung auf die wissenschaftliche Integrität.

Die Universität Surrey hat in einem kürzlich veröffentlichten Bericht auf die wachsende Bedrohung durch KI-generierte Forschungsarbeiten hingewiesen, die die wissenschaftliche Gemeinschaft überfluten. Diese Studien, die oft auf Daten des US-amerikanischen National Health and Nutrition Examination Survey (NHANES) basieren, zeichnen sich durch oberflächliche Analysen und unzureichende Studiendesigns aus. Die Forscher betonen, dass diese Arbeiten häufig nur einen einzigen Faktor betrachten und dabei komplexe, multifaktorielle Zusammenhänge ignorieren.

Matt Spick, Dozent für Gesundheits- und biomedizinische Datenanalyse an der Universität Surrey, beschreibt diese Entwicklung als ‘Science-Fiction’, die sich als wissenschaftliche Tatsache tarnt. Die einfache Verfügbarkeit von Datensätzen über APIs und die Nutzung großer Sprachmodelle erschweren es Fachzeitschriften und Gutachtern, bedeutende Forschungsergebnisse von minderwertigen zu unterscheiden.

Der Bericht hebt hervor, dass die Verwendung von KI-bereiten Datensätzen wie NHANES zwar neue Möglichkeiten für datengetriebene Forschung eröffnet, jedoch auch das Risiko der Datenmissbrauchs durch sogenannte ‘Paper Mills’ birgt. Diese Einrichtungen produzieren fragwürdige wissenschaftliche Arbeiten, oft im Auftrag von Kunden, die bestehende Überzeugungen bestätigt sehen wollen.

Eine systematische Literaturrecherche der Universität Surrey ergab, dass die Anzahl der Veröffentlichungen, die sich auf einfache Assoziationen zwischen unabhängigen Variablen und Gesundheitszuständen konzentrieren, in den letzten Jahren stark zugenommen hat. Während zwischen 2014 und 2021 durchschnittlich vier solcher Arbeiten pro Jahr veröffentlicht wurden, stieg die Zahl 2022 auf 33, 2023 auf 82 und in den ersten zehn Monaten 2024 auf 190.

Besonders auffällig ist der Anstieg von Veröffentlichungen mit Hauptautoren aus China. Zwischen 2021 und 2024 stammten 292 von 316 Manuskripten von chinesischen Autoren. Diese Zunahme von Einzelfaktor-Studien erhöht das Risiko, dass irreführende Ergebnisse in die wissenschaftliche Literatur eingeführt werden.

Um dieser Entwicklung entgegenzuwirken, schlägt das Forscherteam vor, dass Herausgeber und Gutachter von Fachzeitschriften Einzelfaktoranalysen bei komplexen, multifaktoriellen Bedingungen als potenziell problematisch betrachten sollten. Zudem sollten Datenanbieter Maßnahmen wie API-Schlüssel und Anwendungsnummern einführen, um Datenfischerei zu verhindern.

Tulsi Suchak, Hauptautorin der Studie, betont, dass es nicht darum gehe, den Zugang zu Daten zu blockieren oder die Nutzung von KI in der Forschung zu verhindern. Vielmehr gehe es darum, gesunden Menschenverstand walten zu lassen, indem offengelegt wird, wie Daten genutzt werden, und sicherzustellen, dass Gutachter mit der richtigen Expertise beteiligt sind.

Das Problem der KI-generierten Inhalte ist nicht neu. Bereits im vergangenen Jahr stellte der US-Verlag Wiley 19 wissenschaftliche Zeitschriften ein, die Berichte von KI-Papierfabriken veröffentlichten. Diese Entwicklung ist Teil eines größeren Problems von KI-generierten Inhalten, die online und in Websuchen erscheinen und schwer von der Realität zu unterscheiden sind.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!