Künstliche Intelligenz im Weißen Haus: Wissenschaftliche Ungenauigkeiten im MAHA-Bericht

WASHINGTON / LONDON (IT BOLTWISE) – Der kürzlich veröffentlichte MAHA-Bericht des Weißen Hauses hat für Aufsehen gesorgt, da er auf wissenschaftlichen Zitaten basiert, die möglicherweise mit Hilfe von Künstlicher Intelligenz erstellt wurden. Experten kritisieren die Ungenauigkeiten und erfundenen Studien, die in dem Bericht enthalten sind.

Der MAHA-Bericht des Weißen Hauses, der die Gesundheitsprobleme der amerikanischen Bevölkerung thematisiert, steht derzeit im Zentrum einer Kontroverse. Experten haben festgestellt, dass einige der wissenschaftlichen Zitate im Bericht möglicherweise mit Hilfe von Künstlicher Intelligenz generiert wurden. Dies führte zu zahlreichen fehlerhaften wissenschaftlichen Referenzen und sogar zu erfundenen Studien, was die Glaubwürdigkeit des Berichts erheblich beeinträchtigt.

Von den 522 Fußnoten, die wissenschaftliche Forschung im ursprünglichen Bericht stützen sollten, erscheinen mindestens 37 mehrfach, wie eine Überprüfung durch die Washington Post ergab. Andere Zitate enthalten falsche Autorenangaben, und mehrere Studien, die im umfangreichen Gesundheitsbericht zitiert werden, existieren überhaupt nicht. Diese Entdeckung wurde erstmals von der Online-Nachrichtenplattform NOTUS gemeldet.

Ein auffälliges Merkmal des Berichts ist die Verwendung von ‘oaicite’ in einigen URLs, was auf die Nutzung von OpenAI, einem US-amerikanischen KI-Unternehmen, hinweist. Diese Marker sind ein Hinweis darauf, dass die Forschung mit Hilfe von Künstlicher Intelligenz gesammelt wurde. Ein häufiges Merkmal von KI-Chatbots, wie ChatGPT, ist der Hang zu sich wiederholenden Inhalten, die nicht menschlich klingen oder ungenau sind, sowie die Tendenz, Studien oder Antworten zu ‘halluzinieren’, die sinnvoll erscheinen, aber nicht real sind.

Oren Etzioni, emeritierter Professor an der University of Washington, der sich mit KI beschäftigt, zeigte sich schockiert über die Schlampigkeit im MAHA-Bericht. ‘Ehrlich gesagt, das ist schlampige Arbeit’, sagte er. ‘Wir verdienen Besseres.’

Der Bericht, der von einer Kommission aus Kabinettsmitgliedern und führenden Wissenschaftlern der Regierung verfasst wurde, wurde von Gesundheitsminister Robert F. Kennedy Jr. geleitet, der eine Geschichte von wissenschaftlichen Fehldarstellungen hat. Der Bericht wurde als Reaktion auf eine Exekutivanordnung von Präsident Donald Trump erstellt und macht Umweltgifte, schlechte Ernährung und erhöhte Bildschirmzeit für den Rückgang der Lebenserwartung in den USA verantwortlich.

Die Reaktionen auf den Bericht waren schnell und heftig. Senator Chris Van Hollen aus Maryland äußerte sich besorgt über den potenziellen Einsatz von KI zur Beeinflussung der Politik. ‘Diese Leute sind unseriös – aber sie stellen ein ernstes Risiko für die Gesundheit der Amerikaner dar’, schrieb er in einem sozialen Medienbeitrag.

Senatorin Elizabeth Warren aus Massachusetts erklärte: ‘Es ist beschämend, dass amerikanische Eltern überhaupt über gefälschte Wissenschaft und KI-generierte Studien in offiziellen Berichten des Weißen Hauses über die Gesundheit ihrer Kinder nachdenken müssen.’

Der Vorfall wird als ‘Warnung’ für den potenziellen Einsatz von KI in der Regierung angesehen, sagte Anand Parekh, Chefmediziner am Bipartisan Policy Center, einem Think Tank in Washington, D.C. ‘Hatten sie nicht genug Personal?’, fragte er. ‘Welche Kontrollen gibt es?’

Ein Beispiel für die fehlerhaften Zitate ist eine Studie mit dem Titel ‘Overprescribing of Oral Corticosteroids for Children With Asthma’, die die Idee stützen sollte, dass Kinder übermedikamentiert werden. Diese Studie existierte jedoch nicht. Es gibt einen ähnlichen Artikel aus dem Jahr 2017 in Pediatrics mit demselben Erstautor, aber anderen Co-Autoren. Später am Donnerstag wurde dieser Pediatrics-Artikel in der Online-Version des Berichts ausgetauscht.

Der Bericht wurde mehrfach aktualisiert, um die fehlerhaften Zitate zu korrigieren, aber die Kontroverse bleibt bestehen. Der Vorfall zeigt die Herausforderungen und Risiken auf, die mit dem Einsatz von Künstlicher Intelligenz in der Regierungsarbeit verbunden sind.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!