Fehlerhafte KI-Nutzung in Regierungsbericht zur Gesundheit von Kindern

WASHINGTON / LONDON (IT BOLTWISE) – Ein kürzlich veröffentlichter Bericht über die Gesundheit von Kindern in den USA sorgt für Aufsehen, da er offenbar unter Verwendung von Künstlicher Intelligenz erstellt wurde und zahlreiche Fehler enthält.

In den USA hat ein Bericht der „Make America Healthy Again“-Kommission, der sich mit der Gesundheit von Kindern befasst, erhebliche Kontroversen ausgelöst. Der Bericht, der von Donald Trump und Robert F. Kennedy Jr. unterstützt wird, enthält zahlreiche Fehler und Ungenauigkeiten, die auf die Nutzung von Künstlicher Intelligenz bei der Erstellung hindeuten. Laut Berichten wurden falsche Studien zitiert und bestehende Studien falsch interpretiert, um die Agenda der Kommission zu stützen.

Besonders problematisch ist, dass der Bericht Studien referenziert, die nicht existieren, und Autoren falsch zuordnet. Diese Fehler werfen Fragen zur Glaubwürdigkeit des Berichts auf. Die Washington Post hat herausgefunden, dass einige URLs in den Zitaten den Begriff „oaicite“ enthalten, was auf die Nutzung von OpenAI-Technologie hinweist. Dies wird als ein klares Indiz für den Einsatz von KI bei der Erstellung des Berichts angesehen.

Der Bericht argumentiert, dass viele Kinder aufgrund von Gesundheitsproblemen wie Fettleibigkeit und psychischen Herausforderungen nicht in der Lage wären, dem Militär zu dienen. Diese Argumentation steht im Einklang mit Robert F. Kennedy Jr.s langjähriger Kritik an Impfstoffen und der Pharmaindustrie. Die fehlerhafte Forschung und die falschen Zitate werfen jedoch Zweifel an der Validität dieser Behauptungen auf.

Ein weiterer Kritikpunkt ist die Art und Weise, wie der Bericht mit Zitaten umgeht. Einige Zitate enthalten falsche Autorenangaben oder beziehen sich auf nicht existierende Artikel. Dies sind typische Anzeichen für die sogenannten „Halluzinationen“ von KI-gestützten Textgeneratoren, die dazu neigen, plausible, aber falsche Informationen zu generieren.

Die Reaktionen auf den Bericht sind gemischt. Während einige die Nutzung von KI als innovativ betrachten, kritisieren andere die mangelnde Sorgfalt und die potenziellen Gefahren, die mit der Verbreitung falscher Informationen verbunden sind. Die Tatsache, dass der Bericht nach Veröffentlichung mehrfach überarbeitet wurde, um einige der Fehler zu korrigieren, verstärkt die Bedenken hinsichtlich seiner Zuverlässigkeit.

Die Diskussion um den Bericht wirft ein Schlaglicht auf die Herausforderungen und Risiken, die mit der Nutzung von Künstlicher Intelligenz in sensiblen Bereichen wie der Gesundheitsforschung verbunden sind. Experten fordern strengere Kontrollen und eine sorgfältigere Überprüfung von KI-generierten Inhalten, um die Verbreitung von Fehlinformationen zu verhindern.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!