Gefährliche KI-Bücher über ADHS auf Amazon: Eine Bedrohung für die Gesundheit

MÜNCHEN (IT BOLTWISE) – Die zunehmende Verbreitung von KI-generierten Büchern auf Amazon, die sich mit sensiblen Gesundheitsthemen wie ADHS befassen, wirft ernsthafte Fragen zur Verantwortung von Online-Marktplätzen auf.

Die Verfügbarkeit von Büchern, die von Künstlicher Intelligenz verfasst wurden und auf Amazon verkauft werden, hat in letzter Zeit erheblich zugenommen. Diese Bücher, die oft als Ratgeber für Menschen mit ADHS vermarktet werden, enthalten jedoch häufig gefährliche Fehlinformationen. Experten warnen davor, dass solche Inhalte, die von Chatbots wie ChatGPT erstellt werden, nicht nur unzuverlässig, sondern auch potenziell schädlich sein können.

Einige dieser Bücher, die auf Amazon angeboten werden, tragen Titel wie “Navigating ADHD in Men: Thriving with a Late Diagnosis” und “Men with Adult ADHD: Highly Effective Techniques for Mastering Focus”. Eine Untersuchung durch Originality.ai, ein Unternehmen, das KI-generierte Inhalte erkennt, ergab, dass diese Bücher mit hoher Wahrscheinlichkeit von einem Chatbot verfasst wurden. Dies wirft die Frage auf, inwieweit Online-Marktplätze wie Amazon für die Verbreitung solcher Inhalte verantwortlich sind.

Michael Cook, ein Forscher im Bereich Informatik am King’s College London, betont, dass generative KI-Systeme bekannt dafür sind, gefährliche Ratschläge zu geben. Dies kann von der Einnahme giftiger Substanzen bis hin zur Missachtung von Gesundheitsrichtlinien reichen. Die Tatsache, dass solche Bücher auf digitalen Marktplätzen immer häufiger auftauchen, ist für Cook frustrierend und besorgniserregend, insbesondere wenn es um Gesundheitsthemen geht.

Amazon steht in der Kritik, da sein Geschäftsmodell solche Praktiken begünstigt. Das Unternehmen verdient an jedem verkauften Buch, unabhängig davon, ob der Inhalt vertrauenswürdig ist oder nicht. Gleichzeitig werden die Unternehmen, die die generativen KI-Produkte erstellen, nicht zur Verantwortung gezogen. Prof. Shannon Vallor von der University of Edinburgh betont, dass Amazon eine ethische Verantwortung hat, um Schaden von seinen Kunden und der Gesellschaft abzuwenden.

Die fehlende Regulierung im Bereich der KI-generierten Inhalte führt zu einem “Wilden Westen” auf Online-Marktplätzen. Die traditionellen Schutzmaßnahmen der Verlagsbranche, wie die Überprüfung von Autoren und Manuskripten, sind durch die KI-Technologie völlig verändert worden. Dies führt zu einer “Rennen nach unten”, bei dem es keine bedeutenden Konsequenzen für diejenigen gibt, die Schaden ermöglichen.

Derzeit gibt es keine gesetzliche Verpflichtung, KI-verfasste Bücher als solche zu kennzeichnen. Dies erschwert es den Verbrauchern, zwischen menschlich und maschinell erstellten Inhalten zu unterscheiden. Die Advertising Standards Agency hat jedoch klargestellt, dass KI-verfasste Bücher nicht den Eindruck erwecken dürfen, von einem Menschen geschrieben worden zu sein.

Ein Beispiel für die Gefahren solcher Bücher ist der Fall von Richard Wordsworth, der nach einer ADHS-Diagnose ein Buch auf Amazon kaufte. Er stellte fest, dass das Buch nicht nur seltsam klang, sondern auch schädliche Ratschläge enthielt. Dies zeigt, dass selbst gebildete Menschen von solchen Inhalten getäuscht werden können, was die Notwendigkeit einer strengeren Kontrolle unterstreicht.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!