Fehlerhafte KI-generierte Bücherliste sorgt für Aufsehen

CHICAGO / MÜNCHEN (IT BOLTWISE) – In einer bemerkenswerten Entwicklung hat eine von Künstlicher Intelligenz generierte Sommerleseliste in den USA für Aufsehen gesorgt. Die Liste, die in einer Sonderausgabe der Chicago Sun-Times und der Philadelphia Inquirer erschien, enthielt Buchtitel, die es gar nicht gibt.

Die Sommerleseliste, die in einer Sonderausgabe der Chicago Sun-Times und der Philadelphia Inquirer veröffentlicht wurde, schien auf den ersten Blick harmlos. Sie enthielt Werke von beliebten Autoren wie Isabel Allende und Min Jin Lee sowie Bestseller von Delia Owens, Taylor Jenkins Reid und Brit Bennett. Doch es gab ein Problem: Keiner der genannten Buchtitel war echt. Sie wurden von einer generativen Künstlichen Intelligenz erstellt.

Dies ist ein weiteres Beispiel dafür, wie fehlerhafte KI in die Medien gelangt. Obwohl sich generative KI verbessert hat, gibt es immer noch keine Garantie dafür, dass die Systeme genaue Informationen liefern. KI-Chatbots können nicht zwischen wahr und falsch unterscheiden und erfinden oft Informationen. Die Chatbots geben Informationen und Namen von Experten mit einer Aura der Autorität wieder.

Die meisten Buchbeschreibungen wirkten ziemlich glaubwürdig. Es schien nicht abwegig, dass Frau Bennett “Familienbande, die durch Naturkatastrophen auf die Probe gestellt werden” erkunden würde, oder dass Frau Allende eine weitere “multigenerationale Saga” verfassen würde. Die Technologiepublikation 404 Media berichtete zuerst über die Leseliste. Neben nicht existierenden Buchtiteln enthielt der Abschnitt Zitate von nicht identifizierbaren Experten.

Sowohl die Sun-Times als auch die Inquirer veröffentlichten Erklärungen, in denen sie den Einsatz von KI verurteilten und teilweise King Features, ein Hearst-Syndikat, das Inhalte national lizenziert, verantwortlich machten. Das Syndikat produzierte das 56-seitige Supplement zur Zeitung namens “Heat Index: Your Guide to the Best of Summer”, das auch Dinge wie Sommeressen-Trends und Aktivitätsempfehlungen enthielt.

Obwohl die Liste keinen Byline hatte, übernahm ein freier Mitarbeiter namens Marco Buscaglia die Verantwortung für das Stück. Er bestätigte, dass die Liste teilweise von Künstlicher Intelligenz, wahrscheinlich Claude, generiert wurde. “Es war einfach ein wirklich schlechter Fehler meinerseits und ich fühle mich schlecht, dass es die Sun-Times und King Features betroffen hat und dass sie dafür die Scherben auflesen müssen”, sagte Herr Buscaglia in einem Interview.

Es ist ziemlich üblich, dass Medienorganisationen, insbesondere ressourcenarme lokale Nachrichtenredaktionen, auf Syndikate zur Ergänzung der Berichterstattung angewiesen sind. Erst vor zwei Monaten kündigten 20 Prozent der Mitarbeiter der Sun-Times im Rahmen eines Abfindungsangebots. Auf der Homepage der Zeitung am Mittwoch befanden sich zwei Banner oben auf der Website. Eines verlinkte auf die Erklärung zum Sonderteil vom 18. Mai, das andere auf einen Artikel darüber, wie Bundesmittelkürzungen den lokalen Journalismus bedrohen.

Felix M. Simon, ein Forschungsstipendiat für KI und digitale Nachrichten am Reuters Institute der Universität Oxford, sagte, die Technologie sei nicht allein schuld. Es gebe verantwortungsvolle und unverantwortliche Wege, KI für die Nachrichtenbeschaffung zu nutzen. “Wir brauchen bessere Bildung für alle, vom Freiberufler bis zur Führungsebene”, sagte Dr. Simon und forderte die Menschen auf, “die Strukturen zu betrachten, die letztendlich dazu geführt haben, dass dieser faktisch falsche Artikel in einem renommierten Nachrichtenmedium erschienen ist.”

Der Sonderteil wurde von der Website der Inquirer entfernt, als er entdeckt wurde, so Lisa Hughes, die Verlegerin und Geschäftsführerin der Zeitung. Der Abschnitt wurde auch aus der E-Paper-Version der Sun-Times entfernt, wie in einer Erklärung mitgeteilt wurde, und Abonnenten würden nicht für die Premium-Ausgabe belastet. King Features reagierte nicht auf Anfragen zur Stellungnahme, sagte jedoch in einer Erklärung an die Sun-Times, dass es “eine strikte Richtlinie mit unseren Mitarbeitern, Cartoonisten, Kolumnisten und freien Autoren gegen die Verwendung von KI zur Erstellung von Inhalten” habe.

In ihrer Erklärung sagte die Sun-Times, dass der Vorfall ein “Lernmoment” sein sollte. “Unsere Arbeit ist wertvoll – und wertvoll – wegen der Menschlichkeit, die dahinter steht”, hieß es in der Erklärung.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!