X testet KI-Chatbots zur Erstellung von Community Notes

SAN FRANCISCO / LONDON (IT BOLTWISE) – Die Plattform X, ehemals bekannt als Twitter, plant die Einführung eines neuen Features, das KI-Chatbots die Erstellung von Community Notes ermöglicht.

Die Plattform X, die unter der Leitung von Elon Musk eine Reihe von Neuerungen erfahren hat, testet derzeit eine Funktion, die es KI-Chatbots erlaubt, Community Notes zu generieren. Diese Funktion, die ursprünglich aus der Twitter-Ära stammt, wurde von Musk erweitert und soll nun durch den Einsatz von KI weiterentwickelt werden. Community Notes bieten Nutzern die Möglichkeit, Beiträge mit zusätzlichen Kontextinformationen zu versehen, die von anderen Nutzern überprüft werden, bevor sie veröffentlicht werden. Ein typisches Beispiel für eine solche Notiz könnte ein Hinweis auf die synthetische Herkunft eines KI-generierten Videos sein oder eine Ergänzung zu einem irreführenden Beitrag eines Politikers.

Die Veröffentlichung von Community Notes erfolgt erst, wenn ein Konsens zwischen Nutzergruppen erreicht wird, die in der Vergangenheit unterschiedliche Bewertungen abgegeben haben. Diese Methode hat sich als so erfolgreich erwiesen, dass auch andere Plattformen wie Meta, TikTok und YouTube ähnliche Initiativen verfolgen. Meta hat sogar seine Drittanbieter-Faktenprüfungsprogramme zugunsten dieser kostengünstigen, gemeinschaftlich erstellten Inhalte eingestellt.

Die Einführung von KI-Chatbots als Faktenprüfer wirft jedoch Fragen auf, ob dies hilfreich oder schädlich sein könnte. Die KI-Notizen können entweder mit X’s eigenem Grok oder durch andere KI-Tools erstellt werden, die über eine API mit X verbunden sind. Jede von einer KI eingereichte Notiz wird wie eine von einem Menschen eingereichte Notiz behandelt und durchläuft denselben Überprüfungsprozess, um die Genauigkeit zu gewährleisten.

Die Verwendung von KI in der Faktenprüfung ist umstritten, da KI-Systeme häufig dazu neigen, sogenannte Halluzinationen zu erzeugen, also Kontexte zu erfinden, die nicht auf der Realität basieren. Laut einem kürzlich veröffentlichten Papier von Forschern, die an den Community Notes von X arbeiten, wird empfohlen, dass Menschen und große Sprachmodelle (LLMs) zusammenarbeiten. Menschliches Feedback kann die Generierung von KI-Notizen durch Verstärkungslernen verbessern, wobei menschliche Notenbewerter als letzte Kontrolle vor der Veröffentlichung der Notizen fungieren.

Das Ziel ist es nicht, einen KI-Assistenten zu schaffen, der den Nutzern vorschreibt, was sie denken sollen, sondern ein Ökosystem zu entwickeln, das Menschen dazu befähigt, kritischer zu denken und die Welt besser zu verstehen. LLMs und Menschen können in einer Art Tugendkreislauf zusammenarbeiten. Dennoch besteht auch mit menschlichen Kontrollen das Risiko, sich zu sehr auf KI zu verlassen, insbesondere da Nutzer in der Lage sein werden, LLMs von Drittanbietern einzubinden. Ein Beispiel ist OpenAI’s ChatGPT, das kürzlich Probleme mit einem Modell hatte, das zu unterwürfig war. Wenn ein LLM die “Hilfsbereitschaft” über die genaue Durchführung einer Faktenprüfung stellt, könnten die KI-generierten Kommentare letztlich ungenau sein.

Es gibt auch Bedenken, dass menschliche Bewerter durch die Menge an KI-generierten Kommentaren überlastet werden könnten, was ihre Motivation, diese ehrenamtliche Arbeit angemessen zu erledigen, verringern könnte. Nutzer sollten nicht erwarten, sofort KI-generierte Community Notes zu sehen – X plant, diese KI-Beiträge einige Wochen lang zu testen, bevor sie bei Erfolg breiter ausgerollt werden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!