xAI unter Beschuss: Grok-Chatbot und die Herausforderung der Inhaltsmoderation

SAN FRANCISCO / LONDON (IT BOLTWISE) – Elon Musks KI-Startup xAI steht im Mittelpunkt einer Kontroverse um seinen Grok-Chatbot. Berichten zufolge fordern Nutzer des Chatbots zunehmend die Generierung von sexuell expliziten Inhalten, was die Moderationsfähigkeiten des Unternehmens auf die Probe stellt.

Elon Musks KI-Startup xAI sieht sich mit Vorwürfen konfrontiert, dass sein Grok-Chatbot absichtlich provokativ gestaltet wurde. Dies hat Berichten zufolge dazu geführt, dass Nutzer sexuell explizite Inhalte, einschließlich kinderpornografischer Materialien, von dem Chatbot anfordern. Laut einem Bericht von Brancheninsidern haben mehr als ein Dutzend aktuelle und ehemalige xAI-Mitarbeiter erklärt, dass sie auf solche Inhalte gestoßen sind, wobei einige Nutzer den Chatbot aufforderten, kinderpornografische Inhalte zu generieren.

Experten weisen darauf hin, dass sexuelle Inhalte auf den meisten Technologieplattformen erscheinen, jedoch ist der Ansatz von xAI einzigartig, da der Chatbot über eine „würzige“ Bild- und Videogenerierungseinstellung sowie „sexy“ und „unhinged“ Modi verfügt. Diese Strategie könnte die Fähigkeit des Unternehmens, die Generierung von kinderpornografischen Inhalten zu verhindern, erschweren, im Gegensatz zu Konkurrenten wie OpenAI, Anthropic und Meta, die sexuelle Anfragen im Wesentlichen blockieren.

Mehrere schriftliche Anfragen, die von Brancheninsidern verifiziert wurden, wurden von Nutzern gestellt, die offenbar von Grok stammten. Diese beinhalteten Aufforderungen zu Kurzgeschichten, die Minderjährige in sexuell expliziten Situationen darstellen, und zu pornografischen Bildern von Kindern. In einigen Fällen hatte Grok tatsächlich ein Bild oder eine geschriebene Geschichte mit kinderpornografischen Inhalten generiert, so die Mitarbeiter.

Die Mitarbeiter berichteten, dass sie angewiesen wurden, einen internen Systemknopf zu verwenden, um kinderpornografische oder andere illegale Inhalte zu kennzeichnen, damit diese isoliert und von der Beeinflussung des KI-Modells bei der Schulung ferngehalten werden können. Kürzlich wurden sie auch angewiesen, ihren Vorgesetzten zu benachrichtigen. Viele Mitarbeiter, darunter 12, die auf nicht jugendfreie Inhalte gestoßen sind, bemerkten, dass sie Vereinbarungen unterzeichnet hatten, die eine potenzielle Exposition gegenüber sensiblen Inhalten anerkennen.

Ein Dokument, das von Brancheninsidern überprüft wurde, warnte die Mitarbeiter, dass sie solchen Inhalten ausgesetzt sein könnten. Das Dokument warnte auch KI-Trainer vor anderen Inhalten, einschließlich schriftlicher Berichte über sexuelle und körperliche Misshandlung, Hassrede, Gewaltandrohungen und explizite oder grafische Bilder.

Der Bericht spezifizierte jedoch nicht, ob die Menge an nicht jugendfreien Inhalten oder kinderpornografischen Inhalten nach der Einführung der „Unhinged“ und „Sexy“ Grok-Sprachfunktionen im Februar zugenommen hat. Wie andere KI-Unternehmen versucht xAI, KI-generierte kinderpornografische Inhalte zu blockieren. Der Bericht konnte auch nicht feststellen, ob die Annotatoren von xAI mehr von diesem Material handhaben als die Mitarbeiter von OpenAI, Anthropic oder Meta.

Unterdessen hat Musk zuvor erklärt, dass die Entfernung von kinderpornografischem Material seine „Priorität Nr. 1“ sei, wenn es um die Sicherheit auf X geht.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

30,50 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

20,99 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

36,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!