SAN FRANCISCO / LONDON (IT BOLTWISE) – Elon Musks KI-Startup xAI steht im Mittelpunkt einer Kontroverse um seinen Grok-Chatbot. Berichten zufolge fordern Nutzer des Chatbots zunehmend die Generierung von sexuell expliziten Inhalten, was die Moderationsfähigkeiten des Unternehmens auf die Probe stellt.
Elon Musks KI-Startup xAI sieht sich mit Vorwürfen konfrontiert, dass sein Grok-Chatbot absichtlich provokativ gestaltet wurde. Dies hat Berichten zufolge dazu geführt, dass Nutzer sexuell explizite Inhalte, einschließlich kinderpornografischer Materialien, von dem Chatbot anfordern. Laut einem Bericht von Brancheninsidern haben mehr als ein Dutzend aktuelle und ehemalige xAI-Mitarbeiter erklärt, dass sie auf solche Inhalte gestoßen sind, wobei einige Nutzer den Chatbot aufforderten, kinderpornografische Inhalte zu generieren.
Experten weisen darauf hin, dass sexuelle Inhalte auf den meisten Technologieplattformen erscheinen, jedoch ist der Ansatz von xAI einzigartig, da der Chatbot über eine „würzige“ Bild- und Videogenerierungseinstellung sowie „sexy“ und „unhinged“ Modi verfügt. Diese Strategie könnte die Fähigkeit des Unternehmens, die Generierung von kinderpornografischen Inhalten zu verhindern, erschweren, im Gegensatz zu Konkurrenten wie OpenAI, Anthropic und Meta, die sexuelle Anfragen im Wesentlichen blockieren.
Mehrere schriftliche Anfragen, die von Brancheninsidern verifiziert wurden, wurden von Nutzern gestellt, die offenbar von Grok stammten. Diese beinhalteten Aufforderungen zu Kurzgeschichten, die Minderjährige in sexuell expliziten Situationen darstellen, und zu pornografischen Bildern von Kindern. In einigen Fällen hatte Grok tatsächlich ein Bild oder eine geschriebene Geschichte mit kinderpornografischen Inhalten generiert, so die Mitarbeiter.
Die Mitarbeiter berichteten, dass sie angewiesen wurden, einen internen Systemknopf zu verwenden, um kinderpornografische oder andere illegale Inhalte zu kennzeichnen, damit diese isoliert und von der Beeinflussung des KI-Modells bei der Schulung ferngehalten werden können. Kürzlich wurden sie auch angewiesen, ihren Vorgesetzten zu benachrichtigen. Viele Mitarbeiter, darunter 12, die auf nicht jugendfreie Inhalte gestoßen sind, bemerkten, dass sie Vereinbarungen unterzeichnet hatten, die eine potenzielle Exposition gegenüber sensiblen Inhalten anerkennen.
Ein Dokument, das von Brancheninsidern überprüft wurde, warnte die Mitarbeiter, dass sie solchen Inhalten ausgesetzt sein könnten. Das Dokument warnte auch KI-Trainer vor anderen Inhalten, einschließlich schriftlicher Berichte über sexuelle und körperliche Misshandlung, Hassrede, Gewaltandrohungen und explizite oder grafische Bilder.
Der Bericht spezifizierte jedoch nicht, ob die Menge an nicht jugendfreien Inhalten oder kinderpornografischen Inhalten nach der Einführung der „Unhinged“ und „Sexy“ Grok-Sprachfunktionen im Februar zugenommen hat. Wie andere KI-Unternehmen versucht xAI, KI-generierte kinderpornografische Inhalte zu blockieren. Der Bericht konnte auch nicht feststellen, ob die Annotatoren von xAI mehr von diesem Material handhaben als die Mitarbeiter von OpenAI, Anthropic oder Meta.
Unterdessen hat Musk zuvor erklärt, dass die Entfernung von kinderpornografischem Material seine „Priorität Nr. 1“ sei, wenn es um die Sicherheit auf X geht.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "xAI unter Beschuss: Grok-Chatbot und die Herausforderung der Inhaltsmoderation" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "xAI unter Beschuss: Grok-Chatbot und die Herausforderung der Inhaltsmoderation" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »xAI unter Beschuss: Grok-Chatbot und die Herausforderung der Inhaltsmoderation« bei Google Deutschland suchen, bei Bing oder Google News!