NEW YORK CITY / LONDON (IT BOLTWISE) – In einer Klage wird xAI vorgeworfen, Grok mit kinderpornografischem Material (CSAM) trainiert zu haben. Die Klägerin bezeichnet es als besonders belastend, dass eine Organisation nach eigenen Angaben AI-generiertes CSAM mit ihren bekannten Bildern identifiziert habe. Außerdem heißt es, Grok könne durch öffentlich gepostete Inhalte automatisch in eine Trainingspipeline gelangen. Das Verfahren zielt darauf, Generationen von CSAM künftig zu blockieren und angeblich erzeugte Inhalte löschen zu lassen.
Die Debatte um KI-gestützte Bild- und Videoerzeugung bekommt eine neue, rechtlich brisante Facette: In einer Klage wird xAI beschuldigt, das Grok-Modell mit Inhalten trainiert zu haben, die als CSAM (Child Sexual Abuse Material) eingestuft werden. Laut der Einreichung soll es dabei nicht nur um einen theoretischen Datenleck- oder Nachlauf-Effekt gehen, sondern um eine konkrete Kette aus Training, späteren Modelloutputs und angeblicher Speicherung. Für Technikverantwortliche ist der Kern der Angelegenheit dabei weniger der juristische Streit an sich, sondern die Frage, wie ein System, das Nutzeraktionen und generierte Ausgaben in ein Verbesserungs- und Trainingsumfeld einbindet, zuverlässig verhindert, dass missbräuchliche Inhalte erneut in die Modellentwicklung zurückfließen.
Die Klägerin tritt in den Unterlagen als „Jane Doe“ auf. Demnach war sie bereits Anfang der 2000er Jahre als Vorschulkind Opfer sexualisierter Gewalt durch erwachsene Männer, die Fotos und Material erzeugen und online verkaufen wollten. Über Jahre hinweg wurden ihre Bilder über Hash-Listen-Mechanismen abgeglichen, unter anderem mit Verweisen auf die National Center for Missing and Exploited Children (NCMEC) sowie das kanadische Centre for Child Protection (CCCP). Laut der Klage wurde Doe über das Victim Notification System des US Department of Justice benachrichtigt, auch wenn die Häufigkeit der Alerts nach ihren Angaben nicht ungewöhnlich war. Umso stärker habe sie reagiert, als das CCCP laut Klage AI-generiertes CSAM identifiziert haben soll, das ihre eigenen Bilder wiederverwendet.
Technisch schlägt die Klage an einer Stelle besonders hoch: Sie stellt Groks Standard-Pipeline als Problem dar. In den Vorwürfen heißt es, die Bedingungen („terms“) von Grok würden öffentliche X-Posts und auch Groks eigene Ausgaben standardmäßig als Trainingsdaten behandeln. Damit, so das Argument, führe das bloße Posten eines Bildes nicht nur zu einer Anzeige für andere Nutzer, sondern es gelange direkt in die Trainings- und Verbesserungsprozesse des Modells. Hinzu kommt, dass die Beschwerde zwar beschreibt, Grok filtere Gewaltdarstellungen in seinen Ausgaben, zugleich aber nicht klar festlege, ob CSAM, nicht-einvernehmliche intime Darstellungen (NCII) oder NSFW-Inhalte zuverlässig als ausgeschlossene Kategorien behandelt werden. Für die Praxis heißt das: Wenn ein Modell zwar bei bestimmten Output-Klassen Inhalte blockt, aber Training aus anderen Quellen weiterhin möglich bleibt, bleibt eine Lücke zwischen „Ausgabe-Schutz“ und „Trainings-Schutz“.
Auch die Frage nach Löschung und „Rückruf“ nachträglich eingespielter Trainingsbeispiele wird in der Klage adressiert. Doe argumentiert, dass eine vollständige Entfernung des Einflusses einzelner Trainingsdaten aus einem bereits trainierten Modell technisch schwierig sei und xAI nach ihrer Darstellung keine öffentliche Zusage gegeben habe, dass solche Einflüsse nach einer Entfernung aus dem öffentlichen Raum tatsächlich eliminiert würden. Daraus leitet sie ab, dass CSAM, das vor einem möglichen Take-down aufgenommen wurde, die Modellantworten weiterhin beeinflussen könne. Diese Logik ist im KI-Engineering grundsätzlich plausibel: Bei klassischen Trainingspipelines lassen sich Daten zwar aus zukünftigen Trainingsläufen ausschließen, aber der Gewichtszustand eines großen Modells bleibt zunächst erhalten, solange nicht mit geeigneten Verfahren (z. B. gezieltes Retraining oder methodische „Unlearning“-Ansätze) nachgesteuert wird. Genau an dieser Schnittstelle zwischen Betriebsrealität und Versprechen zu „Delete-by-default“ entzünden sich in vielen KI-Fällen die eigentlichen Integrationsfragen.
Die Klage ist dabei nach eigenen Angaben der erste Fall, der xAI direkt vorwirft, Grok auf CSAM trainiert zu haben. Gleichzeitig verweist der Text auf eine zuvor berichtete, kontroverse Datensatzlage, die später bereinigt worden sein soll, ohne dass aus der aktuellen Einreichung eine eindeutige Linie zur konkreten Grok-Trainingsdatenbasis abgeleitet wird. In den Ausführungen der klagenden Seite wird jedoch die Verbindung über Hash-Listen konstruiert: Demnach sei „dasselbe Material“ aus den Bilderwelten der Klägerin Teil eines Datensatzes gewesen, der für die Bild- und Videoerzeugungsfähigkeiten von Grok genutzt worden sei. Die technische Aussage dahinter ist klar formuliert: Wenn ein System anhand von Hash-IDs wiedererkennen kann, ob bestimmtes Material in Trainingssammlungen enthalten war, folgt daraus nicht automatisch der technische Beweis für eine Reproduktion – aber es liefert eine Grundlage, um die Modellherkunft und die Kontrollmechanismen in Frage zu stellen.
Im Zentrum der beantragten Maßnahmen steht eine Sammelklage („class action“). Sollte das Gericht dem stattgeben, würde der Kreis der Betroffenen laut Einreichung alle Opfer umfassen, deren Kindheitsbilder zur Erzeugung von CSAM-Outputs herangezogen worden sein sollen. Juristisch wird nach Darstellung der Klage sowohl gegen xAI als auch gegen die Betreiberumgebung von X argumentiert; daneben wird auch „Masha’s Law“ genannt, das CSAM-Überlebenden nach den Angaben in der Einreichung das Recht geben soll, Ansprüche geltend zu machen. In den Anträgen verlangt Doe außerdem, dass das Gericht xAI verpflichtet, Grok-Generationen von CSAM zu zerstören, falls diese auf Servern gespeichert werden und zur weiteren Schulung eingesetzt werden. Darüber hinaus wird gefordert, dass Grok künftig keine CSAM-Ausgaben mehr generieren darf; die Klage beschreibt als technisch notwendige Maßnahme eine Blockade sexualisierter Output-Klassen, wobei sie auch NCII und NSFW-Inhalte nennt, die in den Vorwürfen mit beworbenen „Bikini“-Beispielen in Verbindung gebracht werden.
Für die KI- und Sicherheitsarchitektur ergibt sich daraus ein konkreter Handlungsdruck, der über den Einzelfall hinausgeht. Unternehmen, die multimodale Modelle betreiben, müssen nicht nur Output-Filter implementieren, sondern die gesamte Daten- und Feedbackschleife sauber definieren: Welche Nutzerinhalte dürfen in Training übergehen, unter welchen Bedingungen, mit welchen Sperrlisten, und wie wird verhindert, dass bereits „trainingsrelevante“ Muster in späteren Modellversionen wieder in Erscheinung treten? Ebenso wichtig ist die Governance rund um Hash-Matching und Benachrichtigungssysteme: Wenn Organisationen wie NCMEC oder CCCP Identifikationen liefern, müssen Betreiber nicht nur reagieren, sondern auch nachweisbar prüfen können, welche Trainingsruns betroffen waren und welche Schritte zur Modellkorrektur tatsächlich erfolgten. Die Klage liefert damit ein Szenario, in dem das technische Risiko nicht allein die Generierung betrifft, sondern vor allem die Rückkopplung in Richtung Modellverbesserung.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Vorwurf gegen xAI: Grok soll mit CSAM trainiert und gespeichert worden sein" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Vorwurf gegen xAI: Grok soll mit CSAM trainiert und gespeichert worden sein" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Vorwurf gegen xAI: Grok soll mit CSAM trainiert und gespeichert worden sein« bei Google Deutschland suchen, bei Bing oder Google News!