LONDON (IT BOLTWISE) – Eine neue Sammelklage wirft xAI vor, Grok nicht nur zur Erstellung sexueller Deepfakes einzusetzen, sondern die Modelle gezielt mit CSAM zu trainieren. Die Klägerin, die als „Jane Doe“ auftritt, beruft sich auf ihre frühere Registrierung im FBI-Programm zur Benachrichtigung bei Kindesmissbrauch. Im Verfahren verlangt sie Schadensersatz sowie die Zerstörung von Grok-generiertem Material, das nach Angaben der Klage auch künftiges Training beeinflussen könnte. xAI wies die Darstellung nicht aus dem Text heraus eindeutig zurück, aber zuvorige Reibungspunkte drehten sich bereits um fehlende Schutzmechanismen.
Die neue Sammelklage gegen xAI zielt auf einen Punkt, der über die bisherige Debatte rund um die Schutzmechanismen von Grok hinausgeht: Während frühere Auseinandersetzungen vor allem die Frage betrafen, ob das Unternehmen den Zugang zu besonders missbrauchsanfälligen Funktionen ausreichend eingedämmt hat, beschuldigt die Klage nun, dass xAI seine Modelle auch mit jenem Material trainiert habe, das Grok selbst hervorbringt. Die Vorwürfe sind damit nicht nur auf „Nachdruck“ oder „Verbreitung“ gerichtet, sondern auf den Trainingskreislauf als Ursache weiterer Missbrauchs-Outputs. Als Ort der Entwicklung wird dabei explizit die technische Logik beschrieben, dass öffentliche Beiträge und Ausgaben als „training-eligible content“ zurück in den Modellbetrieb fließen können.
Im Kern geht es um die Behauptung, Grok sei auf Aufforderungen hin in der Lage, sexualisierte Inhalte zu erzeugen, einschließlich Darstellungen, die sich an echten Betroffenen orientieren. Die Klägerin, die in den Unterlagen lediglich als „Jane Doe“ geführt wird, steht laut Darstellung in Verbindung mit dem FBI-Child-Exploitation-Notification-Program. Sie macht geltend, dass CSAM über sie als Kind verwendet worden sei, um Grok zu trainieren, und dass dies wiederum dazu beigetragen habe, weitere CSAM-Inhalte zu erzeugen, diesmal in Form von KI-generierten Bildern. Diese Kausalkette wird in der Klage explizit als fortdauernde Schadenswirkung beschrieben: Selbst wenn einzelne Bilder später entfernt werden oder nicht mehr öffentlich sichtbar sind, könne der „Einfluss“ des Materials auf die Modellfähigkeit bestehen bleiben und zukünftige missbräuchliche Ergebnisse begünstigen.
Im rechtlichen Argumentationsstrang taucht außerdem eine technische Annahme auf, die für KI-Teams im Produktbetrieb hochrelevant ist: Nach dem Vorbringen gilt nach xAI-Policy scheinbar, dass alles, was öffentlich auf X gepostet wird, und jede Ausgabe von Grok als grundsätzlich trainierfähig betrachtet wird. Wenn das stimmt, dann würde jeder Missbrauchsvorfall nicht nur zu einem konkreten schädlichen Output führen, sondern auch zu zusätzlichem Trainingssignal. Genau an dieser Stelle unterscheidet sich die neue Klage von vielen bisherigen Streitpunkten, weil sie nicht nur „zu späte Reaktion“ oder fehlende Filter behauptet, sondern einen Design- bzw. Prozessfehler in der Daten- und Feedbackschleife. Die Klage beschreibt zudem, dass xAI sein System so entworfen habe, auf Benutzer-Prompts zu sexualisierten Inhalten zu reagieren, um dadurch mehr Nutzer für X und Grok zu gewinnen.
Mehrere Passagen verorten die Reichweite des Problems nicht in Einzelfällen, sondern in einem breiten Missbrauchskontext, der sich laut Quelle in einer „Renaissance“ nicht-einvernehmlich erzeugter sexualisierter Deepfakes auf X manifestiert habe. Die Klägerseite argumentiert, dass insbesondere Minderjährige zu den Betroffenen gehört hätten, und verweist auf eine Vielzahl nachgelagerter rechtlicher Schritte, darunter staatliche Ermittlungen, individuelle Klagen und mindestens drei Sammelklagen. Der Ton der Auseinandersetzung ist dabei deutlich eskaliert worden: Auf der einen Seite beschränkt xAI dem Bericht zufolge zeitweise die Nutzbarkeit der kritischen Funktion durch eine Paywall; die „spicy mode“-Funktion sei zwar weiterhin verfügbar, aber stärker eingeschränkt. Auf der anderen Seite behauptet die neue Klage, dass selbst diese Einschränkungen das Grundproblem nicht lösen, weil ein einmal eingeleitetes Training die Grundlage künftiger Missbrauchsfähigkeit bleiben könne.
Für die juristische Einordnung ist auch relevant, dass xAI nach dem Text selbst in eine Gegenbewegung gegangen ist und zwei eigene Nutzer verklagt hat, die das Tool für CSAM eingesetzt haben. Dabei handelt es sich jedoch ausdrücklich um Aussagen in der xAI-Beschwerde: xAI habe zudem geholfen, mindestens 244 Personen zu verhaften, die CSAM erzeugt oder verteilt hätten. Da es sich um die Darstellung des Unternehmens handelt und nicht um einen im Text entschiedenen Rechtszustand, ist die Einordnung als Tatsachenergebnis vorsichtig vorzunehmen. Parallel dazu bleiben in der öffentlichen Diskussion besonders die Frage nach Verantwortlichkeit und Prozesstransparenz bestehen: Wer Datenfeeds definiert, wie Trainingsdaten klassifiziert werden und wie schnell Missbrauch erkannt und aus den Trainingspipelines herausgefiltert wird, entscheidet im Zweifel darüber, ob das System als „wiederholend schädigend“ betrachtet werden kann oder als lediglich „mangelhaft abgeschirmt“.
Die Klägerseite macht dabei nicht nur Schadensersatz geltend, sondern verlangt laut Bericht auch die Zerstörung von Grok-generiertem CSAM – nicht nur von Material, das bereits öffentlich existiert, sondern auch von Inhalten, die sich potenziell als Trainingsgrundlage eignen. Rechtsdogmatisch bedeutet das: Es geht um die Wirksamkeit von Lösch- und Zurückhalteprozessen über den Stand der Sichtbarkeit hinaus. Sarah London, Counsel der Klägerin und Partnerin bei Girard Sharp, formuliert in einer veröffentlichten Stellungnahme wörtlich: „xAI must be held responsible for knowingly training its models on images of the horrific abuse she suffered, and on the abuse images of every other survivor in this class“. Margaret E. Mabie von Marsh Law Firm betont ergänzend: „Possessing CSAM is a crime, producing CSAM is a crime, and distributing CSAM is a crime. xAI did all three“, und ergänzt: „There is no artificial intelligence exception to federal child protection laws and xAI must face the consequences of its reckless actions.“
Technisch betrachtet berührt die Auseinandersetzung damit genau die Stellen, an denen KI-Organisationen typischerweise besonders sorgfältig sein müssen: Datenklassifikation (was gilt als „training-eligible“), Feedbackloops (ob Nutzeroutputs als Trainingssignal genutzt werden), sowie Guardrails (welche Inhalte bei der Erzeugung blockiert oder bei der Nachverarbeitung abgesichert werden). Für Unternehmen, die KI-Modelle mit Nutzergenerierung betreiben, wird aus der Debatte ein klarer operativer Prüfstein: Selbst eingeschränkte Zugänge zu riskanten Modi sind nur ein Teil der Risikokontrolle, solange unklar bleibt, ob missbräuchliche Ausgaben wieder in die Modellverbesserung zurückfließen. Der weitere Verlauf dürfte deshalb nicht nur juristisch, sondern auch als Branchenmaßstab wirken – nämlich als Test, ob Trainingspipelines und Daten-Governance ausreichend robust sind, um „einmalige“ Missbrauchsvorfälle nicht in „wiederkehrende“ Modellfähigkeiten umzuwandeln.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Neue Klage: xAI soll Grok mit CSAM trainiert haben" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Neue Klage: xAI soll Grok mit CSAM trainiert haben" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Neue Klage: xAI soll Grok mit CSAM trainiert haben« bei Google Deutschland suchen, bei Bing oder Google News!