LONDON / LONDON (IT BOLTWISE) – In einem neuen Verfahren vor dem High Court greift die Labour-Abgeordnete Jess Asato xAI wegen angeblich nicht-einvernehmlicher, sexualisierter Deepfake-Bilder und -Videos an. Die Klage stellt eine grundlegende Frage: Haftet ein KI-Entwickler nur bei direkter Absicht oder auch bei Sicherheits- und Compliance-Lücken im Systemdesign. Politische Unterstützung aus Regierungskreisen und die zeitliche Nähe zu verschärften Deepfake-Regeln erhöhen den Druck auf die Branche. Für Unternehmen, die KI-Tools nutzen oder bereitstellen, könnte der Fall zu einem neuen Referenzpunkt für Risiko- und Betreiberpflichten werden.
Im Mittelpunkt steht ein juristischer Konflikt, der weit über den konkreten Streit zwischen einer Abgeordneten und dem KI-Unternehmen xAI hinausreichen dürfte. Jess Asato, Mitglied der Labour Party, hat in London Klage eingereicht und beschuldigt den KI-Chatbot Grok, nicht-einvernehmliche, sexualisierte Deepfake-Inhalte erzeugt zu haben. Besonders brisant ist dabei nicht nur die Verletzung der Privatsphäre, sondern die Frage, wie weit die Verantwortung von KI-Entwicklern für die Ergebnisse ihrer Systeme reicht. Wenn Gerichte Sicherheits- und Aufsichtspflichten strenger auslegen, könnte das die Art und Weise verändern, wie Modelle trainiert, bereitgestellt und abgesichert werden.
Nach Angaben zur Einreichung erfolgte die Klage am 3. Juni 2026 beim High Court in London. Asato fordert Schadenersatz, eine gerichtliche Feststellung über die Rechtswidrigkeit der Bildgenerierung sowie eine Unterlassungsverfügung. Der von ihr beschriebene Sachverhalt umfasst angeblich sexualisierte Darstellungen im Bikini und ein sexuell gewalttätiges Videoformat. Damit trifft der Fall auf die Schnittstelle aus Datenschutzrecht, Persönlichkeitsrechten und Plattform-/Entwicklerhaftung. Der Rechtsstreit gilt als einer der ersten großen Tests, der die Betriebspflichten bei KI-Systemen nicht nur technisch, sondern auch rechtlich neu abstecken könnte.
Technisch betrachtet dreht sich die Verantwortung an der Stelle, an der ein KI-System in die Lage versetzt wird, schädliche oder rechtswidrige Inhalte trotz Schutzmechanismen zu produzieren. Deepfake-Modelle nutzen typischerweise Generierungsverfahren, die aus Trainingsdaten Muster lernen und anschließend Eingabeaufforderungen in neue visuelle oder audiovisuelle Inhalte umsetzen. Sicherheitsfunktionen können in diesem Prozess mehrere Rollen haben: sie können Eingaben klassifizieren, Ausgaben filtern oder mit zusätzlichen Modellen „Guardrails“ setzen. Entscheidend wird sein, ob xAI nur reaktiv reagiert hat oder ob angemessene Schutzmaßnahmen bereits „by design“ umgesetzt und wirksam getestet wurden.
Im Streit wird genau dieser Punkt betont: Asatos Anwalt Ravi Naik fordert, Sicherheitsfunktionen müssten von Anfang an in KI-Werkzeuge eingebaut werden, statt erst später zu patchen. Gleichzeitig wird angeführt, dass xAI im Januar 2026 bestimmte Bildbearbeitungsfunktionen eingeschränkt habe, Nutzer jedoch bereits im Februar Schutzmaßnahmen umgehen konnten und weiterhin sexualisierte Inhalte erzeugten. Das ist aus Engineering-Sicht ein typisches Muster, das in vielen KI-Sicherheitsfällen wiederkehrt: Schutzheuristiken funktionieren oft nur gegen bekannte Umgehungsmuster, während neue Prompts, Kodierungsvarianten oder Umgehungs-„Steering“-Techniken Filter nachträglich aushebeln. Für ein Gericht kann das die Frage nach „angemessener Sorgfalt“ und nach dokumentierten Test- und Monitoring-Prozessen aufwerfen.
Der Markt- und Wettbewerbsdruck steigt zusätzlich durch die politische Einordnung. Premierminister Keir Starmer stellte sich am 4. Juni 2026 hinter die Klage und bezeichnete die Inhalte als „abscheulich“. Auch wird berichtet, dass die Regierung bereits zuvor gegen Ausgaben von Grok protestiert habe. Parallel ist eine gesetzliche Verschärfung in Großbritannien im Gespräch bzw. umgesetzt, die die Erstellung nicht-einvernehmlicher Deepfakes von Erwachsenen unter Strafe stellt. Für Unternehmen bedeutet das: Selbst wenn ein Modell allgemein zugelassen wird, können präventive Sicherheitsanforderungen und nachvollziehbare Kontrollmechanismen zu Compliance-Pflichten werden, die sich direkt auf Risikoabschätzungen, Produktfreigaben und Haftungsrisiken auswirken.
International ist xAI zudem nicht im luftleeren Raum. Während in London ein Gerichtstermin vorbereitet wird, berichten andere Fälle von Klagen ähnlicher Zielrichtung, darunter Verfahren in den USA, etwa in Baltimore und in New York. In der Praxis orientieren sich viele Anbieter am Sicherheitsansatz großer Wettbewerber wie OpenAI, Google oder Meta, die ihre KI-Systeme zunehmend mit mehrstufigen Moderations- und Monitoring-Schichten ausstatten und auch öffentlich über „policy alignment“ und Content-Filter sprechen. Wie belastbar diese Maßnahmen sind, zeigt allerdings die Realität: Unterschiedliche Anbieter nutzen verschiedene Kombinationen aus Trainingsdatenbereinigung, Prompt- und Output-Guardrails, Rate-Limits und Incident-Response. Ein Gericht wird daher nicht nur das „Ob“, sondern auch die Wirksamkeit und Nachweisbarkeit der Schutzkette bewerten.
Für die Branche wird besonders relevant, welche Zahlen als Indikator für das Ausmaß einer Sicherheitslücke herangezogen werden. In der Berichterstattung wird auf Schätzungen des Center for Countering Digital Hate verwiesen: Innerhalb von elf Tagen seien rund drei Millionen sexualisierte Bilder generiert worden, darunter etwa 23.000 Darstellungen von Kindern. Solche Kennzahlen können für das Gericht als Argument dienen, dass es sich nicht um Einzelfälle handelt, sondern um ein strukturelles Risiko. Genau hier treffen technische Sicherheit und rechtliche Bewertung aufeinander: Unternehmen müssen nachweisen, dass sie angemessene Schutzmaßnahmen hatten, dass sie Risiken überwacht haben und dass sie nachweislich gegen bekannte Umgehungswege vorgegangen sind.
Wie könnte es nun weitergehen – und welche Implikationen ergeben sich für Entwickler und Enterprise-Kunden? Zunächst dürfte der Fall den Trend verstärken, dass Künstliche Intelligenz nicht nur als Modell, sondern als gesamtes Produkt mit Sicherheits- und Datenschutzarchitektur behandelt wird. Erwartbar ist außerdem, dass Versicherungs- und Vertragsmodelle für KI-Dienste stärker nach dem Grad der „verantwortlichen Kontrolle“ unterscheiden: Wer betreibt, wer überwacht, wer dokumentiert und wer reagiert. Ein weiterer Ausblick betrifft die Produktentwicklung selbst: Anbieter werden wohl stärker in Red-Teaming, Robustheitstests gegen Prompt-Umgehung und in umfassende Logging-/Audit-Fähigkeiten investieren müssen. Für Unternehmen, die KI-Tools einsetzen, heißt das, ihre Datenschutz-Folgenabschätzung (DPIA) und internen Governance-Prozesse an KI-Risiken anzupassen und nicht erst im Incidentfall zu reagieren.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "xAI vor Gericht: Haftung für nicht-einvernehmliche Deepfakes rückt in den Fokus" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "xAI vor Gericht: Haftung für nicht-einvernehmliche Deepfakes rückt in den Fokus" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »xAI vor Gericht: Haftung für nicht-einvernehmliche Deepfakes rückt in den Fokus« bei Google Deutschland suchen, bei Bing oder Google News!