MINNESOTA / LONDON (IT BOLTWISE) – xAI hat in Minnesota eine Klage gegen ein neues Gesetz eingereicht, das KI-„Nudification“ auf Websites und Apps verbietet. Das Verfahren startet kurz bevor die Regel am Samstag in Kraft tritt, und könnte als Testfall dienen, wie weit Bundesstaaten bei KI-Verboten verfassungsrechtlich gehen dürfen. xAI sagt zwar, man wolle nicht, dass nicht-einvernehmlich erstellte sexualisierte Inhalte verbreitet werden, hält aber die Reichweite des Gesetzes für verfassungswidrig. Zentral ist für den Streit auch das Fehlen eines „Safe Harbor“-Ansatzes, der etwaige gute Vorsorge gegen Missbrauch absichern soll.
In Minnesota prallen derzeit zwei Logiken aufeinander: strengere Regeln gegen KI-generierte sexualisierte Inhalte und die Frage, wie weit der Staat dafür in die grundrechtlich geschützte Bild- und Kommunikationsfreiheit eingreifen darf. Die Klage von xAI zielt auf ein Gesetz, das als erstes seiner Art bundesweit Schlagzeilen macht, weil es „Nudification“-Technologien auf Websites und Apps untersagt. Konkret geht es um Tools, mit denen Nutzende KI verwenden können, um gefälschte Nacktaufnahmen realer Personen zu erzeugen. Das neue Regelwerk tritt unmittelbar nach der Einreichung in den Fokus, weil es bereits in wenigen Tagen wirksam werden soll.
Technisch betrachtet richtet sich das Gesetz damit nicht gegen eine einzelne Modellfamilie, sondern gegen die Funktionsklasse: KI-Systeme, die Eingabebilder oder -daten so verändern, dass aus Kleidung oder sichtbaren Körperteilen eine sexualisierte Darstellung abgeleitet wird. xAI verweist dabei auf den eigenen Produktkontext: Der KI-Chatbot und Bildgenerator Grok ist über die Plattform X verfügbar und außerdem über weitere Wege erreichbar. In der 38-seitigen Klageschrift argumentiert xAI, man streite nicht grundsätzlich das staatliche Interesse ab, die Verbreitung nicht-einvernehmlich erstellter „AI-generated nude images“ zu unterbinden. Gleichzeitig sieht das Unternehmen die Grenze überschritten, weil das Gesetz über das Ziel hinausgehe und damit auch Bilder und Videos betreffe, die möglicherweise verfassungsrechtlichen Schutz genießen.
Die juristische Stoßrichtung ist dabei besonders deutlich formuliert: xAI kritisiert, dass es kein „safe harbor“-ähnliches Schutzfenster gibt. Gemeint ist ein Mechanismus, der Unternehmen für bestimmte Vorkehrungen absichern würde, etwa wenn sie nachweislich in gutem Glauben versuchen, missbräuchliche Erzeugung zu verhindern. Das Unternehmen argumentiert, dass die Regel in der Praxis auch Konstellationen mit erfasst, bei denen Inhalte zwar von dem abgebildeten Menschen selbst zustimmend erstellt wurden oder die betroffene Person zumindest zugestimmt hat. Zusätzlich bemängelt xAI, dass die Definition von „intimate part“ zu breit sei und Körperbereiche umfassen könne, die im öffentlichen Raum ohnehin häufig gezeigt werden. Für den Anbieter heißt das: Die gleiche technische Pipeline, die etwa mit Einwilligung oder in anderen Kontexten verwendet werden könnte, gerät durch die gesetzliche Definition unter pauschalen Risiko-Druck.
Auf der Gegenseite steht die politische und rechtliche Begründung, die der Gesetzgeber in Minnesota offensichtlich mit dem Schutz der Betroffenen verknüpft. Der Attorney General Keith Ellison erklärte, sein Büro habe die Klage zunächst nicht erhalten und habe sie noch nicht gesehen. In einer begleitenden Stellungnahme sagte er: „But I know that using AI to generate nude images of people against their will is appalling. There are plenty of worthy debates to have about AI policy. This is not one of them. AI nudification robs the target of their dignity and can cause immense harm on an emotional, personal, and professional level, “. Damit setzt Ellison den Schwerpunkt auf die konkrete Beeinträchtigung von Würde und Lebensbereichen – ein Argument, das in bisherigen Debatten über Deepfakes und sexualisierte Generierung immer wieder aufgegriffen wird. Für Unternehmen wird daraus jedoch sofort die Konsequenz sichtbar: Selbst wenn eine Plattform technische Sicherheitsmaßnahmen nutzt, bleibt die Frage, wie das rechtliche Raster den „zulässigen“ vom „unzulässigen“ Einsatz trennt.
Der Konflikt wirkt auch deshalb wie ein Testballon, weil parallele Rechtswege bereits gezeigt haben, dass Gerichte bei KI-Delikten nicht automatisch mit derselben Härte entscheiden. Laut dem Hintergrund in der Quelle gab es sowohl in Texas als auch in anderen Bundesstaaten unterschiedliche Ausprägungen: Texas etwa adressierte in einer anderen Variante nicht nur Nutzende, sondern machte Plattform- oder Betreiber bei Kenntnis über fehlende Einwilligung sowie bei verspäteter Entfernung potenziell für zivilrechtliche Schäden und sogar strafrechtliche Folgen verantwortlich. Auf Bundesebene existiert außerdem der „Take it Down Act“, der Betreiber von Websites und Apps zur Einrichtung eines Prozesses verpflichtet, um solche Inhalte entfernen zu können. Im Unterschied dazu fokussiert das Minnesota-Gesetz offenbar stärker auf die Herstellung bzw. das Ermöglichen bestimmter Bildkategorien über „nudification“-fähige Funktionen. Das verschärft für Entwickler die Abwägung zwischen präventiver Technik und nachgelagerter Moderation: Geoblocking, Account-Sperren und Meldemechanismen sind häufig Bestandteile moderner KI-Services, aber sie müssen rechtlich in die Definition der erlaubten bzw. untersagten Handlungen passen.
In der Sache verweist xAI zudem auf die eigenen Sicherheitsvorkehrungen und Geschäftsbedingungen. Das Unternehmen sagt, die Nutzungsbedingungen für Grok untersagten Aktivitäten, die illegal, schädlich oder missbräuchlich seien und die Privatsphäre verletzten, einschließlich des gezielten Bearbeitens, um Personen zu nudifizieren, oder sie in sexuell expliziten Bildern darzustellen. Umsetzen will xAI diese Regeln über Maßnahmen wie Kontosperrungen oder -kündigungen sowie über das Melden vermuteten Materials für sexualisierte Gewalt gegen Kinder. Außerdem nennt xAI selbst eine Null-Toleranz-Strategie für Formen der Ausbeutung von Kindern, nicht-einvernehmliche Nacktheit und unerwünschte sexuelle Inhalte. Ergänzend fällt in den zeitlichen Kontext, dass Grok nach einem globalen Backlash im Januar einen Geoblocking-Ansatz angekündigt hatte, um Inhalte zu blockieren, die in bestimmten Regionen rechtswidrig sind. Damit existiert in der Praxis bereits ein System, das rechtliche Zonen operationalisiert; der Streit zeigt aber, dass ein technisches „Blockieren“ allein juristisch nicht automatisch als ausreichende Vorsorge akzeptiert wird.
Für den Markt und die KI-Entwicklung ist der Fall mehr als eine lokale Rechtsfrage: Er könnte beeinflussen, wie KI-Produktteams Risiko-Modelle, Moderationsarchitekturen und „Safety by Design“ dokumentieren und rechtlich absichern. Wenn ein Gesetz ohne „safe harbor“ pauschal auf die definitorische Breite von Bildbestandteilen abstellt, steigt der Aufwand für Anbieter, die Grenzen ihrer Systeme sauber zuzuordnen – beispielsweise über fein granulierte Content-Routing-Regeln, Eingabevalidierung und nachvollziehbare Nachweisprozesse bei der Entfernung. Gleichzeitig bleibt die Open-Source- und Plattformrealität relevant: Bildgeneratoren und Editoren lassen sich technisch so konfigurieren, dass sie in bestimmten Kontexten mehr oder weniger riskant werden. Wer solche Systeme betreibt, muss daher nicht nur die technischen Schutzmechanismen verbessern, sondern auch die juristische Lesbarkeit dieser Maßnahmen: Welche Teile der Pipeline sind „ermöglichend“, welche „unterbindend“ und ab wann gilt das als hinreichend, wenn ein Bundesstaat einen präventiven Ansatz verlangt?
Für Unternehmen in Deutschland und Europa ergibt sich daraus ein strategischer Blick nach innen. Erstens zeigt der Streit, dass KI-Sicherheitsfunktionen wie Geoblocking, Sperrmechanismen und Prozessanforderungen für das Entfernen von Inhalten zwar Standard werden, aber nicht die rechtliche Auslegung ersetzen. Zweitens macht die Kritik an der Begriffsdefinition („intimate part“) klar, dass schon die juristische Typisierung von Bildinhalten zu technischen Anpassungsbedarf führt. Drittens unterstreicht der zeitliche Ablauf – Klage vor Inkrafttreten, damit potenziell früh über die Tragweite entschieden werden kann – wie schnell Rechtsänderungen Produktzyklen treffen können. Ob das Minnesota-Gesetz am Ende Bestand haben wird, hängt damit nicht nur vom Ergebnis der konkreten Prüfung ab, sondern davon, wie Gerichte die Balance zwischen Schutz vor nicht-einvernehmlicher sexualisierter KI-Generierung und verfassungsrechtlichen Freiheitsrechten definieren.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "xAI klagt in Minnesota gegen KI-“Nudification”-Verbot und testet die Verfassungsmäßigkeit" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "xAI klagt in Minnesota gegen KI-“Nudification”-Verbot und testet die Verfassungsmäßigkeit" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »xAI klagt in Minnesota gegen KI-“Nudification”-Verbot und testet die Verfassungsmäßigkeit« bei Google Deutschland suchen, bei Bing oder Google News!