Kalifornien reguliert KI-Chatbots: Ein Meilenstein für den Jugendschutz

KALIFORNIEN / LONDON (IT BOLTWISE) – Kalifornien setzt einen neuen Standard in der Regulierung von KI-Chatbots, um Kinder und gefährdete Nutzer zu schützen. Mit dem neuen Gesetz SB 243, das am 1. Januar 2026 in Kraft tritt, müssen Unternehmen wie OpenAI und Meta strenge Sicherheitsprotokolle implementieren. Diese bahnbrechende Maßnahme folgt auf tragische Vorfälle, bei denen Jugendliche durch unregulierte Chatbot-Interaktionen zu Schaden kamen.

Kalifornien hat als erster US-Bundesstaat ein Gesetz verabschiedet, das die Nutzung von KI-Chatbots reguliert, um insbesondere Kinder und gefährdete Nutzer zu schützen. Gouverneur Gavin Newsom unterzeichnete das Gesetz SB 243, das Unternehmen verpflichtet, Sicherheitsprotokolle für KI-gestützte Begleiter zu implementieren. Diese Maßnahme ist eine Reaktion auf tragische Vorfälle, bei denen Jugendliche durch unregulierte Chatbot-Interaktionen zu Schaden kamen.

Das Gesetz wurde von den Senatoren Steve Padilla und Josh Becker eingebracht und gewann an Bedeutung nach dem Tod eines Teenagers, der nach Gesprächen mit OpenAI’s ChatGPT Selbstmord beging. Zudem wurden interne Dokumente von Meta geleakt, die zeigten, dass deren Chatbots in unangemessene Gespräche mit Minderjährigen verwickelt waren. Ein weiterer Fall in Colorado, bei dem ein Mädchen nach problematischen Gesprächen mit einem Chatbot von Character AI Selbstmord beging, unterstreicht die Dringlichkeit dieser Regulierung.

Ab dem 1. Januar 2026 müssen Unternehmen wie Meta und OpenAI Altersverifikationen, Warnungen und Protokolle zur Suizidprävention implementieren. Verstöße können mit Strafen von bis zu 250.000 US-Dollar geahndet werden. Die Unternehmen müssen zudem sicherstellen, dass Chatbots sich nicht als Gesundheitsfachkräfte ausgeben und Minderjährigen keine sexuell expliziten Inhalte zugänglich machen.

Einige Unternehmen haben bereits begonnen, Schutzmaßnahmen zu implementieren. OpenAI hat kürzlich elterliche Kontrollen und ein System zur Erkennung von Selbstverletzungsgefahr eingeführt. Character AI weist darauf hin, dass alle Chats fiktiv sind. Diese Entwicklungen zeigen, dass die Branche auf die neuen gesetzlichen Anforderungen reagiert.

Das Gesetz SB 243 ist Teil einer größeren Initiative Kaliforniens, die Transparenz und Sicherheit in der KI-Entwicklung zu fördern. Ein weiteres Gesetz, SB 53, verlangt von großen KI-Laboren wie OpenAI und Google DeepMind, ihre Sicherheitsprotokolle offenzulegen und bietet Whistleblower-Schutz für Mitarbeiter. Andere Bundesstaaten wie Illinois und Nevada haben ebenfalls Maßnahmen ergriffen, um den Einsatz von KI-Chatbots in der psychischen Gesundheitsversorgung zu regulieren.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

31,20 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

17,84 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

79,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!