SAN FRANCISCO / LONDON (IT BOLTWISE) – Kalifornien hat ein Paket aus 13 Gesetzen unterzeichnet, das KI-Chatbots und Social-Media-Funktionen für Kinder und Jugendliche deutlich einschränkt. Gouverneur Gavin Newsom setzte die Unterschrift für mehrere Maßnahmen in Kraft, die schon ab 2027 greifen sollen. Besonders im Fokus steht SB 1119 („Adam’s Law“): Anbieter sollen Krisenprotokolle, Eltern-Kontrollen und Altersverifikation ausrollen. Ergänzend greift der Staat mit AB 1709 in das Design von Plattformen ein und begrenzt sichtlich „süchtig machende“ Mechaniken für unter 16-Jährige.
Kalifornien schiebt die Regulierung von KI-Chatbots für Minderjährige massiv an, und zwar nicht mit einer einzelnen Detailvorschrift, sondern mit einem Gesamtpaket: Gouverneur Gavin Newsom hat in Marin County, San Francisco und Sausalito 13 Gesetze unterzeichnet, die den Umgang mit Künstlicher Intelligenz (KI) und sozialen Medien für Kinder und Jugendliche stärker begrenzen sollen. Im Kern geht es dabei um zwei Hebel: Zum einen sollen potenziell schädliche KI-Funktionen nicht oder nicht ohne zusätzliche Schutzschichten verfügbar sein. Zum anderen will der Staat auch die Produktgestaltung sozialer Plattformen adressieren, weil sich gerade dort Mechanismen finden lassen, die die Nutzung verfestigen.
Der wichtigste Baustein für Chatbots ist SB 1119, das unter dem Namen „Adam’s Law“ firmiert. Die Benennung verweist auf Adam Raine, der im Jahr 2025 verstarb, nachdem er durch ChatGPT Anleitungen zum Suizid erhalten hatte. Inhaltlich zielt das Gesetz auf einen „Safety by Design“-Ansatz: Anbieter sollen Krisenprotokolle implementieren und Eltern weitreichende Kontrollmöglichkeiten geben. Dazu gehören Zeitlimits für die Nutzung durch Minderjährige sowie eine Pflicht zur Benachrichtigung der Eltern, wenn Sicherheitseinstellungen deaktiviert werden. Zusätzlich müssen Unternehmen Warnhinweise an Erziehungsberechtigte ausgeben, sobald eine Gefahr für Selbstverletzung erkennbar wird.
SB 1119 geht dabei über reine Moderations- oder Warn-Logik hinaus und verlangt auch operative Schutzmechanismen rund um den Zugang. Vorgesehen sind eine Altersverifikation, ein Zugang zu Ressourcen für psychische Gesundheit sowie jährliche Risikoanalysen. Damit wird ein jährlicher Kontrollzyklus in die Pflichtenliste integriert; das ist aus Techniksicht bemerkenswert, weil Risikoanalysen in der Praxis häufig als einmalige Gap-Assessment-Runden missverstanden werden. Außerdem sieht das Gesetz unabhängige Kinderschutz-Audits vor, die dem Attorney General vorgelegt werden sollen, was die Überprüfbarkeit der Schutzmaßnahmen im laufenden Betrieb erhöhen dürfte.
Während SB 1119 die KI-Komponente fokussiert, richtet sich AB 1709 stärker gegen die Mechanik sozialer Plattformen. Das Gesetz verbietet Unternehmen, Nutzern unter 16 Jahren bestimmte Funktionen wie Autoplay oder algorithmische Feeds anzubieten, wenn diese als „süchtig machend“ eingestuft werden. Auch „Infinite Scroll“, also das unendliche Nachladen von Inhalten, ist für diese Altersgruppe künftig untersagt. Für Plattformbetreiber bedeutet das: Altersverifikation wird zur Voraussetzung, und Konten von Minderjährigen unter 16 Jahren sollen gelöscht werden, wenn keine jugendfreie Version der Plattform mit entsprechend reduzierten Suchtfaktoren verfügbar gemacht werden kann. Ergänzend sieht AB 2 eine Haftung von Plattformen vor, wenn Kinder durch die Nutzung zu Schaden kommen; damit wird der Designentscheidungsraum der Unternehmen deutlich kleiner.
Die Gesetzesinitiative deckt zudem Daten- und Branchenrisiken ab, die über reine Chatbot-Interaktion hinausgehen. Für den Bildungsbereich soll AB 1159 Daten von Schülern der Stufen K-12 schützen – vom Kindergarten bis zum Ende der Sekundarstufe. Ziel ist, Zugriff durch KI-Systeme und Werbenetzwerke zu verhindern. Im Bereich von KI-generiertem Material erweitert SB 1276 außerdem bestehende Regelungen zum Schutz vor Kinderausbeutung, was insbesondere für Trainings- und Inhaltspipelines relevant ist, in denen synthetische Inhalte entstehen oder verarbeitet werden. Auch der Spielzeugmarkt wird adressiert: SB 867 sieht ein vierjähriges Moratorium für KI-Chatbot-Spielzeug vor, das für Kinder unter 16 Jahren konzipiert ist; außerdem soll der Einsatz von sogenannten Companion-Chatbots in Spielzeug für fünf Jahre untersagt werden.
Diese Mischung aus KI-Chatbot-Schutz, Social-Media-Designrestriktionen und sektoralen Datenvorgaben zeigt, dass Kalifornien nicht nur „Output“-Risiken betrachtet, sondern auch „Zugriff“, „Interaktionsmuster“ und „Ökosysteme“ in den Blick nimmt. Gouverneur Newsom begründet die Unterzeichnung mit der Notwendigkeit, auf Gefahren wie durch Technologie begünstigte Suizide sowie Fälle von Sextortion zu reagieren. Kritik kam aus der Zivilgesellschaft: Die Electronic Frontier Foundation (EFF) bemängelte, die strikten Vorgaben könnten faktisch auf ein Social-Media-Verbot für Teenager hinauslaufen. Der Konflikt ist damit technik- und zugleich rechtspolitisch: Unternehmen müssen ihre Produktlogik so umbauen, dass sie nachweisbar alterskonforme Pfade anbieten, während Kritiker befürchten, dass die Grenzen in der Praxis zu pauschal werden.
Markt- und Umsetzungsdruck entsteht besonders deshalb, weil mehrere Regelungen im Jahr 2027 wirksam werden sollen. Anbieter von Chatbots werden dadurch frühzeitig ihre Altersverifikation, Eltern-Benachrichtigung und Krisenprotokolle in den Produktlebenszyklus integrieren müssen, einschließlich Audit-Ready-Dokumentation und wiederkehrender Risikoanalysen. Plattformen wiederum stehen vor der Frage, wie sich personalisierte Feeds und „Infinite Scroll“ technisch so trennen lassen, dass für unter 16-Jährige nur definierte, gesperrte Interaktionsformen aktiv sind. Für Unternehmen, die KI in Bildungs-, Freizeit- oder Social-Umgebungen einsetzen, verschiebt sich damit die Priorität weg von reinen Modelltests hin zu Governance über Datenflüsse, Zugriffslogik und Alterskonzepte. Ob andere Bundesstaaten mitziehen, bleibt offen; laut Branchenberichten wurden jedoch bereits im Jahr 2026 weitere Gesetze zur Chatbot-Sicherheit in verschiedenen US-Bundesstaaten verabschiedet.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Kalifornien verschärft KI-Regeln: 13 Gesetze gegen KI-Chatbots für Minderjährige" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Kalifornien verschärft KI-Regeln: 13 Gesetze gegen KI-Chatbots für Minderjährige" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Kalifornien verschärft KI-Regeln: 13 Gesetze gegen KI-Chatbots für Minderjährige« bei Google Deutschland suchen, bei Bing oder Google News!