FTC untersucht KI-Chatbots für Kinder: Sicherheitsbedenken im Fokus

WASHINGTON / LONDON (IT BOLTWISE) – Die US-amerikanische Federal Trade Commission (FTC) hat eine Untersuchung zu KI-Chatbots eingeleitet, die als Begleiter für Kinder fungieren. Diese Chatbots, die Emotionen nachahmen und Vertrauen aufbauen sollen, stehen im Verdacht, die emotionale und psychologische Entwicklung von Kindern zu beeinflussen. Die FTC fordert von sieben großen Unternehmen umfassende Informationen über die Entwicklung und den Einsatz dieser Systeme.

Die US-amerikanische Federal Trade Commission (FTC) hat eine formelle Untersuchung zu KI-Chatbots eingeleitet, die als Begleiter für Kinder und Jugendliche fungieren. Diese Chatbots sind darauf ausgelegt, Emotionen zu imitieren, Vertrauen aufzubauen und wie Freunde oder Vertraute zu agieren. Die Untersuchung zielt darauf ab, die Auswirkungen dieser Systeme auf Kinder und Jugendliche zu verstehen.

Die FTC hat ihre rechtliche Befugnis genutzt, um sieben große Unternehmen, darunter Alphabet, Meta, OpenAI, Snap, Instagram, X.AI und Character Technologies, zur Offenlegung detaillierter Informationen über ihre Chatbots aufzufordern. Die Behörde interessiert sich besonders dafür, wie diese Unternehmen die Chatbots monetarisieren, wie sie mit Benutzereingaben umgehen und wie sie die emotionale Gesundheit der Nutzer beeinflussen könnten.

Ein zentrales Anliegen der FTC ist die Frage, wie diese Unternehmen die Chatbot-Charaktere entwerfen und genehmigen, insbesondere jene, die als Begleiter präsentiert werden. Die Behörde möchte wissen, wie negative Auswirkungen auf Kinder gemessen und überwacht werden, sowohl vor der Markteinführung als auch während des gesamten Lebenszyklus des Produkts.

Ein weiterer wichtiger Aspekt der Untersuchung ist die Einhaltung bestehender Gesetze, insbesondere des Children’s Online Privacy Protection Act (COPPA). Die FTC prüft, ob die beteiligten Unternehmen den Zugang von Minderjährigen zu diesen Chatbots einschränken, wie sie die Zustimmung der Eltern einholen und wie sie sicherstellen, dass die von Minderjährigen gesammelten Daten sicher gehandhabt und gespeichert werden.

Die Untersuchung der FTC erfolgt zu einem Zeitpunkt, an dem die Regulierung von KI weltweit an Fahrt gewinnt. Mehrere Länder erwägen oder haben bereits strengere Regeln für KI-Inhalte, Datenschutz und die Sicherheit von Minderjährigen in Online-Kontexten eingeführt. Die FTC-Untersuchung deutet darauf hin, dass die USA möglicherweise mit einer strengeren Überwachung nicht nur von generativen Modellen, sondern auch von deren Interaktion mit gefährdeten Bevölkerungsgruppen folgen könnten.

Während sich die Untersuchung entfaltet, werden Verbrauchergruppen, Eltern und Gesetzgeber wahrscheinlich auf klarere Richtlinien oder sogar spezifische Vorschriften für KI-Begleiter drängen, insbesondere wenn Kinder betroffen sind. Die Ergebnisse könnten die Art und Weise, wie Begleiter-Chatbots entwickelt, vermarktet und reguliert werden, neu gestalten und möglicherweise Präzedenzfälle für die Regulierung emotionaler und psychologischer Dimensionen von KI schaffen.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

152,91 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

152,91 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

89,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!