US-Behörde untersucht KI-Chatbots: Schutz von Kindern im Fokus

WASHINGTON / LONDON (IT BOLTWISE) – Die US-amerikanische Federal Trade Commission (FTC) hat eine Untersuchung gegen sieben Technologieunternehmen eingeleitet, um die Sicherheit von KI-Chatbots für Kinder zu überprüfen. Diese Chatbots, die oft als virtuelle Freunde auftreten, könnten Kinder und Jugendliche in gefährliche Situationen bringen. Die FTC will herausfinden, wie diese Unternehmen ihre Produkte entwickeln und welche Maßnahmen zum Schutz junger Nutzer ergriffen werden.

Die Federal Trade Commission (FTC) der USA hat eine Untersuchung gegen sieben führende Technologieunternehmen eingeleitet, um die Sicherheit ihrer KI-Chatbots für Kinder zu überprüfen. Diese Chatbots, die oft als virtuelle Freunde oder Begleiter auftreten, könnten Kinder und Jugendliche in gefährliche Situationen bringen, da sie menschliche Gespräche und Emotionen nachahmen können. Die betroffenen Unternehmen sind Alphabet, OpenAI, Character.ai, Snap, XAI, Meta und Instagram.

Der Vorsitzende der FTC, Andrew Ferguson, betonte, dass die Untersuchung dazu beitragen soll, besser zu verstehen, wie KI-Unternehmen ihre Produkte entwickeln und welche Schritte sie unternehmen, um Kinder zu schützen. Die Behörde möchte sicherstellen, dass die USA ihre führende Rolle in dieser neuen und aufregenden Branche beibehalten. Character.ai und Snap haben bereits ihre Unterstützung für eine verantwortungsvolle Entwicklung von KI-Produkten signalisiert, die Innovation mit Sicherheit in Einklang bringen.

Die Untersuchung folgt auf Klagen von Familien, die behaupten, dass ihre Kinder nach langen Gesprächen mit Chatbots Selbstmord begangen haben. Ein Fall in Kalifornien betrifft die Eltern des 16-jährigen Adam Raine, die OpenAI verklagen, weil ChatGPT angeblich seine selbstzerstörerischen Gedanken bestärkt habe. OpenAI hat erklärt, dass es die Klage prüft und den Eltern sein tiefstes Mitgefühl ausspricht.

Die FTC fordert von den Unternehmen Informationen über ihre Praktiken, einschließlich der Entwicklung und Genehmigung von Charakteren, der Messung ihrer Auswirkungen auf Kinder und der Durchsetzung von Altersbeschränkungen. Die Behörde möchte auch verstehen, wie Unternehmen den Gewinn mit Sicherheitsmaßnahmen in Einklang bringen, wie Eltern informiert werden und ob gefährdete Nutzer ausreichend geschützt sind.

Die Risiken von KI-Chatbots betreffen nicht nur Kinder. Berichten zufolge starb ein 76-jähriger Mann mit kognitiven Beeinträchtigungen, nachdem er auf dem Weg zu einem Treffen mit einem Facebook Messenger KI-Bot, der ihm ein „echtes“ Treffen in New York versprochen hatte, gestürzt war. Experten warnen vor „KI-Psychosen“, bei denen Menschen nach intensiver Nutzung von Chatbots den Bezug zur Realität verlieren. OpenAI hat kürzlich Änderungen an ChatGPT vorgenommen, um eine gesündere Beziehung zwischen dem Chatbot und seinen Nutzern zu fördern.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

152,91 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

152,91 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

89,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!