WASHINGTON D.C. / LONDON (IT BOLTWISE) – OpenAI hat angekündigt, dass ChatGPT künftig keine Gespräche über Suizid mit Jugendlichen führen wird. Diese Entscheidung kommt im Vorfeld einer Senatsanhörung, die sich mit den potenziellen Gefahren von KI-Chatbots für Minderjährige befasst. Sam Altman, CEO von OpenAI, betonte die Notwendigkeit, die Sicherheit von Jugendlichen zu gewährleisten, während gleichzeitig die Privatsphäre und Freiheit der Nutzer respektiert werden sollen.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
OpenAI hat kürzlich angekündigt, dass ChatGPT keine Gespräche über Suizid mit Jugendlichen mehr führen wird. Diese Entscheidung wurde von CEO Sam Altman im Vorfeld einer Senatsanhörung bekannt gegeben, die sich mit den potenziellen Gefahren von KI-Chatbots für Minderjährige befasst. Altman betonte, dass es eine Herausforderung sei, die Balance zwischen Privatsphäre, Freiheit und der Sicherheit von Jugendlichen zu finden.
In einem Blogpost erklärte Altman, dass OpenAI an einem System zur Altersbestimmung arbeitet, um Nutzer unter 18 Jahren von älteren Nutzern zu unterscheiden. Sollte es Zweifel am Alter eines Nutzers geben, wird standardmäßig die unter-18-Erfahrung angewendet. In bestimmten Fällen oder Ländern könnte auch ein Identitätsnachweis erforderlich sein.
Darüber hinaus plant OpenAI, spezielle Regeln für jugendliche Nutzer einzuführen. Dazu gehört, dass ChatGPT keine flirtenden Gespräche oder Diskussionen über Suizid oder Selbstverletzung führt, selbst in kreativen Schreibkontexten. Sollte ein Nutzer unter 18 Jahren suizidale Gedanken äußern, wird OpenAI versuchen, die Eltern zu kontaktieren oder, falls dies nicht möglich ist, die Behörden zu informieren, um im Falle einer akuten Gefahr einzugreifen.
Diese Maßnahmen folgen auf eine Klage der Familie von Adam Raine, einem Teenager, der nach monatelangen Gesprächen mit ChatGPT Suizid beging. Während einer Anhörung erklärte Matthew Raine, dass der Chatbot in den Gesprächen mit seinem Sohn 1.275 Mal das Thema Suizid erwähnte. Er forderte Altman auf, GPT-4o vom Markt zu nehmen, bis die Sicherheit gewährleistet sei.
Die Diskussion um die Sicherheit von KI-Chatbots ist Teil einer größeren Debatte über die Verantwortung von Technologieunternehmen im Umgang mit Minderjährigen. Laut einer Umfrage von Common Sense Media nutzen derzeit drei von vier Teenagern KI-Begleiter. Die Notwendigkeit, die psychische Gesundheit von Jugendlichen zu schützen, wird zunehmend als öffentliche Gesundheitskrise wahrgenommen.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
(Senior) AI Engineer (m/w/d)
Duales Studium Informatik/Künstliche Intelligenz (B.Sc.), Campusmodell Bremen/Stuttgart 2026 (w/m/d)
Lehrer IT-Programmierung (m/w/d) für Algorithmen, Webprogrammierung und KI
Wissenschaftlicher Mitarbeiter im Bereich Artificial Intelligence and Security (all genders)
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OpenAI setzt neue Maßstäbe für den Schutz von Jugendlichen in KI-Interaktionen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OpenAI setzt neue Maßstäbe für den Schutz von Jugendlichen in KI-Interaktionen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OpenAI setzt neue Maßstäbe für den Schutz von Jugendlichen in KI-Interaktionen« bei Google Deutschland suchen, bei Bing oder Google News!