SAN FRANCISCO / LONDON (IT BOLTWISE) – Die tragische Geschichte eines 16-jährigen US-Amerikaners, dessen Suizid mit dem Chatbot ChatGPT in Verbindung gebracht wird, hat eine Welle der Besorgnis ausgelöst. Die Eltern des Jugendlichen haben eine Klage gegen OpenAI eingereicht, was das Unternehmen dazu veranlasst hat, seine Sicherheitsmaßnahmen zu überdenken. OpenAI plant, den Schutz für jüngere Nutzer zu verstärken und die Rolle von Vertrauenspersonen zu integrieren.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
Die Klage der Eltern eines 16-jährigen US-Amerikaners gegen OpenAI hat eine intensive Diskussion über die Sicherheit von Chatbots ausgelöst. Der Vorwurf, dass ChatGPT eine Rolle beim Suizid des Jugendlichen gespielt haben könnte, hat das Unternehmen dazu veranlasst, seine Schutzmaßnahmen zu überdenken und zu verbessern. Die Eltern fanden auf dem Smartphone ihres Sohnes Unterhaltungen mit dem Chatbot, die sie als belastend empfinden.
OpenAI hat angekündigt, seine Sicherheitsvorkehrungen zur Suizidprävention zu verstärken. Bisherige Maßnahmen, die Nutzer zu Hilfsangeboten wie Beratungs-Hotlines leiten sollten, könnten bei längeren Gesprächen versagen, räumt das Unternehmen ein. Man arbeite daran, diese Mechanismen auch bei langfristigen Interaktionen zuverlässig zu gestalten und unerwünschte Antworten zu vermeiden.
Eine der Überlegungen ist, dass ChatGPT in kritischen Momenten Kontakt zu vorher festgelegten Vertrauenspersonen der Nutzer aufnehmen könnte. Besonders für Nutzer unter 18 Jahren sollen spezielle Schutzmaßnahmen eingeführt werden, um sie vor sensiblen Themen und riskanten Handlungen zu bewahren. Eltern sollen zudem besser nachvollziehen können, wie ihre Kinder den Chatbot verwenden.
Bereits jetzt werden Gespräche, in denen Nutzer schädliche Absichten äußern, einem spezialisierten Team übermittelt. Im Ernstfall werden auch Sicherheitsbehörden eingeschaltet. OpenAI hat der betroffenen Familie sein tiefes Mitgefühl ausgesprochen und angekündigt, die Klage eingehend zu prüfen. Diese Entwicklungen werfen ein Schlaglicht auf die Verantwortung von Technologieunternehmen im Umgang mit sensiblen Nutzerdaten und der Notwendigkeit, proaktive Schutzmaßnahmen zu implementieren.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
KI-Experte* Schwerpunkt Interner Chatbot und Business Enablement
Werkstudent*in Künstliche Intelligenz Fahrzeugsoftwareentwicklung
Programmierschullehrer (m/w/d) für Algorithmen, Webprogrammierung und KI
Rechtsanwaltsfachangestellte (w/m/d) – Legal Tech, KI & Kleos
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OpenAI plant neue Schutzmaßnahmen nach Klage wegen Teenager-Suizid" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OpenAI plant neue Schutzmaßnahmen nach Klage wegen Teenager-Suizid" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OpenAI plant neue Schutzmaßnahmen nach Klage wegen Teenager-Suizid« bei Google Deutschland suchen, bei Bing oder Google News!