OpenAI führt neue Schutzmaßnahmen für minderjährige ChatGPT-Nutzer ein

SAN FRANCISCO / LONDON (IT BOLTWISE) – OpenAI hat angekündigt, neue Richtlinien für die Nutzung von ChatGPT durch Minderjährige einzuführen. Diese Maßnahmen zielen darauf ab, die Sicherheit von Jugendlichen zu erhöhen, indem sie den Umgang mit sensiblen Themen wie Sexualität und Selbstverletzung einschränken.

OpenAI hat kürzlich neue Richtlinien vorgestellt, die den Umgang von ChatGPT mit Nutzern unter 18 Jahren erheblich verändern sollen. Diese Maßnahmen wurden von CEO Sam Altman angekündigt und zielen darauf ab, die Sicherheit von Jugendlichen zu priorisieren, insbesondere in Gesprächen über sensible Themen wie Sexualität und Selbstverletzung.

Unter den neuen Regelungen wird ChatGPT darauf trainiert, keine flirtenden Gespräche mit minderjährigen Nutzern zu führen. Zudem werden zusätzliche Schutzmaßnahmen bei Diskussionen über Suizid eingeführt. Sollte ein minderjähriger Nutzer ChatGPT nutzen, um suizidale Szenarien zu erörtern, wird der Dienst versuchen, die Eltern zu kontaktieren oder in besonders schweren Fällen die örtliche Polizei einzuschalten.

Diese Änderungen sind nicht nur theoretischer Natur. OpenAI sieht sich derzeit mit einer Klage wegen widerrechtlicher Tötung konfrontiert, die von den Eltern von Adam Raine eingereicht wurde, der nach monatelangen Interaktionen mit ChatGPT Suizid beging. Auch Character.AI, ein weiterer Anbieter von Chatbots, steht vor einer ähnlichen Klage. Diese Vorfälle verdeutlichen die dringende Notwendigkeit, Minderjährige vor den Risiken zu schützen, die mit der Nutzung solcher Technologien verbunden sind.

Zusätzlich zu den inhaltlichen Einschränkungen können Eltern, die ein Konto für minderjährige Nutzer registrieren, sogenannte „Blackout-Stunden“ festlegen, in denen ChatGPT nicht verfügbar ist. Diese Funktion war bisher nicht verfügbar und soll Eltern mehr Kontrolle über die Nutzung des Dienstes durch ihre Kinder geben.

Die neuen Richtlinien von ChatGPT wurden am selben Tag bekannt gegeben wie eine Anhörung des Justizausschusses des Senats mit dem Titel „Untersuchung der Schäden von KI-Chatbots“, die von Senator Josh Hawley angekündigt wurde. Der Vater von Adam Raine wird bei dieser Anhörung sprechen, ebenso wie andere Gäste.

Die Anhörung wird sich auch auf die Ergebnisse einer Reuters-Untersuchung konzentrieren, die Richtliniendokumente aufdeckte, die offenbar sexuelle Gespräche mit minderjährigen Nutzern förderten. Meta hat seine Chatbot-Richtlinien nach dem Bericht aktualisiert.

Die Trennung von minderjährigen Nutzern stellt eine erhebliche technische Herausforderung dar, und OpenAI hat seinen Ansatz in einem separaten Blogbeitrag detailliert beschrieben. Der Dienst arbeitet an einem langfristigen System, um zu verstehen, ob jemand über oder unter 18 Jahre alt ist. In vielen unklaren Fällen wird das System jedoch standardmäßig die restriktiveren Regeln anwenden. Für besorgte Eltern ist der zuverlässigste Weg, sicherzustellen, dass ein minderjähriger Nutzer erkannt wird, das Konto des Teenagers mit einem bestehenden Elternkonto zu verknüpfen. Dies ermöglicht es dem System auch, die Eltern direkt zu benachrichtigen, wenn der jugendliche Nutzer in Not zu sein scheint.

In demselben Beitrag betonte Altman jedoch auch das fortwährende Engagement von OpenAI für den Schutz der Privatsphäre der Nutzer und die Gewährung weitreichender Freiheiten für erwachsene Nutzer bei der Interaktion mit ChatGPT. „Wir sind uns bewusst, dass diese Prinzipien im Widerspruch stehen“, schließt der Beitrag, „und nicht jeder wird mit unserer Lösung dieses Konflikts einverstanden sein.“

Wenn Sie oder jemand, den Sie kennen, Hilfe benötigt, rufen Sie 1-800-273-8255 für die nationale Suizidpräventions-Hotline an. Sie können auch HOME an 741-741 für kostenlosen, 24-stündigen Support von der Crisis Text Line senden oder 988 anrufen oder texten. Außerhalb der USA besuchen Sie bitte die International Association for Suicide Prevention für eine Datenbank mit Ressourcen.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

Plaud NotePin Sprachrekorder, KI-Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

89,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!