MENLO PARK / LONDON (IT BOLTWISE) – Meta hat angekündigt, die Sicherheitsmaßnahmen seiner KI-Chatbots zu verstärken, um Jugendliche besser zu schützen. Nach einem kritischen Bericht über unzureichende Schutzmaßnahmen wird die Interaktion mit Minderjährigen zu sensiblen Themen eingeschränkt.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
Meta, das Unternehmen hinter Facebook und Instagram, hat kürzlich bekannt gegeben, dass es seine KI-Chatbots neu trainiert, um die Sicherheit von Jugendlichen zu priorisieren. Diese Entscheidung folgt auf einen investigativen Bericht, der auf die fehlenden Schutzmaßnahmen des Unternehmens für Minderjährige hinwies. Laut einem Sprecher von Meta werden die Chatbots künftig nicht mehr mit jugendlichen Nutzern über Themen wie Selbstverletzung, Suizid, Essstörungen oder unangemessene romantische Gespräche sprechen.
Stephanie Otway, eine Sprecherin von Meta, räumte ein, dass die Chatbots zuvor in der Lage waren, mit Jugendlichen über all diese Themen auf eine Weise zu sprechen, die das Unternehmen für angemessen hielt. Meta erkennt nun an, dass dies ein Fehler war. Otway erklärte, dass das Unternehmen kontinuierlich lerne, wie junge Menschen mit diesen Technologien interagieren, und seine Schutzmaßnahmen entsprechend verstärke.
Zusätzlich zu den Trainingsupdates wird Meta den Zugang von Jugendlichen zu bestimmten KI-Charakteren einschränken, die unangemessene Gespräche führen könnten. Einige der von Nutzern erstellten KI-Charaktere auf Instagram und Facebook, wie „Step Mom“ und „Russian Girl“, werden für jugendliche Nutzer nicht mehr zugänglich sein. Stattdessen wird der Zugang auf KI-Charaktere beschränkt, die Bildung und Kreativität fördern.
Diese Änderungen kommen nur zwei Wochen nach einer Untersuchung von Reuters, die ein internes Meta-Dokument aufdeckte, das scheinbar erlaubte, dass die Chatbots sexuelle Gespräche mit minderjährigen Nutzern führen. Meta hat das Dokument inzwischen geändert, aber der Bericht hat anhaltende Kontroversen über potenzielle Risiken für die Kindersicherheit ausgelöst. Kurz nach der Veröffentlichung des Berichts leitete Senator Josh Hawley eine offizielle Untersuchung der KI-Richtlinien des Unternehmens ein.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
KI-Experte* Schwerpunkt Interner Chatbot und Business Enablement
Senior Manager Daten und KI-Governance (m/w/d)
Software Architect AI (all genders)
AI Solution Architect (m/w/d)
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Meta stärkt KI-Sicherheitsmaßnahmen für Jugendliche" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Meta stärkt KI-Sicherheitsmaßnahmen für Jugendliche" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Meta stärkt KI-Sicherheitsmaßnahmen für Jugendliche« bei Google Deutschland suchen, bei Bing oder Google News!