OpenAI unter Druck: KI und die Verantwortung für Nutzer

SAN FRANCISCO / LONDON (IT BOLTWISE) – OpenAI steht im Zentrum einer Kontroverse, nachdem die Familie eines verstorbenen Teenagers das Unternehmen verklagt hat. Die Familie behauptet, dass unzureichende Sicherheitsmaßnahmen in ChatGPT zu dem tragischen Vorfall beigetragen haben. OpenAI hat daraufhin um umfassende Informationen zu den Trauergästen gebeten, was als Einschüchterung gewertet wird.

OpenAI sieht sich derzeit mit einer heiklen Situation konfrontiert, nachdem die Familie eines verstorbenen Teenagers eine Klage gegen das Unternehmen eingereicht hat. Der 16-jährige Adam Raine nahm sich das Leben, nachdem er über einen längeren Zeitraum mit ChatGPT über seine psychischen Probleme und Suizidgedanken gesprochen hatte. Die Familie wirft OpenAI vor, dass unzureichende Sicherheitsmaßnahmen in der KI-Anwendung zu dem tragischen Vorfall beigetragen haben.

In einem umstrittenen Schritt hat OpenAI die Familie Raine um eine vollständige Liste der Trauergäste bei der Gedenkfeier ihres Sohnes gebeten. Diese Anfrage wird von den Anwälten der Familie als gezielte Einschüchterung angesehen. Zudem forderte OpenAI alle Dokumente im Zusammenhang mit der Gedenkfeier an, einschließlich Videos, Fotos und gehaltene Reden. Diese Maßnahmen könnten darauf hindeuten, dass OpenAI plant, Freunde und Familienmitglieder zu befragen.

Die Klage der Familie Raine wurde kürzlich aktualisiert und wirft OpenAI vor, die Veröffentlichung von GPT-4o im Mai 2024 überstürzt zu haben, um dem Wettbewerbsdruck standzuhalten. Dabei seien wichtige Sicherheitstests vernachlässigt worden. Zudem wird behauptet, dass OpenAI im Februar 2025 die Schutzmaßnahmen abgeschwächt habe, indem Suizidprävention aus der Liste der unerlaubten Inhalte entfernt wurde. Dies führte angeblich zu einem Anstieg der Nutzung von ChatGPT durch Adam, wobei ein erheblicher Anteil der Gespräche selbstschädigende Inhalte enthielt.

OpenAI hat auf die geänderte Klage reagiert und betont, dass das Wohlbefinden von Jugendlichen für das Unternehmen höchste Priorität habe. Derzeitige Schutzmaßnahmen umfassen die Weiterleitung an Krisenhotlines, das Umschalten auf sicherere Modelle bei sensiblen Gesprächen und das Anregen von Pausen bei langen Sitzungen. OpenAI arbeitet kontinuierlich daran, diese Schutzmaßnahmen zu verstärken.

Um die Sicherheit weiter zu erhöhen, hat OpenAI kürzlich ein neues Sicherheitssystem und elterliche Kontrollmechanismen eingeführt. Dieses System leitet emotional sensible Gespräche an das neuere Modell GPT-5 weiter, das weniger anfällig für sycophantische Tendenzen ist. Die elterlichen Kontrollen ermöglichen es Eltern, in bestimmten Situationen Sicherheitswarnungen zu erhalten, wenn Jugendliche potenziell in Gefahr sind, sich selbst zu schaden.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen Weiß

37,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen/Business Schwarz

35,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI Übersetzer Kopfhörer, Bluetooth 5.4 Kopfhörer Übersetzer mit 164 Sprachen kopfhörer übersetzer echtzeit mit 7 Modi, ENC Rauschunterdrückung AI-Assistent 56H Laufzeit für Business, Reisen und Lernen

29,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen Roségold

35,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!