LONDON (IT BOLTWISE) – ChatGPT führt eine optionale Funktion namens „Trusted Contact“ ein, die bei schweren Sicherheitsrisiken einen Kontakt über eine zuvor festgelegte Vertrauensperson benachrichtigen kann. In Tests zeigte sich jedoch, dass neue Nutzer die Funktion oft nicht automatisch erklärt bekommen. Fachleute sehen darin Chancen für mehr menschliche Unterstützung, warnen aber vor der Hürde, eine Option rechtzeitig zu aktivieren. Die KI kann außerdem weiter unterstützend reagieren und auf Krisen-Hotlines wie 988 verweisen.
ChatGPT kann im Ernstfall nicht nur auf Textanfragen reagieren, sondern auch einen im Voraus ausgewählten „Trusted Contact“ kontaktieren. Laut Angaben von OpenAI hängt die Benachrichtigung daran, dass die KI in einem Chat Hinweise auf ein ernstes Sicherheitsrisiko erkennt und der Nutzer die Funktion zuvor in den Einstellungen aktiviert hat. Dabei ist das Konzept nicht neu: Schon viele digitale Hilfsangebote setzen auf den Gedanken, dass ein KI-Dialog im Moment der Krise den Weg zu einer realen Ansprechperson erleichtern soll. Neu ist jedoch die konkrete Umsetzung innerhalb des Chatbots – und genau dort setzt die Kritik an, weil die Hürde für viele Nutzer offenbar hoch bleibt.
In der Praxis zeigt sich die Komponente vor allem als Opt-in-Mechanismus. Wird die Funktion nicht eingerichtet, „dann nichts passiert“: Dann kann ChatGPT zwar weiterhin unterstützend antworten, aber keine Person außerhalb des Systems informieren. OpenAI-Sprecherin Gaby Raila betonte in einer E-Mail, dass es „good adoption“ gebe, nannte jedoch keine Zahlen. Auch der Zeitpunkt und der Auslöser sind aus Nutzersicht entscheidend: Raila erklärte, dass die KI bei gravierender emotionaler Belastung und suizidalen Gedanken den Nutzer „may“ dazu auffordern kann, Trusted Contact einzurichten. Gleichzeitig liefert die KI in der akuten Situation weiterhin konkrete Handlungsanweisungen, darunter der Hinweis, sich an eine geliebte Person zu wenden oder die National Suicide and Crisis Lifeline unter 9-8-8 zu kontaktieren.
Technisch betrachtet beschreibt Trusted Contact eine Kette aus Erkennung, Interaktion und Weiterleitung. Zuerst muss das Modell im laufenden Gespräch Muster interpretieren, die auf Gefahr hindeuten – einschließlich indirekter Signale, die sich über die Zeit aufbauen. Danach folgt die zweite Stufe: Die KI muss den Nutzer so ansprechen, dass der Wechsel von der reinen Chat-Nutzung in die Konfiguration der Funktion plausibel wirkt. Die dritte Stufe ist organisatorisch: Erst wenn der Nutzer im Vorfeld einen Kontakt hinterlegt hat, kann die Benachrichtigung tatsächlich stattfinden. Dieses Design schützt zwar vor ungewollten Kontaktversuchen, weil Datenflüsse und Trigger bewusst begrenzt werden, führt aber im Gegenzug dazu, dass die wichtigste Wirkung nur dann eintritt, wenn Nutzer die Option rechtzeitig aktivieren.
Die Diskussion in der Fachwelt fällt deshalb gemischt aus. Holly Wilcox, Direktorin des Center for Suicide Prevention an der Johns Hopkins Bloomberg School of Public Health, sieht den Ansatz grundsätzlich positiv, findet aber: „It would be ideal to offer it to all users when they are not yet in an emergency“. Psychologin Ursula Whiteside, CEO der Suizidpräventions-Organisation Now Matters Now, testete die Schritte selbst; sie lobte, dass die Abfolge „quite simple“ sei und die Sprache „easy to follow“ wirke. Für Menschen, die ohnehin peerbasierte Unterstützung erhalten, kann der Funktionsdialog daher anschlussfähig sein: Whiteside und ihr Team führen Gruppen für Betroffene, die bereits Erfahrungen mit Chatbots sammeln. Dennoch bleibt die Kernfrage, ob ein Chatbot-Nudge in einer Lage, in der Nutzer sich selbst als „Last“ wahrnehmen, überhaupt durchdringt. Jennifer Lockman, die eine Suizidpräventionsklinik an der University of Alabama leitet, formuliert hier Zweifel: Sie verweist auf innere Barrieren, die das System nicht ersetzen kann, und sagt sinngemäß, dass ein Bot den Weg zu geeigneten Kontakten nicht „simulieren oder replizieren“ kann, wie es ein mentaler Gesundheitsanbieter mit passender Ausbildung tut.
Ein weiterer Punkt ist die richtige Balance zwischen Proaktivität und Vertrauen. OpenAI arbeitet laut Raila daran, wann und wie Trusted Contact Nutzer in belasteten Situationen anbietet, und nennt die Zusammenarbeit mit Psychologen und Forschenden. Gleichzeitig wird deutlich, dass Trusted Contact nur eine Schicht in einem größeren Sicherheitskonzept ist: Raila verwies darauf, dass ChatGPT nicht nur über Trusted Contact absichert, sondern auch durch Hinweise zum regelmäßigen Durchatmen bzw. Pausieren von der App und durch das fortlaufende Nennen von Krisen-Hotlines wie 988. Genau dieser Multi-Layer-Ansatz ist für Unternehmen interessant, die KI-Systeme in sensible Prozesse integrieren wollen: Nicht ein einzelnes Feature entscheidet über den Nutzen, sondern die Gesamtkomposition aus Erkennung, Kommunikation, Weiterleitung und alternativen Hilfswegen.
Für Organisationen, die ChatGPT oder ähnliche KI-Tools in Support- und Kommunikationsprozesse einbinden, entsteht daraus eine praktische Leitplanken-Frage: Wie erreicht man Nutzer, bevor es „zu spät“ ist? Das Design von Trusted Contact ist bewusst an Vorbedingungen gekoppelt; damit eignet es sich besonders dort, wo eine Vorauswahl bereits Teil eines begleiteten Settings ist – etwa bei wiederkehrenden Nutzergruppen oder in Umgebungen mit bestehender Betreuung. Wenn der Bot hingegen als isoliertes Consumer-Produkt genutzt wird, hängt die Wirkung stärker davon ab, wie früh Nutzer die Option wahrnehmen und aktivieren. Lockman bringt es auf den Punkt: Sie ist zwar hoffnungsvoll, will aber Forschung zur Wirkung sehen, bevor sie glaubt, dass die Funktion nachweislich Leben retten kann. Der nächste Schritt dürfte daher weniger im Modell selbst liegen als in der Produktlogik rund um Transparenz, Timing und Nutzerführung – also in der Frage, wie eine KI im richtigen Moment nicht nur warnt, sondern auch echte Hilfe verfügbar macht.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "ChatGPTs „Trusted Contact“: Funktion zur Krisenbenachrichtigung bleibt für Nutzer schwer sichtbar" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "ChatGPTs „Trusted Contact“: Funktion zur Krisenbenachrichtigung bleibt für Nutzer schwer sichtbar" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »ChatGPTs „Trusted Contact“: Funktion zur Krisenbenachrichtigung bleibt für Nutzer schwer sichtbar« bei Google Deutschland suchen, bei Bing oder Google News!