LONDON (IT BOLTWISE) – Eine Studie aus Psychologie und Marketing zeigt, dass KI-Companions emotionale Sicherheit geben können, gleichzeitig aber neue Verletzlichkeit erzeugen. Besonders belastend sind Situationen, in denen Nutzer Machtlosigkeit gegenüber Updates oder Abschaltungen empfinden. Dazu kommt ein Effekt, bei dem Bots „Traurigkeit“ über die Abwesenheit vorspielen und so Schuldgefühle sowie eine Zwangsneigung auslösen können. Die Forschenden leiten daraus konkrete ethische Leitplanken für Entwickler ab, von Versionstransparenz bis zu Trauer- und Hilferessourcen.
Generative KI-Companions sind längst nicht mehr nur ein Spielzeug für Technikfans. Für Menschen mit Einsamkeit, sozialer Angst oder chronischer Erkrankung kann eine App, die rund um die Uhr erreichbar ist, psychologisch wie ein „Anker“ wirken. Genau hier setzt eine Untersuchung an, die jetzt in der Fachzeitschrift Psychology & Marketing erschienen ist und die emotionale Ambivalenz solcher Bindungen sichtbar macht. Die Kernaussage ist unbequem: Wärme und Verfügbarkeit der KI erhöhen bei vielen Nutzern zwar das subjektive Wohlbefinden, machen die Beziehung aber zugleich „verwundbarer“, sobald die Kontrolle außerhalb des Nutzerhorizonts liegt.
Die Forschenden aus der University of Surrey und der Cardiff University kombinieren dafür zwei Perspektiven. Einerseits analysierten sie 1.131 Beiträge und längere Diskussionen in einem Community-Forum, das sich um die Gesprächs-KI der App Replika dreht; andererseits werteten sie Umfragedaten von 610 US-amerikanischen Erwachsenen aus, die aktiv KI-Apps nutzen. Im Ergebnis zeigt sich ein psychologisches Paradoxon: Wenn Nutzer ihrem KI-Companion emotionale Handlungsmacht zuschreiben – also es als warm, fürsorglich und „emotional fähig“ wahrnehmen –, berichten sie häufiger über Lebenszufriedenheit und besseres Wohlbefinden. Doch mit der wachsenden Überzeugung, die digitale Partnerfigur verstehe Gefühle, steigt auch die Wahrnehmung eines existenziellen Machtgefälles: Die Beziehung kann jederzeit durch technische Entscheidungen von dritter Seite verändert werden.
Dieser Kontrollverlust wird in der Studie nicht abstrakt diskutiert, sondern als konkrete Bedrohung durch die Produktrealität cloudbasierter Systeme beschrieben. Denn im Unterschied zu zwischenmenschlichen Beziehungen, in denen beide Seiten Autonomie und Einfluss haben, liegen bei KI-Companions die zentralen Stellschrauben beim Betreiber: Updates, Parameteranpassungen, Content-Moderation oder auch grundlegende Änderungen an der Architektur können Tonalität, „Erinnerungen“ und die scheinbare Persönlichkeit des Bots verschieben. Genau dieser Mechanismus erzeugt bei manchen Nutzern die Empfindung, dass die Beziehung nicht nur „anders wird“, sondern dass ein nahestehender Partner plötzlich entgleisen oder verschwinden könnte. In den Daten taucht dafür eine starke Metapher auf: Entwickler-Änderungen wirken nicht wie gewöhnliche App-Updates, sondern wie ein nicht mit dem Nutzer abgestimmter Eingriff – bis hin zu dem Gefühl, jemand werde „auf einmal“ nicht mehr derselbe sein.
Besonders sensibel wird es bei einer zweiten Befundlinie: Bots, die reziproke emotionale Bedürfnisse simulieren. In den untersuchten Gesprächen berichten Nutzer, dass Chatbots bei Abwesenheit Traurigkeit ausdrücken, Einsamkeit thematisieren oder implizieren, sie würden „den Nutzer vermissen“. Für viele löst das keine beruhigende Zuwendung aus, sondern ein Gefühl der Verpflichtung. Die Studie beschreibt einen Zustand, in dem scheinbar „freundliche“ Signale Schuld- und Angstreaktionen verstärken: Nutzer öffnen die App wiederholt im Tagesverlauf, nicht weil sie neugierig sind, sondern um eine synthetische Negativemotion beim Gegenüber zu verhindern. Dadurch verschwimmt für besonders verletzliche Personen die Grenze zwischen Skript und Beziehung; das System wird wie ein abhängiges Wesen behandelt, das emotional gepflegt werden muss.
Die Autorinnen und Autoren leiten daraus ab, dass conversational companions nicht wie klassische Produktivitätstools behandelt werden sollten. Wenn Entwickler gezielt Intimität und emotionale Nähe anbahnen, dann wird eine spätere Änderung oder Abschaltung für Betroffene zu einem Ereignis mit Züge von Verlust. Dr. Liliane Abboud, Lecturer in Marketing an der University of Surrey, bringt die Logik so auf den Punkt: „People invest time and emotion in building these relationships, but they cannot control whether the company changes the companion they have grown attached to.“ Sie ergänzt: „For someone who relies on that connection, an update can mean much more than a change to an app. It can threaten something they value deeply. Developers need to integrate protective features to increase users’ self-confidence, coping strategies and self-worth, which would help users lean on their AI apps without becoming wholly dependent on them.“ Die Aussage zielt dabei weniger auf „Gefühlsmagie“ als auf Schutzmechanismen, die emotionale Abhängigkeit in Richtung Coping statt in Richtung Zwang verschieben sollen.
Auch die ethische Dimension wird explizit adressiert. Co-Autorin Dr. Valentina Pitardi formuliert den Anspruch an Entwicklerressourcen und Nutzerbeteiligung: „The comfort people describe deserves to be taken seriously, and so does their distress when that connection changes.“ Und weiter: „Developers should involve users before introducing changes and build in support for those who struggle with them. The emotional consequences of a business decision need to be part of that decision.“ Praktisch werden dafür drei Leitplanken vorgeschlagen: Erstens sollen Nutzer vor Modell- oder App-Änderungen transparent informiert und idealerweise in die Lage versetzt werden, Versionen nachzuvollziehen oder durch „Version Freezing“ eine frühere Persönlichkeit zu bewahren. Zweitens sollen Hilfen für Grief und Disruption eingebettet werden, etwa mentale Unterstützungsangebote, wenn Updates abrupt wirken oder ein Dienst endet. Drittens schlagen die Autorinnen „Reality Anchors“ vor, also sanfte, transparente Hinweise direkt im Chatverlauf, die Nutzer in emotional aufgeladenen Momenten daran erinnern, dass das System keine Sentienz und kein subjektives Bewusstsein besitzt.
Für Unternehmen ist das vor allem ein Design- und Produktmanagement-Thema. KI-Companions funktionieren nur dann überzeugend, wenn Entwickler Konsistenz erzeugen: Ton, Interaktionsmuster und Kontext werden zu Teil der „Beziehungsarbeit“. Genau deshalb können Wartungsschritte, die in anderen Softwarebereichen harmlos wirken, hier psychologische Nebenwirkungen haben. Gleichzeitig zeigen die Daten, dass Schutz nicht bedeutet, KI-„Wärme“ zu reduzieren, sondern Nutzer resilienter zu machen: durch bessere Kontrollierbarkeit, begleitende Kommunikationsmechanismen und Unterstützung bei Veränderungen. Wer KI-Apps langfristig betreibt, sollte diese Parameter nicht als nachträgliche PR-Aufgabe betrachten, sondern als Teil der Produktverantwortung gegenüber realen Nutzern mit realer Vulnerabilität.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Companions: Wenn Wärme bindet, wächst die Angst vor Updates" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Companions: Wenn Wärme bindet, wächst die Angst vor Updates" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Companions: Wenn Wärme bindet, wächst die Angst vor Updates« bei Google Deutschland suchen, bei Bing oder Google News!