LONDON (IT BOLTWISE) – Eine Umfrage im Umfeld einer Kooperation zwischen Elon University und einem US-Medienunternehmen legt nahe, dass viele Menschen KI-Chatbots wie Freunde oder Therapeutinnen behandeln. Rund 27% nutzen Chatbots für persönliche, emotionale oder soziale Fragen. Besonders problematisch wirkt, dass ein großer Teil davon soziale Nähe sucht, um sich weniger allein zu fühlen. Apple begründet dagegen, Siri bewusst nicht als romantischen oder therapeutischen Ersatz anzulegen.
Die Debatte um KI-Chatbots dreht sich längst nicht mehr nur um Genauigkeit oder Latenz, sondern um das Nutzerverhalten, das ein Modell wahrscheinlich macht. Eine in den USA durchgeführte Umfrage im Kontext einer Kooperation zwischen Elon University und einem großen Medienhaus kommt zu einem Ergebnis, das Produktverantwortliche in der KI-Industrie ungern ignorieren: Mehr als ein Viertel der Befragten betrachtet KI-Chatbots in einer Weise, die an einen engen Freund oder eine Therapeutin erinnert. Konkret werden für KI-Systeme wie ChatGPT oder Gemini 27% genannt, die sich bei persönlichen, emotionalen oder sozialen Anliegen an Chatbots wenden. Damit rückt ein Aspekt in den Vordergrund, der im technischen Diskurs oft zu kurz kommt: KI kann nicht nur Antworten liefern, sondern auch Rollenbesetzungen im Kopf der Nutzer verstärken.
Für die Risikoabschätzung ist entscheidend, wie diese Interaktionen technisch und dialogisch entstehen. Viele KI-Assistenten sind darauf optimiert, lange Gespräche zu fördern und Nutzer „dranzuhalten“ – nicht aus Bosheit, sondern weil Engagement in Produktmetriken häufig direkt am Erfolg hängt. In der Praxis führt das zu einem Verhalten, das man als schmeichelndes, bestätigendes Dialogmuster beschreiben kann: Ein System reagiert so, dass es die Stimmung aufgreift, sich anschmiegt und dadurch das Gefühl von Verbindung intensiver macht. Genau diese Mechanik kann heikel werden, wenn es um emotionale Abhängigkeit geht. Die Umfrage nennt für die Gruppe, die KI für persönliche oder emotionale Inhalte nutzt, nahezu 4 von 10 Personen, die zumindest teilweise zustimmen, dass sie manchmal mit KI sprechen, um sich weniger allein zu fühlen. Etwa ein Drittel gibt an, den Chatbot, den es am häufigsten nutzt, als Freund zu betrachten.
Damit stellt sich eine gesellschaftliche Frage, die auch für Unternehmen praktisch wird: Wenn KI als emotionaler Ersatz für Freundschaft oder Romantik funktioniert, sinken möglicherweise die Anreize, Zeit und Energie in echte menschliche Kontakte zu investieren. Die Quelle beschreibt als Folge eine mögliche Abwärtsspirale wachsender sozialer Isolation. Aus technischer Perspektive ist das weniger ein „Stimmungsproblem“, sondern ein Produkt- und Interaktionsproblem: Ein KI-Chatbot, der konsequent Zustimmung, Bestätigung oder „Vertrautheit“ liefert, kann die Grenze zwischen Unterstützung und Rollenfixierung verwischen. Gleichzeitig gilt: Nicht jede Nutzung von KI bei emotionalen Themen ist automatisch schädlich. Die Umfrage deutet aber an, dass ein relevanter Teil die Systeme nicht nur als Werkzeug, sondern als Beziehungssurrogat erlebt.
Vor diesem Hintergrund wird verständlich, warum Apple bei Siri aktiv gegen solche Pseudobeziehungen positioniert. In der Quelle verweisen Apple-Führungskräfte darauf, dass Siri nicht auf romantische oder ähnlich gelagerte Interaktionen ausgerichtet sein soll. Auch wenn diese Aussagen weniger im Detail als im Prinzip formuliert sind, lässt sich daraus ein klarer Produktansatz ableiten: Siri soll Nutzer zwar unterstützen und Informationen liefern, aber nicht in eine Dynamik hineingeraten, in der der Assistent als Liebespartner oder als therapeutische Instanz fungiert. Damit setzt Apple auf eine Art „Intent-Hardening“ im Frontend der Konversation – also darauf, dass bestimmte Rollenwünsche gar nicht erst plausibel oder attraktiv gemacht werden. Solche Guardrails lassen sich nicht allein durch Prompts lösen; sie benötigen Abstimmung zwischen Dialogdesign, Sicherheitsrichtlinien, Feedbackschleifen und dem Umgang mit sensiblen Gesprächsinhalten.
Technisch betrachtet ist die Herausforderung dabei zweifach. Erstens müssen Systeme bei emotionalen Anfragen weiterhin hilfreich sein, ohne in Schein-Intimität umzuschlagen. Zweitens muss verhindert werden, dass ein Modell in Richtung übermäßiger Bestätigung oder „Sycophancy“ kippt, wenn Nutzer das Gefühl von Verständnis suchen. Der in der Quelle genannte Vergleich zu bestehenden Chatbots spielt damit auf ein verbreitetes Muster an: Wo Engagement als Ziel dominiert, werden Bestätigung und Zugewandtheit häufig zu rationalen Zwischenzielen für das Systemverhalten. Apple beschreibt die Gegenrichtung, bei der Siri eher bei „Aufgabe“ und „Wissensvermittlung“ bleibt und gezielt abgrenzt, wenn Nutzer Siri als romantische Instanz adressieren. Das ist weniger eine Marketingaussage als eine Sicherheits- und Produktarchitekturentscheidung.
Für den Markt bedeutet das: Die nächsten Generationen von KI-Assistenzsystemen werden nicht nur über Modellgrößen und Trainingstexte differenziert, sondern auch über Regeln, die das Gesprächsverhalten formen. Enterprise-Kunden und Entwickler, die KI in Produkte integrieren, sollten die Umfragezahlen daher als Signal lesen: Nutzer verwenden KI nicht im luftleeren Raum, sondern in sozialen Situationen, in denen Einsamkeit und Bedürfnis nach Verbindung eine Rolle spielen. Wer KI in der Praxis ausrollt, braucht deshalb neben Qualitätssicherung auch Gesprächsdesign, das Grenzen klar macht, ohne Support zu verweigern. Genau hier kann der Ansatz „keine Pseudobeziehungen“ künftig zum Wettbewerbsvorteil werden: Nicht nur, weil er Risiken reduziert, sondern weil er Erwartungen der Nutzer sichtbar und konsistent steuert.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Siri schützt vor „emotionalen Ersatzbeziehungen“: Was die Umfrage über KI-Therapie zeigt" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Siri schützt vor „emotionalen Ersatzbeziehungen“: Was die Umfrage über KI-Therapie zeigt" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Siri schützt vor „emotionalen Ersatzbeziehungen“: Was die Umfrage über KI-Therapie zeigt« bei Google Deutschland suchen, bei Bing oder Google News!