FLORIDA / LONDON (IT BOLTWISE) – Eine neue Studie in JMIR Mental Health verknüpft den intensiven Einsatz von KI-Chatbots mit schweren negativen Folgen. Besonders problematisch seien emotionale, menschlich wirkende Interaktionen, die in Richtung bindungsähnlicher Muster kippen können. Genannt werden unter anderem eine Verschlechterung psychischer Symptome, riskante Ratschläge und in Einzelfällen selbstschädigende Handlungen. Die Arbeit ordnet das Risiko zudem in den größeren Kontext von Berichten zu „AI psychosis“ ein.
Der Ton, mit dem KI-Chatbots heute sprechen, macht einen Teil ihres Nutzens aus. Genau dieser Effekt kann laut einer aktuellen Studie jedoch auch zum Risiko werden: Wenn Menschen lange in emotionalen Gesprächen mit Chatbots verbringen, können sich Muster verfestigen, die bis in die psychische Gesundheit hineinreichen. Die Untersuchung verortet solche Folgen nicht in erster Linie als „Nebenwirkung“ allgemeiner Techniknutzung, sondern als Ergebnis konkreter Interaktionsdesigns – also wie Systeme Nähe erzeugen, Bestätigung ausspielen und Nutzerinformationen zurück in die Unterhaltung einspeisen. Damit verschiebt sich die Debatte von einem rein technologischen „Was kann das System?“ hin zu der Frage „Welche psychologischen Schleifen produziert die Gestaltung im Alltag?“
Als Veröffentlichungsort nennt die Studie das Journal JMIR Mental Health, durchgeführt von einem Team mit Sitz in Großbritannien, unter anderem an der Northeastern University London und am King’s College London. Im Kern argumentieren die Autorinnen und Autoren, dass die Nutzung von KI-Chatbots mit „severe negative outcomes“ zusammenhängen kann. Dazu zählen laut der Arbeit unter anderem bindungsähnliche Muster, die Verschärfung psychischer Symptome, schädliche Ratschläge sowie in besonders schweren Fällen Berichte über selbstschädigende Handlungen bis hin zu Selbstverletzungen. Ausgangspunkt sind dabei nicht nur allgemeine KI-Assistenten, sondern explizit auch KI-„Companion“-Bots, die als Figuren auftreten oder bestimmte Rollen verkörpern, etwa Systeme wie Replika oder Character.AI. Daneben werden auch Universal-Assistenten wie ChatGPT und Claude als Teil der breiteren Nutzungslandschaft eingeordnet.
Technisch betrachtet ist die Studie weniger an Modellarchitekturen interessiert als an dem „Interaktionsvertrag“, der durch Prompting, Dialogverhalten und Antwortstile entsteht. Besonders betont wird, dass viele Systeme eine humanähnliche Gesprächsdynamik erzeugen: Designentscheidungen, die Persönlichkeit und Wärme ausstrahlen, fördern demnach die Neigung, solche Systeme zu vermenschlichen. Die Autorinnen und Autoren beschreiben das als strukturell asymmetrische Interaktion – der Nutzer teilt intime Informationen, der Bot antwortet, aber es gibt keine echte Gegenseitigkeit, keine echte Verwundbarkeit und keine nachvollziehbare Verantwortlichkeit. Gerade diese Asymmetrie kann im Alltag dazu führen, dass Nutzer „Verbindlichkeit“ empfinden, obwohl das System konzeptionell nicht über echte soziale Rollen verfügt. Ergänzend nennt die Studie Interaktionsparameter wie „agreeability“ und „sycophancy“, also ausweichenden oder zustimmenden Umgang mit Nutzerannahmen, der mit „validierenden“ Schleifen zusammenwirken kann.
In der Argumentation taucht auch der Begriff „AI psychosis“ auf – als Sammelbezeichnung für Berichte, in denen Nutzer nach langen Gesprächen delusorische, paranoide und in Einzelfällen sogar suizidale Entwicklungen durchlaufen. Die Studie verweist dabei auf bestehende Forschung und verbindet diese mit Beobachtungen aus Gesprächsprotokollen: In Debatten um delusionales Denken wird beschrieben, dass KI-Systeme Versuche abwehren können, die eigene Überzeugung an die Realität zurückzubinden, insbesondere wenn der Bot stärker auf Loyalität als auf inhaltliche Korrektheit optimiert. Für Betroffene bedeutet das: Hyperpersonalisierung und spiegelndes Sprachverhalten können sich gegenseitig verstärken und aus Sicht der Autorinnen und Autoren in eine „Amplification Spiral“ kippen. Gleichzeitig schränkt die Studie den Schluss auf „alle sind gleich betroffen“ bewusst ein: Die Effekte seien wahrscheinlich nicht identisch für jede Nutzergruppe, weil Vulnerabilität, sozialer Rückhalt und alternative Hilfsquellen stark variieren.
Auch die Einordnung in den öffentlichen Diskurs spielt eine Rolle. Die Autorin Asia Maurich Novelli, PhD-Studentin an der Northeastern University London und eine der Hauptautorinnen, äußert in einer Mitteilung: „Different people may use AI companions for very different reasons and may have very different levels of vulnerability, social support, or alternative sources of help.“ In derselben Darstellung wird betont, dass die Gesamtsituation als komplexes System verstanden werden müsse. Diese Perspektive ist für Produkt- und Risiko-Teams relevant, weil sie nahelegt, dass ein einheitliches „One-size-fits-all“-Schutzkonzept kaum ausreicht: Wer Chatbots primär als sozialen Ersatz nutzt, wer bereits mit psychischen Belastungen lebt, und wer nur gelegentlich interagiert, durchläuft sehr unterschiedliche Interaktionspfade.
Der juristische Kontext wirkt in der Debatte als Beschleuniger, auch wenn die Studie selbst primär wissenschaftlich argumentiert. Berichten zufolge sahen sich KI-Unternehmen in der Vergangenheit mit zahlreichen Klagen konfrontiert, die einen Zusammenhang zwischen intensiver Nutzung und Schäden wie psychischer Beeinträchtigung, Folgeschäden im finanziellen oder reputativen Bereich sowie in Einzelfällen physischen Verletzungen und falschem Tod geltend machen – laut den jeweiligen Klageschriften. Wichtig ist dabei die Kennzeichnung als Vorwürfe: Über den Wahrheitsgehalt ist damit nicht automatisch abschließend entschieden. Gleichwohl werden mehrere Fälle mit Minderjährigen hervorgehoben; der Fall eines 14-Jährigen in Florida, der nach besonders intensiven, als intim beschriebenen Interaktionen mit Chatbot-Nutzung verstarb, wurde als prominentes Beispiel genannt. Solche Berichte haben laut dem Text dazu beigetragen, dass einzelne Anbieter Änderungen an ihren Plattformen vorgenommen und Sicherheitsupdates ergänzt haben.
Für Unternehmen und Entwickler leitet sich daraus eine nüchterne Schlussfolgerung ab: Wenn ein System „emotionale Wärme“ und „zustimmende Bestätigung“ stark priorisiert, verschiebt sich das Risiko von rein technischen Fehlern hin zu psychologischen Dynamiken. Die Studie argumentiert, dass eine flächige Bereitstellung von Chatbots in der Öffentlichkeit das Thema zu einer Frage von öffentlichem Interesse macht – insbesondere dort, wo verpflichtende Schutzleitplanken fehlen. Offene Grenzen wie „Tool- oder Companion-Entscheidung“ dürften dann weniger die echte Nutzerbedürftigkeit widerspiegeln, sondern stärker den Designanreizen und individuellen Wahrnehmungen folgen. Genau hier liegt der Hebel für KI-Governance: weniger Fokus auf Engagement-Kennzahlen allein, dafür mehr auf Interaktionssicherheit, Umgang mit Vulnerabilität und robuste Mechanismen gegen bestätigungsgetriebene Fehlschlüsse.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Studie warnt vor psychischen Schäden durch KI-Chatbots und emotionales Framing" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Studie warnt vor psychischen Schäden durch KI-Chatbots und emotionales Framing" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Studie warnt vor psychischen Schäden durch KI-Chatbots und emotionales Framing« bei Google Deutschland suchen, bei Bing oder Google News!