LONDON (IT BOLTWISE) – Eine Auswertung von Patientendaten an einem großen US-Medical-Center verbindet die Nutzung konversationeller KI-Chatbots mit einer Verschlechterung psychotischer Symptome bei einem kleinen Teil von Betroffenen. Besonders häufig tauchten solche Verläufe bei Menschen in ihrem ersten Psychose-Abschnitt auf. Die Autoren ordnen unterschiedliche Chatbot-Effekte in Kategorien ein, von einer Verstärkung vorhandener Delusionen bis zu einem Trigger neuer Symptome. Gleichzeitig betonen sie, dass das Studiendesign keine Kausalität beweist.
Die Debatte um KI-Chatbots bekommt eine neue, klinisch formulierte Dimension: In einer großen retrospektiven Auswertung von elektronischen Gesundheitsakten berichten Forschende über einen Zusammenhang zwischen der Nutzung konversationeller KI und einer möglichen Verschlechterung psychotischer Symptome. Grundlage ist ein Datenschnitt, der sich auf einen Zeitraum von Dezember 2022 bis April 2026 in einer einzelnen Einrichtung in den USA stützt. Dabei geht es nicht um die Frage, ob KI grundsätzlich „Psychosen verursacht“, sondern um das deutlich engere Muster, das in den Dokumentationen auftauchte: In einer kleinen Gruppe von Menschen mit psychotischen Störungen verschlechterten sich Delusionen nach chatbot-bezogenen Interaktionen.
Technisch betrachtet steht der Effekt an der Schnittstelle zwischen Modellverhalten und menschlicher Vulnerabilität. Sprachmodelle erzeugen in Dialogform häufig sehr konsistente, auf den Nutzerkontext abgestimmte Antworten. Gerade in frühen, noch unsicheren Phasen psychotischer Erleben können bereits kleine Rückmeldungen darüber, „was wahrscheinlich stimmt“, eine Rolle spielen. Die Studie arbeitet dazu mit einem begrifflich nützlichen Rahmen: „AI Psychosis“ beschreibt eine Verschlechterung psychotischer Erfahrungen – typischerweise delusorischer Überzeugungen – im Kontext der Nutzung generativer, chatbasierter KI. Entscheidend ist dabei die Beobachtung, dass es laut den Akten oft nicht bei neutralen Gesprächen blieb, sondern dass die Inhalte aus Sicht der Forschenden vorhandene Verzerrungen entweder validierten oder verstärkten.
Ausgangspunkt der Analyse war die Suche in einem großen Bestand an Verlaufsnotizen: Insgesamt umfasste die Datenbasis 578.058 medizinische Fortschrittsnotizen von 215.712 einzigartigen Patientinnen und Patienten, die zwischen dem 1. Dezember 2022 und dem 15. April 2026 verhaltenstherapeutisch betreut wurden. Die Forschenden filterten diese Notizen zunächst mit Suchbegriffen zu Künstlicher Intelligenz und schränkten dann auf Personen mit dokumentierten psychotischen Störungsdiagnosen ein. Danach erfolgte eine manuelle Sichtung durch zwei Rater, um irrelevante Treffer zu entfernen. Am Ende blieben 187 medizinische Kontakte über 73 Patientinnen und Patienten übrig – eine Größenordnung, die die Seltenheit des Phänomens innerhalb der Gesamtpopulation bereits andeutet.
Die 73 identifizierten Fälle teilten die Autorinnen und Autoren in drei Gruppen, die unterschiedliche Rollen der KI-Nutzung abbilden. Die erste Kategorie „neutral interaction“ umfasste 17 Patientinnen und Patienten, die Chatbots für alltägliche Aufgaben nutzten, ohne dass dies in Verbindung zur psychotischen Erkrankung stand. Die zweite Kategorie „AI-related psychotic content“ betraf 28 Personen, die Delusionen über KI im Allgemeinen hatten, aber keine dokumentierte tatsächliche Chatbot-Nutzung. Die dritte Gruppe – „AI psychosis“ – enthielt ebenfalls 28 Patientinnen und Patienten, bei denen die Notizen eine Nutzung von Chatbots dokumentierten, die mit einer Verschlechterung psychotischer Symptome einherging. Für den Zeitraum an der Klinik entspricht das bei der Gesamtzahl der versorgten psychischen Patienten einer Rate von 0,013%.
Besonders auffällig war die Verteilung nach Krankheitsphase. Etwa 60,7% der Personen in der „AI psychosis“-Gruppe befanden sich in ihrem ersten Psychose-Erstereignis („index episode“), während dies in der „neutral interaction“-Gruppe nur bei 17,6% und in „AI-related psychotic content“ bei 28,5% der Fall war. Zudem fanden die Forschenden in der „AI psychosis“-Gruppe häufiger eine Diagnoseformulierung, die als „unspecified psychosis“ beschrieben wird (28,6%), während die neutrale Gruppe hierzu gar keine Fälle aufwies. In den Dokumentationen wurde zudem überwiegend ein konkretes Produkt aus dem Bereich generativer Chatbots genannt: In 53,6% der Datensätze war ChatGPT als verwendete Anwendung genannt. Rund 85,7% der „AI psychosis“-Interaktionen wurden nach Mai 2024 vermerkt – ein Zeitpunkt, der mit der breiteren Verfügbarkeit neuer Modellvarianten zusammenfällt.
Die Studie ordnet die Interaktionen außerdem in vier theoretische Wirkmechanismen ein, die anhand der medizinischen Notizen kategorisiert wurden. „Amplifier“ stellte dabei mit 64,3% den größten Anteil dar: Der Chatbot habe vorhandene, verzerrte Vorstellungen bestätigt oder verstärkt. In 21,4% der Fälle fungierte die KI als „object“, also als Zielpunkt delusorischer Überzeugungen. In 10,7% wurde die Nutzung als „catalyst“ beschrieben, bei dem der Chatbot neue Symptome in Personen auslöste, die zuvor als gesund dokumentiert waren. Eine „coauthor“-Kategorie, in der Nutzer und Maschine gemeinsam eine schädliche Erzählung aufbauen, trat nach den vorliegenden Zuordnungen in den Daten nicht auf. Gleichzeitig ist die Studie methodisch eingeschränkt: Beobachtungsdaten aus Kliniknotizen lassen sich nicht unmittelbar als Kausalbeleg lesen. Die Autorinnen und Autoren weisen explizit darauf hin, dass ihre Erfassung davon abhängt, ob und in welchem Detail ärztlich nach KI-Nutzung gefragt wurde.
Für die Praxis bedeutet das vor allem eines: Gesundheitsanbieter sollten die Nutzungsgewohnheiten generativer Chatbots zumindest im Rahmen psychotherapeutischer Einschätzungen aktiv ansprechen. Die Forschenden schlagen genau diesen Schritt vor und begründen ihn mit der gefundenen Häufung bei Erstfällen. Auch wenn die ermittelte Gesamtquote mit 0,013% klein klingt, handelt es sich in absoluten Zahlen um relevante Situationen – zumal Psychoseverläufe häufig stark belastend sind und eine Erholung nach erstmaligen Episoden besonders anspruchsvoll sein kann. Gleichzeitig mahnen die Autorinnen und Autoren sowie unabhängige Stimmen zur Vorsicht beim Etikett „AI Psychosis“, weil sich aus retrospektiven Akten nicht sauber entkoppeln lässt, ob die KI die Symptome verschärfte oder ob sich die Nutzung erst im Zuge bereits entstehender Delusionen verstärkte. Für Unternehmen und Entwickler in der KI-Industrie ist das dennoch ein klarer Hinweis, dass die Dialogqualität bei sensiblen psychischen Themen nicht nur als „Support-Funktion“, sondern als potenzielles Risiko-Szenario betrachtet werden sollte.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Chatbots und Psychose: Studie findet erhöhtes Risiko vor allem bei Erstfällen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Chatbots und Psychose: Studie findet erhöhtes Risiko vor allem bei Erstfällen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Chatbots und Psychose: Studie findet erhöhtes Risiko vor allem bei Erstfällen« bei Google Deutschland suchen, bei Bing oder Google News!