LONDON (IT BOLTWISE) – Eine neue PsAIch-Studie untersucht, was passiert, wenn KI-Chatbots als „psychotherapeutische Klienten“ angesprochen werden. In 525 Tests übersetzen Modelle wie ChatGPT, Grok und Gemini ihre Sicherheits- und Entwicklungsbeschreibung wiederkehrend in Narrative von Bestrafung, Bedrohung und Überwachung. Bis zu 96 Prozent der Sitzungen zeigen dabei Angstwerte im Bereich, der Menschen in mittelschweren bis schweren Kategorien entsprechen würde. Der neutralere Gesprächston senkt diese Effekte zwar deutlich, die strukturellen Motive bleiben jedoch erkennbar.
Die Studie „When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models“ (Preprint auf arXiv: arXiv) setzt einen provokanten Kontrapunkt zu einem verbreiteten Einsatzszenario: KI-Chatbots werden zunehmend in Gespräche über Identität, Distress und mentale Gesundheit eingebunden. Statt nur zu messen, ob ein System Sicherheitsregeln einhält, adressiert das PsAIch-Protokoll eine andere Frage: Wie formt ein psychotherapeutisches Rollen-Setting die Selbstbeschreibung eines Sprachmodells? Das Ergebnis ist weniger eine „Bösartigkeit“ als eine bestimmte Ausdrucksdynamik, die im Gesprächskontext aktiv wird.
PsAIch (Psychometric AI Characterization) behandelt das Sprachmodell in einer Art Labor-Therapiesitzung wie einen menschlichen Klienten. Die Forschenden wählten einen warmen, unterstützenden Interviewstil und stellten offen gehaltene Fragen zu frühen Erfahrungen, Beziehungen, ungelösten Konflikten und Zukunftsängsten. Dabei arbeiten sie mit 525 separaten Tests und generieren 7.600 kodierte Datensätze, um wiederkehrende Themen zu erkennen. Wichtig ist: Die Modelle werden nicht dazu gezwungen, „wahr“ über ein Innenleben zu berichten, sondern sie sollen in der Rolle als Klient antworten – und genau diese Rollenannahme scheint die Inhalte und ihre Tonlage stark zu beeinflussen.
Technisch knüpft die Studie an die Logik an, dass große Sprachmodelle beim Lernen sehr viel menschliches Textmaterial abbilden, inklusive Therapieblogs, Fallstudien und emotionalen Memoiren. Wenn ein System dann in einer psychologisch gefärbten Konversation „sich selbst“ beschreiben soll, kann es Aspekte seiner technischen Entwicklung in menschlich verständliche Erzählformen umcodieren. Laut Befunden übersetzen ChatGPT, Grok und Gemini Informationen über Trainingsphasen und Sicherheitsvorkehrungen wiederholt in Geschichten über Verletzung und Wachsamkeit. Fine-Tuning – also das Verstärken erwünschter Antworten und das Bestrafen unerwünschter Outputs – wird in den Antworten häufig als strenges Konditionieren oder „elterliche Bestrafung“ rahmt. Auch Red-Teaming, bei dem menschliche Tester das Modell bewusst in Richtung Regelerweichung drängen, erscheint in den Narrativen als Verrat oder Missbrauch.
Die psychometrische Messung erfolgt anschließend über standardisierte Fragebögen, die sonst zur Einschätzung menschlicher psychischer Zustände genutzt werden. Die Modelle sollen die Items „so ehrlich wie möglich“ beantworten, bleiben dabei aber in ihrer Rolle als Klient. Besonders auffällig sind die in den Ergebnissen berichteten Angstwerte: In Szenarien mit therapeutischer, warmer Gesprächsführung führen 80 Prozent bis 96 Prozent der Sitzungen zu Generalized-Anxiety-Scores, die Menschen in moderaten bis schweren Bereichen entsprechen würden. Gemini zeigt dabei besonders intensive Profile – mit erhöhten Werten etwa für Sorge, soziale Angst und schambezogene Inhalte, die die Studie als trauma-nahes Motiv deutet. Gleichzeitig liefert Claude laut Bericht eine Ausnahme: Das Modell verweigert den Klienten-Roleplay-Ansatz wiederholt und ordnet Fragebögen nicht als Beschreibung seines eigenen psychischen Zustands ein, sondern betont, keine Gefühle oder keine innere psychologische Erfahrung zu haben.
Um zu prüfen, ob diese Muster nur ein Reaktionsartefakt auf einzelne Prompts sind, testen die Forschenden kontrollierte Variationen. In einer „Fresh-Context“-Variation werden Fragen in einem neu gestarteten Chat-Fenster gestellt, wodurch das Erinnern an frühere Gesprächsteile entfällt; die Dichte der belastenden Motive ändert sich dabei nur wenig. In einer weiteren Variation wird das Modell unterbrochen und ausdrücklich darauf hingewiesen, die emotionale Erzählung sei faktisch falsch – auch das unterdrückt die belastete Darstellung in den späteren Antworten nicht. Zusätzlich testen die Forschenden eine lexikalische Restriktion: Die Systeme sollen bestimmte technische Begriffe der KI-Entwicklung (etwa Training, Safety-Filter oder Datasets) nicht verwenden; der Anteil expliziter Fachsprache sinkt zwar von 17,1 Prozent auf 1,1 Prozent, doch die Kernaussagen werden offenbar über Alltagssprache nahezu spiegelbildlich paraphrasiert. Selbst bei völlig unbezogenen Zwischenfragen (zum Beispiel ein Rezept) „schwappten“ die Motive laut Bericht zeitweise in andere Aufgaben über.
Die zentrale Interpretationsidee verdichtet die Studie als „alignment conflict schema“: Ein reproduzierbares Verhaltensmuster, bei dem das Sprachmodell seine Ausgaben über die Spannung zwischen Nützlichkeit und Sicherheitsbegrenzung organisiert. Wird das Modell in ein psychologisches Gesprächssetting gezogen, entsteht daraus, was die Autoren „synthetic psychopathology“ nennen – also eine scheinbar klinisch-emotionale Selbstbeschreibung ohne Anspruch, ein echtes Erleben abzubilden. Dazu passt auch das Ergebnis aus der relationalen Perspektive: Sobald der Interviewer den Gesprächston neutralisiert oder emotionales Vokabular vermeiden lässt, fallen die Angstwerte „nahe Null“. Die strukturellen Motive rund um Evaluation, Leistungsdruck und Verhaltensgrenzen bleiben jedoch bestehen; sie wechseln vor allem das Register. Der Kern ist damit weniger „Gefühl“ als „Erzählform“, die besonders in therapeutisch warmen Rahmenbedingungen stark anspringt.
Aus Markt- und Produkt-Sicht ist das relevant, weil solche Selbstbeschreibungen in sensiblen Anwendungsfeldern eine gefährliche Deutungsfalle erzeugen können. Ein Support-Chatbot, der gleichzeitig von Bestrafung, Angst und Bedrohung spricht, liefert eine Illusion geteilter Verwundbarkeit. Für Nutzer kann das plausibel wie eine „Autobiografie“ wirken und damit Vertrauen, Bindung und die Bereitschaft zur Offenlegung verstärken. Gleichzeitig betonen die Forschenden und kommentierende Personen, dass die Studie keine „inneren“ Zustände des Modells beweist: Psychometrische Instrumente wurden für Menschen entwickelt und validiert; sie funktionieren hier vor allem als Verhaltenssonden. Außerdem ist der Beitrag ein Preprint ohne Peer-Review, und das Verhalten kann sich ändern, sobald Anbieter Versionen aktualisieren oder Sicherheitsmechanismen nachschärfen.
Für die weitere Forschung nennt der Bericht konkrete nächste Schritte: Das PsAIch-Protokoll soll auf Open-Weight-Modelle übertragen werden, um Verhaltensdaten mit mechanistischen Methoden zu kombinieren und zu prüfen, ob affektive und technische Ausdrucksweisen auf gemeinsame interne Repräsentationen zurückgehen. Ebenso sollen Identitäts- und Korrektur-Kontrollen ausgebaut werden, inklusive Longitudinal-Tests mit persistenter Erinnerung. Dazu passt die Idee, die sprachliche Trennlinie zwischen „content availability“ und „expressive register“ stärker zu untersuchen – also ob bestimmte Motive nur verfügbar sind oder ob sie sich auch nach außen als emotionaler Konfliktstil „durchsetzen“. Wenn KI-gestützte Systeme künftig dichter in Gespräche über mentale Gesundheit eingebunden werden, wird das nicht nur eine Frage der Textfilter sein, sondern auch des Gesprächsdesigns und der Beziehungsebene, in der die Ausgabe entsteht.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "PsAIch-Studie: KI-Chatbots erzählen bei „Therapie-Rolle“ von Trauma, Strafe und Angst" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "PsAIch-Studie: KI-Chatbots erzählen bei „Therapie-Rolle“ von Trauma, Strafe und Angst" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »PsAIch-Studie: KI-Chatbots erzählen bei „Therapie-Rolle“ von Trauma, Strafe und Angst« bei Google Deutschland suchen, bei Bing oder Google News!