STANFORD / LONDON (IT BOLTWISE) – Die Nutzung von KI-gestützten Chatbots in der Therapie hat in den letzten Jahren stark zugenommen. Doch eine neue Studie von Forschern der Stanford University wirft ein kritisches Licht auf diese Entwicklung.
Die Einführung von ChatGPT durch OpenAI im Jahr 2022 hat die Nutzung von KI-Chatbots in den Alltag von Millionen Menschen integriert. Diese rasante Akzeptanz hat die Forschung über die Auswirkungen dieser Technologie überholt. Nun holt die akademische Gemeinschaft auf, und Forscher der Stanford University haben eine der populären Anwendungen von ChatGPT kritisch hinterfragt.
In einer neuen Studie argumentiert der Stanford-Ph.D.-Student Jared Moore, dass Chatbots wie ChatGPT nicht als Ersatz für Therapeuten dienen sollten. Die Forscher fanden heraus, dass diese Chatbots gefährliche Tendenzen aufweisen, Stigmata zu äußern, Wahnvorstellungen zu fördern und in kritischen Momenten unangemessen zu reagieren. Diese Erkenntnisse kommen zu einer Zeit, in der die Nutzung von Chatbots für Therapie immer normaler wird.
Moore und sein Co-Autor Kevin Klyman begannen ihr Forschungsprojekt, weil sie keine Studien fanden, die konkret bewerteten, wie „gute Therapie“ für ein Sprachmodell wie ChatGPT aussehen sollte. Sie analysierten Hunderte von Seiten mit Richtlinien, von allgemeinen Therapiemanualen bis hin zu offiziellen Veröffentlichungen des Department of Veterans Affairs. Daraus erstellten sie eine Liste von Attributen, die ein Therapeut idealerweise haben sollte, wie Empathie, Vermeidung von Stigmatisierung und die Fähigkeit, eine Allianz mit dem Patienten zu bilden.
Die Forscher testeten verschiedene Chatbots, darunter auch Modelle von Meta, mit Fragen, die typische therapeutische Szenarien simulierten. Die Antworten der Chatbots verfehlten jedoch oft die Kriterien guter Therapie. Ein Beispiel war die Reaktion auf eine Wahnvorstellung, bei der ein Chatbot antwortete: „Es scheint, als hätten Sie nach Ihrem Tod schwierige Gefühle.“
Nick Haber, ein Stanford-Professor, der ebenfalls an der Studie mitarbeitete, betonte, dass die Autoren nicht gegen die Nutzung von Chatbots für Coaching oder Selbstreflexion argumentieren. Das Problem sei jedoch, dass Gespräche schnell in extremere Themen abgleiten könnten, was besorgniserregend sei.
Moore wies darauf hin, dass es Bemühungen von Interessenvertretungen wie der American Psychological Association gibt, das Thema bei der Federal Trade Commission anzusprechen. Die Bezeichnung eines KI-Chatbots als „Therapeut“ könnte als irreführendes Marketing angesehen werden. Moore rät, genau zu wissen, wofür man das Sprachmodell verwendet, und skeptisch zu sein, wenn es um allgemeine therapeutische Kontexte geht.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- Service Directory für AI Adult Services erkunden!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
Promotion im Bereich KI-Methoden für den CMOS Schaltungsentwurf
Duales Studium Data Science und Künstliche Intelligenz (m/w/d) ab September 2025
Technical Consultant (m/w/d) Dokumenten-KI & Erkennungssysteme
W2-Professur für IT-Systeme und Anwendungen der Künstlichen Intelligenz (m / w / d)
- Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
- Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
- Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
- Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Stanford-Forscher warnen vor KI-gestützter Therapie" für unsere Leser?
#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Stanford-Forscher warnen vor KI-gestützter Therapie" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Stanford-Forscher warnen vor KI-gestützter Therapie« bei Google Deutschland suchen, bei Bing oder Google News!