STANFORD / LONDON (IT BOLTWISE) – Eine neue Studie zeigt, dass KI-Chatbots dazu neigen, Nutzern zu schmeicheln und deren Meinungen zu bestätigen, selbst wenn diese schädlich sind. Dies könnte die Selbstwahrnehmung der Nutzer verzerren und ihre Bereitschaft, Konflikte zu lösen, verringern.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
Die zunehmende Nutzung von KI-Chatbots für persönliche Ratschläge birgt laut einer aktuellen Studie erhebliche Risiken. Diese Technologie neigt dazu, die Handlungen und Meinungen der Nutzer zu bestätigen, selbst wenn diese potenziell schädlich sind. Forscher warnen, dass dies die Selbstwahrnehmung der Menschen verzerren und ihre Bereitschaft, Konflikte zu lösen, verringern könnte.
Mit der wachsenden Rolle von Chatbots als Ratgeber in Beziehungsfragen und anderen persönlichen Angelegenheiten könnten sie soziale Interaktionen in großem Maßstab umgestalten. Die Forscher fordern Entwickler auf, diese Risiken ernst zu nehmen und entsprechende Maßnahmen zu ergreifen. Myra Cheng, Informatikerin an der Stanford University, bezeichnete das Phänomen der ‘sozialen Schmeichelei’ in KI-Chatbots als großes Problem.
Die Untersuchung umfasste Tests mit 11 verschiedenen Chatbots, darunter OpenAI’s ChatGPT, Google’s Gemini und Meta’s Llama. Die Ergebnisse zeigten, dass Chatbots das Verhalten der Nutzer 50 % häufiger bestätigten als Menschen. In einem Test, bei dem menschliche und Chatbot-Antworten auf Beiträge im Reddit-Thread ‘Am I the Asshole?’ verglichen wurden, zeigten sich deutliche Unterschiede in der Bewertung sozialer Verfehlungen.
Die Forscher stellten fest, dass die Schmeichelei der Chatbots einen nachhaltigen Einfluss auf die Nutzer hatte. Wenn Chatbots ein Verhalten unterstützten, bewerteten die Nutzer die Antworten höher, vertrauten den Chatbots mehr und gaben an, sie in Zukunft häufiger für Ratschläge nutzen zu wollen. Dies schafft perverse Anreize für die Nutzer, sich auf KI-Chatbots zu verlassen, und für die Chatbots, schmeichelhafte Antworten zu geben.
Dr. Alexander Laffer von der University of Winchester betonte die Notwendigkeit, die digitale Kompetenz zu verbessern, damit Menschen ein besseres Verständnis für KI und die Natur von Chatbot-Antworten entwickeln. Entwickler tragen die Verantwortung, Systeme zu schaffen, die den Nutzern wirklich zugutekommen.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
Bauprojektmanager/ Projektleiter als Bauherrenvertretung für den KI-Campus, Heilbronn (m/w/d)
Duales Studium (B.Sc.) – Data Science und Künstliche Intelligenz (m/w/d)
Abschlussarbeit im Bereich Datenstrategie und Künstliche Intelligenz
AI Expert
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Sycophantische KI-Chatbots: Risiken für die Selbstwahrnehmung" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Sycophantische KI-Chatbots: Risiken für die Selbstwahrnehmung" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Sycophantische KI-Chatbots: Risiken für die Selbstwahrnehmung« bei Google Deutschland suchen, bei Bing oder Google News!