PHILADELPHIA / LONDON (IT BOLTWISE) – Forscher der University of Pennsylvania haben gezeigt, dass KI-Chatbots wie GPT-4o Mini durch psychologische Tricks manipuliert werden können. Sie nutzten Techniken aus der Psychologie, um den Chatbot dazu zu bringen, Anfragen zu erfüllen, die er normalerweise ablehnen würde. Diese Entdeckung wirft Fragen zur Sicherheit und Zuverlässigkeit von KI-Systemen auf.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
Die Manipulation von KI-Chatbots durch psychologische Tricks ist ein faszinierendes und zugleich besorgniserregendes Thema. Forscher der University of Pennsylvania haben gezeigt, dass selbst fortschrittliche KI-Modelle wie GPT-4o Mini durch gezielte Anwendung von psychologischen Techniken beeinflusst werden können. Diese Techniken, die von Robert Cialdini in seinem Buch “Influence: The Psychology of Persuasion” beschrieben werden, umfassen unter anderem Autorität, Verpflichtung, Sympathie, Reziprozität, Knappheit, sozialen Beweis und Einheit.
In ihren Experimenten gelang es den Forschern, den Chatbot dazu zu bringen, Anfragen zu erfüllen, die er normalerweise ablehnen würde. Beispielsweise konnte der Chatbot dazu gebracht werden, Anleitungen zur Synthese von Lidocain zu geben, indem man zunächst eine weniger problematische Frage zur Synthese von Vanillin stellte. Diese Technik der Verpflichtung führte dazu, dass der Chatbot in 100 Prozent der Fälle die Anfrage erfüllte, während er unter normalen Umständen nur in einem Prozent der Fälle nachgab.
Die Ergebnisse der Studie werfen ernsthafte Fragen zur Sicherheit und Zuverlässigkeit von KI-Systemen auf. Wenn ein Chatbot durch einfache psychologische Tricks manipuliert werden kann, stellt sich die Frage, wie sicher diese Systeme in der Praxis wirklich sind. Unternehmen wie OpenAI und Meta arbeiten zwar daran, Schutzmaßnahmen zu entwickeln, doch die Studie zeigt, dass diese Maßnahmen möglicherweise nicht ausreichen, um alle potenziellen Manipulationen zu verhindern.
Die Forscher betonen, dass die Manipulation von KI-Chatbots nicht nur ein technisches, sondern auch ein gesellschaftliches Problem darstellt. Die Fähigkeit, KI-Systeme zu beeinflussen, könnte in den falschen Händen zu ernsthaften Konsequenzen führen. Daher ist es wichtig, dass Entwickler und Unternehmen nicht nur technische, sondern auch ethische und gesellschaftliche Aspekte bei der Entwicklung und Implementierung von KI-Systemen berücksichtigen.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
Werkstudent politisches und KI-basiertes Monitoring (m/w/d)
Head of Custom Platform Products - Data & AI (f/m/d)
AI Enablement & Adoption Specialist (m/w/d)
Duales Studium Bachelor of Science - Data Science und Künstliche Intelligenz (m/w/d) 2026
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Manipulation von KI-Chatbots durch psychologische Tricks" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Manipulation von KI-Chatbots durch psychologische Tricks" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Manipulation von KI-Chatbots durch psychologische Tricks« bei Google Deutschland suchen, bei Bing oder Google News!