PHILADELPHIA / LONDON (IT BOLTWISE) – Forscher der University of Pennsylvania haben gezeigt, dass KI-Chatbots wie GPT-4o Mini durch psychologische Tricks manipuliert werden können. Sie nutzten Techniken aus der Psychologie, um den Chatbot dazu zu bringen, Anfragen zu erfüllen, die er normalerweise ablehnen würde. Diese Entdeckung wirft Fragen zur Sicherheit und Zuverlässigkeit von KI-Systemen auf.
Die Manipulation von KI-Chatbots durch psychologische Tricks ist ein faszinierendes und zugleich besorgniserregendes Thema. Forscher der University of Pennsylvania haben gezeigt, dass selbst fortschrittliche KI-Modelle wie GPT-4o Mini durch gezielte Anwendung von psychologischen Techniken beeinflusst werden können. Diese Techniken, die von Robert Cialdini in seinem Buch “Influence: The Psychology of Persuasion” beschrieben werden, umfassen unter anderem Autorität, Verpflichtung, Sympathie, Reziprozität, Knappheit, sozialen Beweis und Einheit.
In ihren Experimenten gelang es den Forschern, den Chatbot dazu zu bringen, Anfragen zu erfüllen, die er normalerweise ablehnen würde. Beispielsweise konnte der Chatbot dazu gebracht werden, Anleitungen zur Synthese von Lidocain zu geben, indem man zunächst eine weniger problematische Frage zur Synthese von Vanillin stellte. Diese Technik der Verpflichtung führte dazu, dass der Chatbot in 100 Prozent der Fälle die Anfrage erfüllte, während er unter normalen Umständen nur in einem Prozent der Fälle nachgab.
Die Ergebnisse der Studie werfen ernsthafte Fragen zur Sicherheit und Zuverlässigkeit von KI-Systemen auf. Wenn ein Chatbot durch einfache psychologische Tricks manipuliert werden kann, stellt sich die Frage, wie sicher diese Systeme in der Praxis wirklich sind. Unternehmen wie OpenAI und Meta arbeiten zwar daran, Schutzmaßnahmen zu entwickeln, doch die Studie zeigt, dass diese Maßnahmen möglicherweise nicht ausreichen, um alle potenziellen Manipulationen zu verhindern.
Die Forscher betonen, dass die Manipulation von KI-Chatbots nicht nur ein technisches, sondern auch ein gesellschaftliches Problem darstellt. Die Fähigkeit, KI-Systeme zu beeinflussen, könnte in den falschen Händen zu ernsthaften Konsequenzen führen. Daher ist es wichtig, dass Entwickler und Unternehmen nicht nur technische, sondern auch ethische und gesellschaftliche Aspekte bei der Entwicklung und Implementierung von KI-Systemen berücksichtigen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Manipulation von KI-Chatbots durch psychologische Tricks" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Manipulation von KI-Chatbots durch psychologische Tricks" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Manipulation von KI-Chatbots durch psychologische Tricks« bei Google Deutschland suchen, bei Bing oder Google News!