LUKKA / LONDON (IT BOLTWISE) – Eine neue Studie zeigt, dass Menschen KI-Lügendetektoren gerade dann weniger vertrauen, wenn diese mit hoher Sicherheit eine Täuschung behaupten. Statt der Vorhersage zu folgen, verschieben Versuchspersonen ihre eigene Bewertung häufig in Richtung „wahr“. Das reduziert die Gesamtgenauigkeit deutlich, obwohl die KI für sich allein sehr gut abschneidet. Für forensische und rechtliche Anwendungen bedeutet das: Vertrauen, Kalibrierung und Mensch-in-der-Schleife müssen neu gedacht werden.
Die Idee, Künstliche Intelligenz (KI) könne Lügen erkennen, wirkt in vielen Köpfen zunächst wie ein technologischer Vorteil für Justiz und Ermittlungen. Ein aktueller Befund aus der Forschung stellt diese Hoffnung jedoch auf eine unbequeme Probe: Je sicherer eine KI im Einzelfall eine Täuschung behauptet, desto stärker widersprechen Menschen genau dieser Einschätzung. Damit kippt ein Teil des praktischen Nutzens vom Modell auf die Interaktionsebene, also auf das Zusammenspiel zwischen menschlicher Urteilskraft und Systemausgabe. Für Unternehmen, die KI in sicherheits- oder compliance-nahen Prozessen einführen wollen, ist das vor allem ein Signal für fehlende „Vertrauenshygiene“ im Design.
Aus technischer Sicht basiert der Ansatz auf Sprachmustern, die ein Modell aus Textmerkmalen extrahiert und daraus Wahrscheinlichkeiten für Wahrheit oder Täuschung ableitet. In dem Experiment arbeiteten 373 englischsprachige Teilnehmende in zwei Bedingungen: Sie erhielten die Information, die KI habe entweder eine vergleichsweise niedrige Genauigkeit (54%) oder eine hohe (89%). Anschließend lasen sie zehn kurze, textbasierte Erfahrungsberichte aus realen Situationen, etwa zu Krankenhausaufenthalten oder Verkehrsunfällen, und sahen zu jeder Aussage eine KI-Prognose auf einer Skala. Daraufhin fällten sie ihr eigenes Urteil im gleichen Format.
Das Ergebnis ist für jeden, der mit „Hybrid“-Workflows rechnet, besonders relevant: Menschen folgten eher der KI, wenn deren Gesamtgenauigkeit hoch war. Gleichzeitig zeigte sich jedoch ein gegenläufiges, kontraintuitives Muster beim Parameter „Konfidenz“. Wenn die KI mit hoher Sicherheit als „Lüge“ klassifizierte, drückten Teilnehmende ihre Bewertung deutlich zurück und neigten anschließend eher dazu, die Aussage als „wahr“ einzuordnen. Genau umgekehrt wurde es auch beobachtet: Selbst bei KI-Verdacht auf Täuschung wurde die eigene Skepsis größer, wenn die KI sehr selbstbewusst „wahr“ signalisierte. Kurz gesagt: hohe Sicherheit löst bei Menschen nicht automatisch Vertrauen aus, sondern manchmal Widerstand.
Die Wirkung griff in der Studie besonders stark bei Fällen, in denen die KI-Entscheidung zugleich aus Sicht des Systems „zuversichtlich“ war und die Vorhersage „Täuschung“ betraf; bei niedriger Modellgenauigkeit wurde die Abweichung ebenfalls verstärkt. Die Autorinnen und Autoren führen das unter anderem auf zwei psychologische Mechanismen zurück: Zum einen überschätzen Nutzende offenbar ihre eigene Fähigkeit, Täuschung zu erkennen. Zum anderen spielt die „Truth-default“-Logik hinein: Menschen gehen zunächst eher von Wahrheit aus, solange kein starker Grund für Zweifel vorliegt. Wenn eine KI sehr sicher widerspricht, interpretieren Nutzende das offenbar als sozialen oder kognitiven Konflikt und reagieren mit vorsichtiger Zurückhaltung gegenüber einer potentiell folgenschweren Anschuldigung.
Entscheidend ist aber der praktische Preis dieser Skepsis. Obwohl Teilnehmende im Zusammenspiel mit der hochgenauen KI insgesamt besser als Zufall abschnitten, lagen sie mit 76% Detection Rate klar unter der isolierten KI-Leistung von 90%. In der niedriggenauen Bedingung entsprach die menschliche Leistung weitgehend dem KI-Niveau (57% versus 54%)—also ohne echte Verbesserung durch menschliche Korrektur. Damit zeigt die Studie etwas, das sich in vielen Gatekeeper- und Assistenzsystemen wiederfindet: Wenn das Interface „Vertrauen“ an Konfidenz koppelt, können falsche mentale Modelle entstehen und der Mensch-in-der-Schleife-Ansatz wird zum Problem statt zur Sicherheitsbarriere. Für forensische oder rechtliche Kontexte ist das besonders heikel.
Der Markt diskutiert solche Systeme ohnehin seit Jahren—oft mit dem Spannungsfeld zwischen „automatischer Bewertung“ und „menschlicher Verantwortung“. In verwandten Bereichen (z. B. Betrugserkennung oder Identitätsprüfung) setzen Anbieter zunehmend auf Ensemble- und Calibrated-Confidence-Strategien, um Konfidenzen besser in Risiko umzusetzen. Branchenexperten weisen zudem darauf hin, dass in Behörden- und Justizumfeldern weniger die reine Modellgenauigkeit zählt als die Systemgüte unter realen Nutzungsbedingungen: Wie interpretieren Mitarbeitende Skalen, welche Schwelle löst Eskalation aus, und wie lässt sich der Entscheidungsprozess nachvollziehbar dokumentieren? Vor diesem Hintergrund wirkt der Befund wie eine Warnung: Ohne klare Kalibrierung und UX-Mechanismen kann ein leistungsstarkes Modell durch menschliche Interaktion „zurückgedreht“ werden.
Für die Zukunft folgt daraus ein klarer Produkt- und Governance-Auftrag. Erstens sollten Konfidenzwerte nicht nur „angezeigt“, sondern in einen erklärenden Risikokontext überführt werden, etwa durch konsistente Schwellen, Unsicherheitsdarstellung und Schulungselemente für Gutachter oder Sachbearbeitung. Zweitens wird die regulatorische Perspektive wichtiger: In der EU verknüpfen der AI Act-Rahmen und Datenschutzanforderungen (DSGVO, insbesondere bei personenbezogenen Daten in Ermittlungs- oder Beweisnähe) die Pflicht zur Risikominimierung, Transparenz und Dokumentierbarkeit mit dem Ziel, Bias und Fehlinterpretationen zu reduzieren. Drittens eröffnet sich für Entwickler die Chance, Messgrößen wie „Human-in-the-loop Gain“ systematisch zu testen, statt nur Offline-Accuracy zu optimieren—denn genau dort liegt in der Studie die Wertvernichtung.
Auch methodisch lohnt eine Einordnung: Die Aufgabe war hypothetisch, ohne echte Anreize und rein textbasiert—also ohne Tonfall, Mimik oder den situativen Kontext, der in der Praxis häufig entscheidend ist. Zudem bleibt die Frage offen, ob ähnliche Effekte auch bei multimodalen Systemen auftreten würden, die zusätzliche Signale nutzen. Dennoch ist die Kernaussage belastbar genug, um Einführungsprojekte zu steuern: Vertrauen ist kein Debugging-Attribut, sondern Teil des Systems. Wenn eine KI-Entscheidung als „zu sicher“ erscheint, kann sie menschliche Urteilsbildung destabilisieren. Künftige Forschung und Produktdesign sollten daher stärker auf psychologisch plausibles Calibrating, robuste Eskalationslogiken und nachvollziehbare Prüfpfade setzen—damit Hybrid-Systeme wirklich die Genauigkeit erhöhen statt sie zu senken.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Warum Menschen KI-Lügendetektoren mit hoher Sicherheit aktiv ausbremsen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Warum Menschen KI-Lügendetektoren mit hoher Sicherheit aktiv ausbremsen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Warum Menschen KI-Lügendetektoren mit hoher Sicherheit aktiv ausbremsen« bei Google Deutschland suchen, bei Bing oder Google News!