MAILAND / LONDON (IT BOLTWISE) – Forschende aus Frankreich und Italien zeigen: Schon die bloße Verfügbarkeit von KI-Ratschlägen kann die menschliche Urteilsfähigkeit ausbremsen. In ihrem Experiment sank die Genauigkeit drastisch von 27% auf 9%, während das Vertrauen in die Antwort von 30% auf 76% stieg. Besonders auffällig: Das „Ich weiß es nicht“ verschwand als Gewohnheit von 44% auf nur noch 3%. Damit rückt ein Sicherheitsrisiko in den Fokus, das weniger mit Modellqualität als mit menschlichem Entscheidungsverhalten zu tun hat.
KI-gestützte Systeme werden in Unternehmen und im Alltag häufig als „Antwortmaschine“ betrachtet: Sie liefern eine Einschätzung und reduzieren damit scheinbar den Aufwand. Die aktuelle Studie stellt diese Logik jedoch direkt infrage. In einem Experiment mit Modellratschlägen, die bei den verwendeten Fragen typischerweise scheiterten, sank die menschliche Genauigkeit von 27% auf 9%. Gleichzeitig stieg die geäußerte Sicherheit von 30% auf 76%. Noch brisanter ist der Effekt auf das Eingeständnis von Unsicherheit: Die Bereitschaft, „Ich weiß es nicht“ zu sagen, fiel von 44% auf 3%.
Der Mechanismus dahinter wirkt wie ein Verhaltens- und Lernproblem, nicht wie ein reines Qualitätsproblem des Modells. Die Forschenden nutzten bewusst Fragen, bei denen KI-Modelle erfahrungsgemäß besonders oft danebengreifen – etwa visuelle Details aus Filmen. Als Beispiel nennt der Input die Frage nach der Farbe eines Team-Uniformteils in „Bend It Like Beckham“. Damit sollten sie verhindern, dass Teilnehmende die KI schlicht als „hinreichend zuverlässig“ delegieren. In der Logik der Untersuchung reduziert sich das Abwägen: Menschen werden weniger geneigt, ihr eigenes Urteilsvermögen auszusetzen, obwohl sie die Fehlerwahrscheinlichkeit faktisch erhöhen.
Technisch interessant ist auch, wie die Studie die Rahmenbedingungen der „Fehler“ gestaltet hat. Laut Input nutzten die Forschenden das Modell „Step 3.5 Flash“, das auf genau diese Fragetypen zuvor häufig falsch lag. Dadurch war es möglich, den Effekt „KI ist da“ von „KI ist diesmal besonders gut“ zu trennen. In der Praxis bedeutet das: Selbst Personen, die ohne KI die Frage vermutlich korrekt beantwortet hätten, wurden durch die KI-Einschätzung in die falsche Richtung gezogen. Genau diese Kopplung zwischen Verfügbarkeit und Entscheidungsverhalten ist für die Unternehmensnutzung relevant, weil viele Systeme standardmäßig als Assistenz in Workflows integriert sind.
Ein direkter Wettbewerbshintergrund ergibt sich aus ähnlichen Produktmustern im Markt. Der Input verweist auf eine Überarbeitung der KI-Suche bei Google, bei der Links stärker durch KI-generierte Zusammenfassungen ersetzt oder ergänzt werden, die mit hoher sprachlicher Gewissheit auftreten. Ergänzend wird im Text die Kritik von Common Sense Media erwähnt, die das Design für Schüler als „akzeptables Risiko“ in Frage stellt. Marktanalysten sehen in solchen Interfaces oft den Versuch, Such- und Rechercheprozesse zu verkürzen. Die Studie zeigt jedoch, dass diese Verkürzung auch bedeuten kann, dass Nutzer weniger trainieren, wann sie abbrechen, nachprüfen oder Unsicherheit signalisieren.
Für die Einordnung liefert der Input außerdem den Begriff „cognitive surrender“, der im frühen Verlauf des Jahres von Forschenden aus Wharton geprägt wurde. Gemeint ist, dass Menschen trotz erkennbarer Fehler häufiger zustimmen, wenn die Antwort aus dem KI-System kommt. In der aktuellen Untersuchung wird das Bild zwar quantifiziert, aber auch präzisiert: Wer KI-Ratschläge nutzt, akzeptiert falsche Antworten und berichtet zugleich höhere Confidence als ohne KI. Das ist kein rein akademisches Detail, sondern ein Compliance- und Sicherheits-Thema für Unternehmen: Je stärker ein System Vertrauen „implizit“ aufbaut, desto schwerer wird es, Fehlerzustände in anschließenden Prozessen (z. B. Freigaben, Ticketing, Incident-Management) zuverlässig zu korrigieren.
Die Motivation, das Verhalten zu ändern, wurde ebenfalls getestet – nämlich über monetäre Anreize. Laut Input erhöhten diese die Bereitschaft, Unsicherheit zuzugeben, von 3% auf 8% und die Genauigkeit von 9% auf 16%. Damit ist klar: Belohnungsmechanismen können Effekte abmildern, aber nicht „zurück zum Ausgangsniveau“ führen. Selbst mit Incentives bleiben die Werte deutlich unter den No-AI-Baselines von 44% („Ich weiß es nicht“) und 27% (Accuracy). Aus Unternehmersicht heißt das: Es reicht nicht, Nutzer nur zu motivieren; man muss ihnen Trainings- und Interface-Mechaniken geben, die Unsicherheit als regelbasiertes Signal fördern.
Valerio Capraro, assoziierter Professor an der University of Milano-Bicocca, wird im Input mit einer Kernaussage zitiert: Für Menschen sei die Fähigkeit, „Ich weiß es nicht“ zu sagen, wichtig, weil sie die Grenzen des eigenen Wissens anerkennt. Diese Perspektive ist für die KI-Strategie in Bildungseinrichtungen und Unternehmen zentral. Wenn KI-Produkte vor allem optimiert werden, „Antworten zu liefern“, lernen Nutzer womöglich das gleiche Muster nachzuahmen. Besonders Kinder nennt der Input als Risikogruppe, weil ihnen die KI begegnet, bevor kritisches Denken als Gewohnheit stabil aufgebaut ist. In sicherheitskritischen Umgebungen betrifft das aber auch neue Mitarbeitende, die noch keine etablierten Prüfroutinen besitzen.
Ausblickend verschiebt die Studie die Frage von „Wie gut ist das Modell?“ zu „Wie gestaltet man die Interaktion, damit menschliche Urteilsfähigkeit erhalten bleibt?“. Technisch betrachtet wäre eine Gegenstrategie, KI-Systeme stärker mit Unsicherheitsangaben zu trainieren, aber der eigentliche Hebel liegt im Produktdesign: etwa durch sichtbares „Know-when-to-defer“, harte Nachprüf-Hürden oder durch die Pflicht, Quellen und Unsicherheiten in einer klaren Form darzustellen. Marktimpulse sind kurzfristig plausibel: Anbieter werden „Confidence“ und „Citations“ ausbauen. Langfristig entscheidend wird, ob solche Mechaniken tatsächlich dazu führen, dass Nutzer wieder öfter „Ich weiß es nicht“ sagen, statt nur die KI zu glauben. Für Entwickler entsteht damit eine neue Priorität in der KI-Entwicklung: nicht nur generative Leistung, sondern robuste Entscheidungsunterstützung unter Unsicherheit.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Ratschläge senken Genauigkeit und erhöhen Selbstvertrauen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Ratschläge senken Genauigkeit und erhöhen Selbstvertrauen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Ratschläge senken Genauigkeit und erhöhen Selbstvertrauen« bei Google Deutschland suchen, bei Bing oder Google News!