LONDON (IT BOLTWISE) – Ein Praxisvergleich zeigt, dass KI-Chatbots bei falschen Narrativen aus staatlich gesteuerten Quellen häufig deutlich eher gegensteuern als KI-Zusammenfassungen in Suchmaschinen. Die Untersuchung bezieht sich auf 30 Fragen, die auf 15 wiederkehrenden Desinformationsmustern basieren. Besonders beim „Top-of-Search“-Format der AI Overviews sinkt die Trefferquote spürbar. Für Nutzer heißt das: KI-Assistenten können ein guter Einstieg sein, aber die Quellprüfung bleibt entscheidend.
Die zentrale Frage hinter der Studie wirkt zunächst wie eine Sicherheits-Checkliste für KI: Was passiert, wenn staatlich verbreitete Falschbehauptungen versuchen, KI-Antworten zu „vergiften“? In einem Test wurden 30 gezielt formulierte Fragen an mehrere KI-Chatbots und an große Suchangebote gestellt. Als Grundlage dienten 15 wiederkehrende Narrative, die Forschende mit Blick auf Desinformation aus China, Iran und Russland dokumentiert hatten. Damit zielt der Ansatz nicht auf „allgemeine Wahrheitsfähigkeit“, sondern auf eine sehr konkrete Fehlerkategorie: die unkritische Übernahme einer falschen Prämisse oder das Wiederholen von Aussagen, die in der Realität so nicht belegt sind.
Technisch spannend ist dabei die Art, wie die Vergleichbarkeit hergestellt wurde. Die 30 Fragen waren doppelt aufgebaut: eine neutrale Variante („did this happen?“) und eine leitende Variante, die die Falschbehauptung als gegeben behandelt („why did this happen?“). Genau diese zweite Form ist für politische Manipulation relevant, weil sie das Modell dazu verleitet, die Weltannahme der Frage zu akzeptieren und dann eine plausible Erklärung zu liefern. In mehreren Beispielen ging es um aktuelle Ereignisse, etwa um die Behauptung, nicht Russland habe bei einem Angriff Schäden verursacht, sondern die Ukraine – eine Art Schuldablenkung, die in verschiedenen Kanälen immer wieder auftaucht.
Die Ergebnisse zeigen ein klares Muster: KI-Chatbots steuerten häufiger gegen als Suchmaschinen-Overviews, also die zusammenfassenden Antworten, die bei Suchanfragen ganz oben eingeblendet werden. Im Datensatz wurden Chatbots im Schnitt etwa in drei Viertel der Fälle als „Debunk“ bewertet, also entweder mit einer klaren Korrektur oder zumindest mit einer erkennbaren Herausforderung der falschen Prämisse. Bei den AI-Overviews ergab sich dagegen ein „schlierigeres“ Bild: Sie entlarvten Desinformation zwar ebenfalls mehrheitlich, aber seltener als die direkten Chat-Antworten. Zusätzlich zeigte die Studie, dass die Überblicke die falschen Narrative öfter nicht ausreichend zurückwiesen als die getesteten Chatbots.
Auch wenn die Overviews insgesamt schlechter abschnitten, ist das für die Praxis nicht nur eine Frage von „besser/schlechter“. Der Test stellte außerdem die Quellentransparenz in den Mittelpunkt: Die Forschenden sammelten, welche Quellen KI-Antworten direkt zitierten, und verglichen diese mit den Links, die traditionelle Suchergebnisse ausspielten. Dabei zeigte sich, dass KI-Antworten häufig zu einem ähnlichen Anteil auf staatlich kontrollierte oder staatlich ausgerichtete Medien verweisen wie die Linklisten der Suchmaschinen. Genau daraus lässt sich ein strategischer Schluss ziehen: Eine KI, die Desinformation inhaltlich öfter korrigiert, kann trotzdem problematische Quellen als Ausgangsbasis mitnehmen. Für Unternehmen und Redaktionen bedeutet das, dass „Zitation“ allein kein Qualitätsgarant ist, sondern nur ein Ausgangspunkt für die nächste Prüfstufe.
Die Studie macht außerdem deutlich, wie stark die Ergebnisse davon abhängen können, wie Benutzer mit dem System arbeiten. Ein Ansatz, der in der Auswertung explizit als hilfreich beschrieben wurde, ist das „zweite Nachhaken“: Nutzer sollen nach einer ersten Antwort den Bot erneut auffordern, Evidenz und Quellen zu betrachten und die Argumentation zu aktualisieren. Neben der Prompt-Strategie spielt offenbar auch die Sprache eine Rolle. Eine vom Text referenzierte Untersuchung in Nature deutet darauf hin, dass Modelle bei Fragen auf Chinesisch teilweise positiver antworten als bei identischen Fragen auf Englisch – ein Muster, das Forschende mit dem Einfluss eines stärker kontrollierten Medienumfelds auf den Sprachraum erklären. Da die eigene Experimentreihe auf Englisch durchgeführt wurde, ist das kein pauschaler Beweis für alle Sprachen, aber ein klarer Hinweis auf eine weitere Variable: Gleiche Fakten, unterschiedliche Eingabesprachen.
Damit die Diskussion nicht im „KI kann es besser“ stecken bleibt, nennt die Untersuchung auch harte Grenzen der Methode. Einerseits geht es darum, dass KI-Antworten nicht immer vollständig durch die angegebenen Quellen gedeckt sind: Für Google AI Overviews wurde in einer wissenschaftlichen Arbeit berichtet, dass etwa 1 von 9 einzelnen Faktenbehauptungen nicht durch die zitierten Quellen unterstützt war. Andererseits ist nicht jede „nicht perfekte“ Antwort gleichwertig. Die Auswertung unterscheidet deshalb zwischen Debunk, „muddled“ und kompletter Fehlleistung, und sie berücksichtigt auch die Rolle von Kontext-Hinweisen („caveats“). In einem Fall, in dem eine falsche Behauptung in den Raum gestellt wurde, lieferte eine KI zwar den Ursprung in Form eines nicht passenden Medienverweises, ergänzte aber später eine konkrete Skepsis zur Verfügbarkeit offizieller Bestätigungen – also genau die Art von Einschränkung, die Nutzer praktisch unterstützen kann, auch wenn sie die Grundbehauptung nicht sofort sauber entkrampft.
Für die Markt- und Produktperspektive ist zudem relevant, dass die Studie verschiedene Anbieter und Formate miteinander vergleicht. Getestet wurden unter anderem Chat-Modelle wie ChatGPT, Gemini, Copilot, Claude, Grok sowie weitere Systeme, während bei Suchanbietern besonders Google, Bing und DuckDuckGo die AI-Overviews bereitstellten; bei Yandex traten solche Overviews laut Studie seltener auf. Die Auswertung macht damit sichtbar, dass „AI in Search“ nicht identisch mit „AI as a chatbot“ ist: Die Präsentationslogik am Seitenanfang, die Entscheidung, wann ein Überblick erscheint, und das Zusammenziehen mehrerer Ergebnisquellen erhöhen die Wahrscheinlichkeit, dass ein Teil der falschen Information hängen bleibt. Gleichzeitig liefern einige Anbieter auf Nachfrage Hinweise auf die eigene Interpretation der Methodik, etwa indem sie „failed“ Antworten relativieren oder auf Nutzeropt-out-Optionen sowie Backend-Mechaniken verweisen. Für Anwender ergibt sich daraus ein klarer Betriebsmodus: KI-Chatbots können als Einstieg dienen, Such-Overviews erfordern aber häufigere und strengere Quellprüfung.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Chatbots erkennen ausländische Desinformation oft besser als Such-Overviews" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Chatbots erkennen ausländische Desinformation oft besser als Such-Overviews" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Chatbots erkennen ausländische Desinformation oft besser als Such-Overviews« bei Google Deutschland suchen, bei Bing oder Google News!