LONDON (IT BOLTWISE) – KI-gestützte Videozusammenfassungen können Erinnerungen von Zeugen nachhaltig verfälschen, selbst wenn Leser wissen, dass der Text von einer Maschine stammt. In einem Experiment halbierte irreführende Zusammenfassung die Trefferquote im späteren Wiedererkennen wichtiger Szenendetails von 83,6% auf 44,8%. Zusätzlich zeigten Tests kommerzieller multimodaler Modelle massive Auslassungen: Im Mittel fehlten 51,6% zentraler Ereignisse. Die Ergebnisse unterstreichen, dass „Human-in-the-Loop“ als Qualitätsventil für Gedächtniswirkung nicht ausreicht.
In immer mehr Organisationen übernehmen KI-Systeme die Vorverdichtung langer Video- und Audiodaten in kurze narrative Zusammenfassungen. Das Ziel klingt banal: schneller verstehen, weniger Material sichten, effizienter berichten. Die Kehrseite ist jedoch heikel, weil menschliche Erinnerungen nicht wie ein fest verdrahtetes Aufnahmesystem funktionieren, sondern als rekonstruierender Prozess aus Fragmenten entstehen. Genau an dieser Stelle setzt eine gemeinsame Untersuchung von Forschenden der Georgetown University und der University of Washington an und zeigt, dass KI-generierte Zusammenfassungen nicht nur Informationen weglassen oder entstellen können, sondern auch die spätere Wiedergabe dessen beeinflussen, was Menschen vermeintlich selbst gesehen haben.
Der technische Kern der Studie verbindet zwei Ebenen: Zunächst wird die faktische Qualität von KI-Ausgaben analysiert, danach die kognitive Wirkung beim Menschen gemessen. Für die erste Phase testeten die Forschenden die Video-Zusammenfassungen von OpenAIs ChatGPT und Googles Gemini anhand von animierten Verkehrsszenen, die auf etablierten psychologischen Paradigmen zur Zeugenzuverlässigkeit basieren. In dieser Analyse traten wiederkehrende Probleme auf: Es gab nicht nur beschreibende Defizite, sondern auch Halluzinationen und vor allem systematische Auslassungen. Besonders gravierend war die Quantität: Im Mittel nannten die Modelle 51,6% der als zentral eingestuften Ereignisse nicht. In 95% der getesteten Iterationen fehlte dabei die entscheidende Detailinformation, dass ein Kraftfahrzeug eine querende Person erfasst.
Die zweite Phase übersetzt diese Fehlerbilder in ein kontrolliertes menschliches Experiment. Dafür sahen 331 Teilnehmende zunächst animierte Szenen mit einem roten Auto, das an einer Kreuzung mit Stop- oder Yield-Schild zunächst abbiegt und anschließend eine Fußgängerin oder einen Fußgänger trifft. Zwischen 24 und 48 Stunden später lasen die Teilnehmenden anschließend eine narrative Zusammenfassung der Szene. Entscheidend war, dass die Texte entweder faktisch korrekt waren oder bewusst irreführende bzw. fehlerhafte Details enthielten. Zusätzlich variierten die Forschenden, wie die Herkunft des Textes wahrgenommen werden sollte: Die Zusammenfassung wurde entweder als von einem automatisierten KI-Modell oder als von einer menschlichen Person verfasst präsentiert. Beim anschließenden Wiedererkennen und korrekten Abrufen der ursprünglichen Details zeigte sich ein klarer Effekt: Wer eine irreführende Zusammenfassung gelesen hatte, lag bei der Trefferquote deutlich niedriger.
Konkret sank die Erinnerungsgenauigkeit von 83,6% bei denjenigen, die eine korrekte Zusammenfassung erhielten, auf 44,8% bei jenen, die eine unzutreffende KI-Zusammenfassung konsumierten. Besonders relevant für die Praxis: Das Wissen, dass die Zusammenfassung von KI erstellt wurde, bot offenbar keinen spürbaren Schutz. Die Fehlakzeptanz blieb demnach vergleichbar, unabhängig davon, ob die Teilnehmenden glaubten, der Text sei von einer Maschine oder von einem menschlichen Transkribierer erstellt worden. Auch individuelle Ausgangsunsicherheiten, Vertrautheit mit KI oder persönliches Vertrauen in KI-Systeme konnten die Kontamination des Gedächtnisses nicht zuverlässig abfedern. Damit stellt die Arbeit das verbreitete Sicherheitsnarrativ infrage, dass „Human-in-the-Loop“ als Korrekturinstanz automatisch gegen problematische KI-Fehler schützt.
Gerade in juristischen und polizeilichen Kontexten ist diese Lücke praktisch. Wenn ein Beamter oder ein Zeuge vor einer Vernehmung, einer Aussage oder einem Bericht zunächst eine KI-basierte Zusammenfassung durchgeht, kann das Gehirn diese zuvor gelesenen Details als Teil der eigenen Ereignisrepräsentation internalisieren. Die Studie betont dabei: Es geht nicht zwingend um böswillige Manipulation. Schon „nicht intendierte“ Fehler können genügen, um spätere Erinnerungen in eine Richtung zu verschieben, die mit der ursprünglichen Wahrnehmung nicht mehr übereinstimmt. Für Behörden bedeutet das eine zusätzliche Risikodimension bei der Nutzung von KI-Digest-Systemen: Nicht nur die Richtigkeit des Inhalts, sondern auch die Wirkung auf die Gedächtnisbildung muss berücksichtigt werden.
Als nächsten Schritt planen die Forschenden, von synthetischen Animationen hin zu realen Polizeikörperkameradaten (Body-worn Camera) zu wechseln. Ziel ist es, die Mechanismen unter realistischeren Bedingungen zu vermessen und die Übertragbarkeit auf offizielle Berichte sowie zivile Aussagen zu prüfen. Veröffentlicht wurde die Arbeit als Open-Access-Vorabversion auf arXiv (23. September 2026) mit dem Titel „AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory.“ Der DOI lautet 10.48550/arXiv.2609.28820. Für Unternehmen und Entwickler ergibt sich daraus eine klare Konsequenz: Qualitätsprozesse für KI-Zusammenfassungen dürfen sich nicht auf „inhaltliche Plausibilität“ reduzieren, sondern müssen auch messen, ob Auslassungen oder strukturell ähnliche Fehler systematisch zu falschen späteren Rekonstruktionen führen können.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Videozusammenfassungen verzerren Zeugenaussagen nachweislich" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Videozusammenfassungen verzerren Zeugenaussagen nachweislich" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Videozusammenfassungen verzerren Zeugenaussagen nachweislich« bei Google Deutschland suchen, bei Bing oder Google News!