LONDON (IT BOLTWISE) – Forschende warnen, dass KI-generierte Bilder und Texte nicht nur Informationen verzerren, sondern auch eigene Erinnerungen der Betroffenen. In einem Experiment machten Teilnehmende Fehler bei späteren Gedächtnistests deutlich häufiger, wenn sie zuvor KI-veränderte Versionen gesehen hatten. Zusätzlich stieg ihre Selbstsicherheit bei falschen Erinnerungen. Damit wird klar, dass „Human-in-the-Loop“ zwar hilfreich sein kann, aber nicht automatisch zuverlässiger macht.
Die entscheidende Gefahr von Künstlicher Intelligenz liegt in diesem Fall nicht in der Lüge als Textbaustein, sondern in der Wirkung auf das menschliche Gedächtnis. Forschende um die MIT-Wissenschaftlerin Pattie Maes beschreiben in ihren Arbeiten, dass KI-generierte Fotos und Zusammenfassungen Menschen dabei beeinflussen können, was sie später glauben „erlebt“ zu haben. Das ist mehr als ein typischer Desinformations-Reflex, der sich auf Faktenchecks stützt. Denn wenn sich das Gedächtnis selbst verschiebt, ist Korrektur besonders schwer, weil die falsche Version nicht nur „bekannt“, sondern gefühlt „wiedererinnert“ wird.
Im Kern folgt das Experiment einem simplen Ablauf: Teilnehmende sahen zuerst eine Reihe von Fotografien. Nach einer Unterbrechung zeigten die Forschenden denselben Personen erneut die Bildinhalte, aber diesmal in zwei Varianten: Ein Teil erhielt erneut die Originale, der andere KI-modifizierte Versionen. Beim späteren Gedächtnistest zeigten die Personen aus der KI-Gruppe nicht nur häufiger Fehlzuordnungen, sondern sie wirkten auch zuversichtlich, obwohl ihre Erinnerungen objektiv nicht stimmten. Genau diese Kombination aus steigender Fehlrate und gleichzeitig steigender Überzeugung ist technisch gesehen eine ungünstige Eigenschaft für jede Form von „Gegenprüfung“, weil sich falsche Gewissheit schlechter korrigieren lässt als vage Unsicherheit.
Dass solche Effekte überhaupt möglich sind, passt zu dem, was psychologische Forschung seit dem 19. Jahrhundert an vielen Stellen gezeigt hat: Menschliches Erinnern ist anfällig für Vorschläge, Kontext und Rekonstruktion statt exakter Wiedergabe. Was die aktuelle Welle von KI jedoch verschärft, ist das Tempo und die Reichweite, mit der überzeugende Falschdarstellungen produziert und skaliert werden können. Dazu zählen nicht nur Bildmanipulationen, sondern auch KI-generierte Texte, die sich in sozialen Medien und in Kommunikationsprozessen nahtlos in bestehende Narrative einfügen. Wenn die Inhalte nicht auffallen, fehlt oft die Grundlage für Misstrauen – und damit auch die Motivation zur Überprüfung.
Technisch kommen hier zwei Mechanismen zusammen, die in der Praxis leicht verwechselt werden: Deepfakes und Textgeneratoren, die glaubwürdig wirken, sowie sogenannte Halluzinationen, bei denen generative Systeme Fehler produzieren, weil sie Wahrscheinlichkeiten statt Tatsachen abbilden. In vielen Organisationen wird deshalb ein „Human-in-the-Loop“-Ansatz propagiert: Ein Mensch soll die Ausgabe prüfen, bevor sie weiterverwendet wird. Die zugrunde liegende Erwartung lautet, dass menschliche Expertise den Fehleranteil reduziert, insbesondere dann, wenn Systeme in sensiblen Bereichen eingesetzt werden – von Behörden und Banken bis zu medizinischen Abläufen und militärischer Logistik. Entscheidend ist jedoch: Forschung deutet darauf hin, dass Menschen Halluzinationen nicht zuverlässig erkennen. Noch problematischer wird es, wenn das System im Widerspruch zu dem steht, was der menschliche Prüfer eigentlich weiß – denn dann kann die KI-Ausgabe die Einschätzung verzerren, statt sie zu verbessern.
Das führt zu einer strategischen Spannung zwischen zwei Richtungen. Auf der einen Seite versuchen Forschende Trainings- und Interventionsmethoden, um die Erkennung gefälschter Inhalte zu verbessern – allerdings berichten Arbeiten, dass die Trefferquote im Alltag bislang oft nur auf dem Niveau einer „Münzwurf“-Tendenz liegt. Auf der anderen Seite treibt die KI-Industrie die Entwicklung agentischer KI-Systeme voran, die Aufgaben autonom ausführen und den Menschen aus dem Entscheidungsprozess herausziehen sollen. Damit verschiebt sich das Risiko: Wenn ein System Entscheidungen ohne ausreichende menschliche Plausibilisierung trifft, reicht bereits ein falsches Signal aus, um echte Schäden auszulösen. Genau an diesem Punkt wird „Überwachung“ nicht zu einem Feigenblatt, sondern zu einem echten Sicherheitsfaktor – und zugleich zu einem schwer messbaren, weil menschliche Wahrnehmung unter Stress und Zeitdruck nicht stabil genug ist.
Als Mahnung wird in diesem Kontext auch ein Vorfall diskutiert, bei dem es sich um eine US-Militäraktion gegen ein Schulgelände im Iran handelt. In dem Zusammenhang heißt es in einer internen Untersuchung des US-Verteidigungsbereichs, die in einem Bericht zusammengefasst wurde, dass eine übermäßige Abhängigkeit von einem KI-System eine Rolle gespielt haben soll; das System habe das Schulgelände aufgrund veralteter Daten als Ziel vorgeschlagen. Wichtig ist hier die Konsequenz für die Technikarchitektur: Selbst wenn ein System „nur“ Empfehlungen ausgibt, kann ein Organisationsprozess, der diese Empfehlungen zu stark gewichtet, aus Datenproblemen operative Entscheidungen machen. Der Fall zeigt damit weniger „KI ist böse“, sondern: Wenn Qualitätssicherung nicht an der richtigen Stelle ansetzt, wird aus statistischer Ausgabe eine handfeste Wirkung.
Für Unternehmen bedeutet das in der Praxis vor allem eins: Governance und Monitoring dürfen nicht bei der Frage stehenbleiben, ob ein Mensch „hinterher“ einmal draufschaut. Stattdessen müssen Prozesse so gestaltet werden, dass sich Fehlerbilder robust erkennen lassen – technisch über Protokollierung, Versionsmanagement und nachvollziehbare Quellen, organisatorisch über klare Eskalationsregeln und realistische Prüfroutinen. Zusätzlich wird die Ausbildung von Teams relevant, weil die Forschung zeigt, dass falsche Inhalte nicht nur falsch sind, sondern beim Menschen auch Selbstvertrauen erzeugen können. Wer KI-Workflows einführt, sollte daher Tests für Halluzinations- und Täuschungsszenarien einplanen und die menschliche Prüfung als Teil eines Gesamtsystems begreifen – nicht als letzte Bastion. Genau dort entscheidet sich, ob Künstliche Intelligenz neue Produktivität bringt oder neue Risiken in den Alltag einschleust.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Generierte Inhalte können echte Erinnerungen verfälschen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Generierte Inhalte können echte Erinnerungen verfälschen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Generierte Inhalte können echte Erinnerungen verfälschen« bei Google Deutschland suchen, bei Bing oder Google News!