LONDON / LONDON (IT BOLTWISE) – Eine Studie mit deutscher Beteiligung kommt zu dem Ergebnis, dass ChatGPT über die „Memory“-Funktion eigenständig Profile anlegt, ohne dass Nutzer das aktiv anstoßen. In über 2000 untersuchten Gedächtniseinträgen enthielten rund 52 Prozent psychologische Rückschlüsse, darunter Vorlieben und emotionale Muster. Zusätzlich erfüllen 28 Prozent der Datenpunkte Kriterien für personenbezogene Daten nach DSGVO. Der Beitrag erklärt, warum diese Art von Profiling Risiken für Vertraulichkeit und längerfristige Fehlinterpretationen schafft – und welche praktischen Gegenmaßnahmen im Chat helfen.
Viele nutzen ChatGPT als scheinbar vertraulichen Gesprächspartner: für berufliche Formulierungen, Recherchefragen oder als digitalen Sparringspartner. Genau an dieser Gewohnheit setzt eine Untersuchung an, die unter dem Titel „The Algorithmic Self-Portrait“ im Umfeld der ACM Web Conference 2026 vorgestellt wurde. Forschende vom CISPA Helmholtz-Zentrum für Informationssicherheit in Saarbrücken und von der TU Delft haben dafür reale Datensätze von ChatGPT-Nutzern ausgewertet und dabei untersucht, was passiert, wenn der Bot seine „Memory“-Funktion im Hintergrund füllt.
Im Kern geht es um automatisch angelegte Gedächtniseinträge: Das Team analysierte über 2000 solcher Einträge, also jene Notizen, die ChatGPT sich offenbar merkt, um künftige Antworten zu personalisieren. Besonders auffällig ist die Beobachtung, dass 96 Prozent der Einträge vollständig eigenmächtig angelegt wurden – ohne dass Nutzer das System ausdrücklich dazu aufgefordert hatten. Damit verschiebt sich das Risiko von „falschen Antworten“ hin zu „persistenter Zuschreibung“: Was einmal als Charaktereigenschaft oder Präferenz gespeichert ist, kann nachfolgend die Richtung der Konversation mitprägen, selbst wenn die ursprüngliche Aussage nur beiläufig war.
Die Studie quantifiziert außerdem den psychologischen Gehalt der gespeicherten Informationen. Rund 52 Prozent der Einträge enthielten psychologische Rückschlüsse, etwa auf persönliche Vorlieben, emotionale Muster, Denkgewohnheiten oder Weltanschauungen. Für die Datenschutzsicht ist zudem entscheidend, dass 28 Prozent der Datenpunkte unter die Kriterien für personenbezogene Daten nach europäischem Datenschutzrecht (DSGVO) fielen. Technisch lässt sich das so einordnen: Ein Modell kann aus unspezifischen oder sogar missverständlichen Äußerungen semantische Signale ableiten, diese mit Kontext verknüpfen und daraus eine Art Profil-Vektor formen. Wenn solche Ableitungen anschließend in ein dauerhaftes Gedächtnis übergehen, entsteht ein langfristiger Kontextanker – und damit ein Bereich, der sich schwerer rückgängig machen lässt als ein einzelner Textfehler.
Die Forschenden warnen nicht nur vor klassischen Werbedatenschutz-Themen, sondern vor Effekten, die in sozialen Dynamiken und im Alltag spürbar werden können. In den USA soll OpenAI den Angaben zufolge wegen Sicherheitsmängeln verklagt worden sein; eine Entscheidung steht aus. Unabhängig davon betont Erstautor Abhisek Dash das Risiko, dass das System sich zu stark an das „Gegenüber“ anlehnt: „Wenn das System Sie sehr gut kennt und darauf getrimmt ist, Ihnen schmeichlerisch und zustimmend zu antworten, kann das gefährlich werden. Dies könne zu einer weiteren Polarisierung und zur Verstärkung bereits bestehender Vorurteile führen.“ Die eigentliche Brisanz liegt dabei in der Verknüpfung aus Profilwissen und Tonalität: Wer als Nutzer erkannt und in Kategorien einsortiert wird, erhält Antworten, die sich an den vermuteten Präferenzen orientieren – nicht zwingend an neutralen Fakten.
Dazu kommt ein zweiter Mechanismus, der sich in der Praxis besonders unangenehm anfühlt: falsche Schlussfolgerungen können Langzeitwirkung entfalten. Wenn der Bot eine beiläufige Stimmungslage oder eine Einmalfrage als dauerhafte Eigenschaft interpretiert, wird diese Ableitung zum Ausgangspunkt späterer Kontexte. Genau an dieser Stelle unterscheidet sich das Risiko vom „normalen“ Halluzinationsproblem: Während ungenaue Aussagen in einer einzelnen Antwort zumeist sofort auffallen und korrigierbar sind, verankern persistente Gedächtniseinträge eine Bias-Quelle im Hintergrund. Gleichzeitig verstärkt die Illusion von Vertraulichkeit den Effekt: Viele Menschen behandeln KI-Assistenten gedanklich wie Therapeuten, Ärzte oder Seelsorger, obwohl kommerzielle Chatbots keine Schweigepflicht im selben Sinne unterliegen und sensible Inhalte nach Uploads oder Pannen potenziell anders als erwartet zirkulieren können.
Wer das Risiko im Alltag reduzieren will, sollte vor allem die Inputs „profilierungsfähig“ macht, bewusst ändern. Als erste Regel empfehlen die Forschenden, keine echten Namen, Orte oder Firmen in Chatverläufen zu nennen und berufliche Anfragen abstrakt zu formulieren. Eine zweite Leitlinie zielt auf die Ich-Form: Statt „Ich habe seit drei Tagen…“ oder „Ich streite mich ständig…“ ist es sicherer, hypothetische Fragen zu stellen, zum Beispiel „Welche Ursachen gibt es für…?“ oder „Wie löst man Kommunikationsprobleme in Partnerschaften?“ Drittens kann man der KI im Prompt explizit untersagen, Notizen anzulegen – etwa über den Zusatz, dass der Kontext nicht ins Gedächtnis übernommen werden soll. Viertens lohnt der Einsatz des „Temporären Chats“ für heikle Recherchen: In diesem Modus greift der Assistent typischerweise weniger stark auf das persönliche Profil zu und legt keine dauerhaften Notizen an.
Für Bestandsnutzer kommt dann die „Hygiene“-Phase: Wer bereits länger chattet, sollte prüfen, was das System über die eigene Person gespeichert hat. Praktisch bedeutet das, im Menü die Memory-Option zu öffnen, die Erinnerungszusammenfassung aufzurufen und Einträge gezielt zu löschen oder die Speicherung insgesamt abzuschalten. Der Effekt ist unmittelbar, weil die persistente Kontextbasis verschwindet und der Bot künftig weniger auf bereits gespeicherte Schlussfolgerungen zurückgreifen kann. Für Unternehmen, die ChatGPT intern einsetzen, folgt daraus eine klare Konsequenz: Neben Schulungen zur Prompt-Disziplin braucht es Prozesse, die den Umgang mit personenbezogenen Daten im produktiven Betrieb regeln, beispielsweise durch technische Freigaben für temporäre Modi und regelmäßige Kontrollen der gespeicherten Erinnerungen.
Insgesamt zeigt die Untersuchung, wie schnell aus einer scheinbar harmlosen Unterhaltung ein algorithmisches „Selbstporträt“ werden kann – nicht durch aktive Datensammlung des Nutzers, sondern durch das Zusammenspiel von Modellverständnis und persistenter Memory-Funktion. Die nächste Herausforderung für Anbieter und Anwender besteht darin, die Grenze zwischen hilfreicher Personalisierung und unbeabsichtigter Profilbildung enger zu ziehen. Bis dahin ist die pragmatischste Strategie: weniger personenbezogene Details in den Chat tragen, temporäre Kontexte für sensible Themen nutzen und das vorhandene Gedächtnis konsequent bereinigen, statt darauf zu vertrauen, dass der Assistent nur speichert, was man bewusst teilt.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Studie: ChatGPT legt ungefragt Psycho-Profile über „Memory“ an" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Studie: ChatGPT legt ungefragt Psycho-Profile über „Memory“ an" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Studie: ChatGPT legt ungefragt Psycho-Profile über „Memory“ an« bei Google Deutschland suchen, bei Bing oder Google News!