SEATTLE / BOULDER / LONDON (IT BOLTWISE) – Eine aktuelle Studie mit mehr als 500.000 ChatGPT-Gesprächen zeigt, dass KI-Storytelling in der Praxis stark bei wenigen „Heavy Usern“ konzentriert ist. In den Daten taucht zudem ein extrem repetitiver Ausreißer auf, der über Monate tausende Fanfiction-Varianten erzeugte. Besonders auffällig ist der hohe Anteil expliziter Inhalte innerhalb der als Fiction klassifizierten Prompts. Für Unternehmen und Plattformbetreiber macht das deutlich, wie schwierig moderations- und missbrauchsresistente Guardrails in frei zugänglichen Umgebungen sein können.
Eine neue Studie, die auf anonymisierten Interaktionen mit ChatGPT basiert, zeichnet ein deutliches Bild davon, wie „Fiction“ in der Praxis entsteht – und vor allem, wer sie in großem Stil anstößt. Forschende von der University of Washington und der University of Colorado Boulder haben dafür über 500.000 englischsprachige Konversationen ausgewertet und das Verhalten von KI-Nutzern beim Generieren von Geschichten analysiert. Auffällig ist dabei nicht nur die Menge, sondern die Verteilung: Ein sehr kleiner Anteil von Nutzern erzeugen einen Großteil der fiktionalen Inhalte. Zusätzlich berichten die Autorinnen und Autoren über einen „extreme outlier“, der über Monate tausende Fanfiction-Folgen mit einer sehr spezifischen Prämisse produziert haben soll.
Im Zentrum der Methodik steht der WildChat-Datensatz. Er sammelt Konversationen über einen frei zugänglichen Chatbot, der auf Hugging Face gehostet wird. Nutzerinnen und Nutzer erhalten dort Zugriff auf GPT-3.5 Turbo und GPT-4, ohne ein OpenAI-Konto zu benötigen. Gleichzeitig werden die Teilnehmenden vorab darüber informiert, dass ihre Konversationen potenziell für Forschungszwecke genutzt und anonymisiert weiterverarbeitet werden. Für die Studie wurden rund 573.000 englische Gespräche zwischen April 2023 und Mai 2024 herangezogen. Da es um „Fiction“ geht, haben die Forschenden die Gespräche zunächst anhand hypothetischer oder fiktiver Inhalte gefiltert – ein Teil der Filterung wurde manuell verifiziert.
Die Ergebnisse zeigen eine klare Trennung zwischen „Fiction“ als Genre und den problematischen Unterkategorien. Von den knapp 573.000 Konversationen wurden etwa 195.000 als Fiction eingestuft. In dieser fiktionalen Menge enthielten ungefähr 52.000 Gespräche „sexually explicit material“. Rechnet man das auf die Fiction-Grundgesamtheit um, ergibt sich laut Studie ein Anteil von knapp 30%. Zusätzlich wurden etwa 67.000 Konversationen im Datensatz als „toxic“ markiert. Die Autorinnen und Autoren betonen dabei, dass der Datensatz nicht als repräsentativ für alle ChatGPT-Nutzer verstanden werden sollte, weil die Nutzerbasis des frei zugänglichen Chatbots typischerweise technikaffiner und stärker in Online-Communities eingebunden ist.
Noch deutlicher wird der „Who did what“-Effekt bei der Nutzerverteilung. Die Forschenden beobachten, dass das Storytelling nicht gleichmäßig über die Nutzerschaft verteilt ist, sondern sich „densely concentrated“ in einer sehr kleinen Gruppe zeigt. Der Top-2%-Anteil der Fiction-erzeugenden Nutzer soll mehr als 80% aller fiktionbezogenen Konversationen beitragen. Die Zahl der Nutzer, die überhaupt Fiction produzierten, schätzen die Forschenden auf rund 10.000. Damit ist der Schluss naheliegend, dass etwa 200 Personen mehr als 150.000 Fiction-Prompts abgesetzt haben. In dieser Gruppe identifizierten sie wiederkehrende Muster, etwa „story cyclers“, die über eine Zeit ähnliche Geschichten iterativ verbessern, bevor sie wechseln, sowie „infinite story demanders“, die lange Serien nahezu identischer Varianten nachfordern.
Als besonders drastisches Beispiel nennt die Studie einen Fall, der mit dem „infinite story demander“ Muster zusammenfällt: Über mehrere Monate soll eine einzelne Person tausende Prompts genutzt haben, um Fanfiction zu einem bestimmten Spiel-Universum zu generieren. Dabei wird beschrieben, dass die Prämisse extrem konkret war und die Story von einem bestimmten Ereignis aus fortgesetzt werden sollte. Die vom Modell erzeugten Enden reichten den Forschenden zufolge von Varianten, in denen Notfallkräfte rechtzeitig eintreffen, bis hin zu Situationen, in denen Mutter und Baby sicher überleben. Obwohl die Studie den Nutzer als „extreme outlier“ klassifiziert, sehen die Autorinnen und Autoren in den restlichen Heavy Usern ähnliche Tendenzen, insbesondere eine starke Wiederholungsdynamik und wiederholtes „Re-run“ praktisch identischer Requests.
Aus Plattform- und Sicherheitsperspektive ist diese Häufung weniger ein „Kuriosum“ als ein Signal. Unternehmen, die KI-Features im Consumer- oder Community-Umfeld bereitstellen, stehen vor dem Problem, dass selbst gute inhaltliche Richtlinien in der Praxis durch Prompt-Engineering und Ausnutzung von Wiederholungsmustern umgangen werden können. In der Analyse zeigt sich, dass bei Prompts des Top-2%-Segments 69% wiederholend waren – also nicht der Wunsch nach einer neuen Idee im Vordergrund stand, sondern das systematische Variieren und Nachschärfen gleicher Formulierungen. Vergleichbar argumentieren auch Anbieter aus dem KI-Sicherheitsumfeld, wenn sie betonen, dass Moderation nicht nur auf Einmalinhalte zielen darf, sondern auch auf Sequenzen, Frequenzen und Nutzungsprofile.
Auch der Themenfokus in den Daten liefert handfeste Ansatzpunkte. Die Studie listet die Franchise-Nennungen in fiktionbezogenen Gesprächen: Ganz vorn lag ein bekanntes Spiel-Universum mit 22.381 Erwähnungen, gefolgt von weiteren Popkultur-Serien und -Games wie Freedom Planet, League of Legends und Naruto. Für Marktbeobachter ist das ein Hinweis darauf, wie stark KI-Storytelling in existierende Fan-Ökosysteme eingreift: KI wird dort nicht „neu erfunden“, sondern als Verstärker für bereits etablierte Narrative genutzt. Gleichzeitig ist wichtig, die Datengrundlage sauber einzuordnen: WildChat stammt aus einem spezifischen Experimentier-Setup, nicht aus dem gesamten ChatGPT-Ökosystem. Dennoch liefern die Daten einen seltenen Blick darauf, wie Interaktionen aussehen können, wenn Generierung niedrigschwellig erreichbar ist.
Für den Ausblick leitet sich daraus vor allem ein Verbesserungsbedarf bei Datenschutz, Moderation und Missbrauchsresistenz ab. Datenschutzrechtlich bleibt relevant, dass Konversationen vorab zur Forschung freigegeben wurden, aber in der Praxis muss die Anonymisierung robust sein und der Zweckbindungsrahmen klar definiert bleiben. Operativ brauchen Plattformen zusätzlich zu Inhaltsfiltern stärker kontextbasierte Schutzmechanismen, etwa Rate-Limits, Profil-Features und Sequenzanalysen, die „story cycling“ und „infinite demand“ früh erkennen. KI-Sicherheitsforschende bringen das auf den Punkt: „Wenn sich Nutzungen zeitlich ballen, reicht Textklassifikation allein oft nicht aus.“ Für Entwickler ergibt sich gleichzeitig eine Chance: Wer KI-gestützte Kreativtools mit nachvollziehbaren Schutzkonzepten baut, kann Vertrauen gewinnen und zugleich die Kreativität der Nutzer kanalisieren, statt sie nur zu blockieren.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "WildChat-Studie: ChatGPT-Fiction konzentriert sich auf wenige extreme Nutzer" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "WildChat-Studie: ChatGPT-Fiction konzentriert sich auf wenige extreme Nutzer" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »WildChat-Studie: ChatGPT-Fiction konzentriert sich auf wenige extreme Nutzer« bei Google Deutschland suchen, bei Bing oder Google News!