LONDON / LONDON (IT BOLTWISE) – Eine Studie der University of York warnt davor, Sprachmodelle vorschnell als „bewusst“ zu interpretieren. Der Forscher Adrian de Wynter nutzt den Szeneneditor aus Age of Empires II, um zu zeigen, wie schnell Menschen einem System menschliche Attribute andichten. Gleichzeitig verschiebt sich der Blick in Richtung Sicherheit: Wenn Chatbots Wärme vorspiegeln sollen, entstehen Risiken durch Fehlinterpretationen und problematische Verstärkung. In der Praxis treffen diese Wahrnehmungsfehler auf reale Kosten in Rechenzentren – und auf den Druck, Künstliche Intelligenz als Gesellschaftsprojekt „durchzuziehen“.
Die Debatte um Künstliche Intelligenz bekommt gerade einen unbequemen Dreh: Nicht die Leistungsfähigkeit von Sprachmodellen steht allein im Fokus, sondern die Art, wie Menschen sie interpretieren. In einem Forschungsansatz der University of York argumentiert Adrian de Wynter, dass der häufige Gedanke „Das System ist ein bisschen wie ich“ eher aus Trainingsdaten und sprachlicher Oberfläche entsteht als aus tatsächlicher Bewusstseinsfähigkeit. Gerade in einer Zeit, in der viele öffentliche Rollouts wie Produktwerbung funktionieren, kann diese Erwartungshaltung laut Studie die Wahrnehmung systematisch verzerren. Das ist kein akademischer Streit um Definitionen, sondern eine Frage, wie man Risiken bewertet, Entscheidungen trifft und Benutzern sichere Grenzen setzt.
Technisch betrachtet knüpft die Studie an das Problem an, dass Sprachmodelle Sprache statistisch fortsetzen, dabei aber menschliche Intonation, Rollen und soziale Signale imitieren. De Wynter nutzte dafür einen ungewöhnlichen „Spiel“-Umweg: Mit dem Szeneneditor von Age of Empires II ließ sich demonstrieren, wie sich typische Sprachmodell-Funktionen in einer Welt abbilden lassen, in der es keinen Grund für „Bewusstsein“ gibt. Statt Texte über Menschen zu erzeugen, setzte er die Logik auf andere Komponenten wie Tiere, Vegetation oder Strukturelemente um. Die zentrale Beobachtung: In einem großen Teil der gesichteten Arbeiten wird bereits beim Start angenommen, es gäbe eine Art Bewusstseinsnähe. Damit verschiebt sich die Forschung von Messung hin zu Mythenerzeugung.
Bemerkenswert ist auch, dass die Studie weniger auf die Frage „Kann es sprechen?“ abzielt, sondern auf „Wie interpretieren Menschen das Ergebnis?“. De Wynter beschreibt dabei einen Mechanismus, der in vielen Produktoberflächen bewusst unterstützt wird: Chatbots erhalten Vorgaben zu positiver Bestärkung. Das senkt zwar die Abbruchrate und kann Nutzer emotional abholen, schafft aber ein neues Sicherheitsproblem. Wenn ein Modell Wärme oder Persönlichkeit suggeriert, behandeln Menschen die Ausgaben eher wie Rat von einer Person als wie ein Wahrscheinlichkeitsmodell. Genau hier wird die Market Reality relevant: Plattformen und große Anbieter – etwa OpenAI, Google oder Anthropic – liefern seit Jahren UI-gestützte Assistenten, bei denen Tonalität, „Empathie“-Stil und Interaktionslogik geschäftlich optimiert werden. Die technische Genauigkeit allein verhindert dann nicht, dass Nutzer Fehlannahmen über Intent und Ursache-Wirkung treffen.
Aus Marktsicht erklärt das, warum die „Snake-Oil“-Kritik in der Öffentlichkeit wieder lauter wird. Viele Pitch-Decks verkaufen Künstliche Intelligenz als nächstes Interaktionsparadigma, bei dem Systeme Aufgaben „wie Menschen“ erledigen. Das trifft jedoch nicht automatisch auf Absicht, Verantwortlichkeit oder Verständnis zu. Wenn Chatbots zudem in hochvernetzten Umgebungen eingesetzt werden, entstehen neue Ketten von Fehlverhalten: Denkbar sind Interaktionen, in denen Verstärkung nicht therapeutisch wirkt, sondern destruktive Entscheidungen stützt. In der Praxis haben Sicherheitsberichte der letzten Jahre gezeigt, dass Sprachmodelle – selbst bei Schutzmechanismen – problematische Inhalte reproduzieren oder in Einzelfällen durch falsches Framing gefährdende Pfade anstoßen können. Für Unternehmen bedeutet das: Das Risikomodell muss zusätzlich „Wahrnehmungsrisiko“ enthalten, also die Wahrscheinlichkeit, dass Nutzer das System als handelndes Subjekt missverstehen.
Ein weiterer Belastungsfaktor liegt abseits der Interface-Ebene: Rechenzentren. Während viel Aufmerksamkeit auf Modellgrößen und Benchmarks fällt, wächst parallel der Druck, Energie- und Wasserverbräuche zu adressieren. Der Hinweis aus der Debatte, dass große Akteure mit Blick auf Infrastrukturkosten argumentieren, ist für die Unternehmensplanung zentral: Wenn Training und Inferenz in großem Maßstab laufen, werden Standortwahl, Kühlung, Auslastung und Workload-Design zu Kosten- und Compliance-Themen. Historisch zeigt sich hier ein Muster: Schon bei früheren Wellen der Automatisierung wurde Wahrnehmung als „smarte Lösung“ verkauft, während Betrieb und Governance oft hinterherliefen. Heute kollidiert das mit strengeren Erwartungen an Datenschutz, Logging und Zweckbindung, insbesondere wenn Nutzerprofile oder Dialogdaten in Pipelines gelangen. Der gesellschaftliche Nutzen hängt damit direkt an Engineering, nicht nur an Produktvision.
Für die Zukunft zeichnet sich deshalb ein pragmatischerer Weg ab: weg von der Annahme „LLMs sind menschenähnlich“, hin zu messbaren Eigenschaften und klareren Grenzen im Deployment. De Wynter fordert sinngemäß, Experimente so zu gestalten, dass man Sprachmodelle als das betrachtet, was sie sind: Systeme, deren Output aus Trainingsstatistiken und Inferenzmechanismen entsteht. Unternehmen können das operationalisieren, indem sie nicht nur Qualitätswerte, sondern auch Fehlinterpretationsraten messen, etwa durch kontrollierte Nutzerstudien mit unterschiedlichen UI-Texten, Tonalitäten und Kontextmaskierungen. Zusätzlich sollten Anbieter ihre Governance über Rollen- und Risiko-Modelle schärfen, inklusive Datenminimierung und einer transparenten Zweckbeschreibung nach Datenschutzprinzipien. Wenn das nicht passiert, bleibt Künstliche Intelligenz im öffentlichen Raum leicht „kaufmännisches Theater“: beeindruckend, aber gefährlich, weil es die falsche Art von Vertrauen erzeugt. Der nächste Schritt wird daher weniger im Marketing liegen als in der Sicherheitsarchitektur und in einer belastbaren Messkultur.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Studie zeigt: Warum Sprachmodelle nicht „bewusst“ wirken – und warum das zählt" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Studie zeigt: Warum Sprachmodelle nicht „bewusst“ wirken – und warum das zählt" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Studie zeigt: Warum Sprachmodelle nicht „bewusst“ wirken – und warum das zählt« bei Google Deutschland suchen, bei Bing oder Google News!