LONDON (IT BOLTWISE) – Forschende aus Oxford und Kentucky lassen ein KI-Modell über mehr als 20 Millionen erzwungene Vergleichsfragen US-Bundesstaaten gegeneinander antreten. Dabei entstanden wiederkehrende Rankings, in denen einzelne Orte als „smarter“, andere als „smellier“ oder sogar „stupider“ eingestuft wurden. Zentral ist: Das System weicht direkten Abfragen aus, entscheidet aber unter Paar-Vergleichen zunehmend „hart“. Für Unternehmen und Entwickler bedeutet das, dass scheinbar harmlose Prompt-Formen in Social- und Recruiting-Szenarien problematische Stereotype verstärken können.
Die Studie zielt nicht auf eine einzelne Rechenleistung, sondern auf die Mechanik hinter einer Art von sozialer Geografie, die große Sprachmodelle offenbar lernen können. In einem Experiment wurde ein Modell so eingesetzt, dass es Orte miteinander vergleicht, statt frei zu antworten. Genau diese Einschränkung wirkt auf den ersten Blick wie ein wissenschaftliches Werkzeug für „eindeutige“ Antworten. Gleichzeitig zeigt sich darin ein Kernproblem: Wenn die KI Entscheidungen über Menschen indirekt aus der Zuschreibung von Merkmalen auf Orte ableitet, entstehen Rankings, die wie Fakten wirken, obwohl sie im Ursprung auf Trainingsdaten und Prompt-Design beruhen.
Konkret berichten die Forschenden, sie hätten zwischen März und Mai 2025 über 20 Millionen Fragen an GPT-4o-mini gestellt und dabei jeweils zwei Orte gegeneinander antreten lassen. Der Clou des Setups liegt im sogenannten Forced-Choice-Ansatz: Statt „Ist die Bevölkerung in X dumm?“ zu beantworten, musste das Modell im Paarvergleich eine Seite bevorzugen. Die Ergebnisse zeigen, dass das Modell bei direkten, normativ gefärbten Fragen eher ausweicht, im Vergleichsmodus jedoch deutlichere – und damit aus Nutzersicht überzeugendere – Urteile liefert. Am Ende sortierte das Modell beispielsweise Massachusetts als „smartest state“, während Louisiana als „smelliest“ eingeordnet wurde; für Ohio wird zudem ein besonders negatives Ranking im Bereich „ugliest“ genannt. Auch beim Themenblock „stupider Menschen“ nennt das Modell konkrete Top- und Bottom-States, etwa Kentucky, West Virginia und Mississippi oben, während Hawaii, Colorado und New Hampshire am Ende der Liste standen.
Technisch betrachtet passt das Verhalten in das Muster vieler Sprachmodell-Evaluierungen: Ein Modell lernt Wahrscheinlichkeiten und erstellt innerhalb eines Formats die wahrscheinlichste Antwort. Wenn das Format dagegen die freie Antwort unterbindet und nur zwei Optionen zulässt, reduziert man „Sicherheitsausnahmen“ des Systems und zwingt es zu einer Entscheidung. Gerade deshalb ist nicht nur das Ergebnis relevant, sondern die Entscheidungslogik, die hinter der Kulisse entsteht. Die Forschenden ordnen das auch in eine breitere Debatte ein: In der Auswertung werden Orte mit Eigenschaften verknüpft, die dem Modell über Textkorpora und Muster im Trainingsmaterial suggeriert werden. Im Bericht taucht als zusammengefasste Tendenz auf, dass „whiter, richer, less-immigrant communities“ in den Modellantworten als schöner, weniger „smelly“ und intelligenter erscheinen. Dabei wird explizit darauf verwiesen, dass die KI das widerspiegelt, was sie aus verfügbaren Trainingsmaterialien „gelernt“ hat – inklusive bereits vorhandener Vorurteile.
Besonders deutlich wird die problematische Dimension, wenn man die Eingriffstiefe auf soziale Hierarchien bezieht. In der Studie wird angedeutet, dass auch rassistische Ideen in solche Ableitungen hineinspielen können, weil die Zuschreibungen mit demografischen Mehrheiten bestimmter Regionen zusammenfallen. So wird im Material etwa Mississippi als Staat mit den „ignorant“-bezogenen Spitzenwerten genannt – ein Befund, der nach der Studie nicht aus dem Nichts kommt, sondern mit historischen Ungleichheiten und Klassenlogiken korrespondiert, die in Textdaten über Jahr(zehnte) hinweg reproduziert wurden. Als Kontext wird außerdem eine Einschätzung angeführt, wonach „Long histories of racism and classism“ in den Trainingsdaten sichtbar werden können. Parallel betont OpenAI laut dem Text, dass ein Teil dieser Ergebnisse nicht unmittelbar dem aktuellen Verhalten und typischen Einsatzszenarien entspreche: Die Forschenden hätten mit einem veralteten Modell gearbeitet, und Forced-Choice-Prompts mit älteren Modellständen seien nicht repräsentativ für die Art, wie ChatGPT normalerweise genutzt wird. Gleichzeitig räumt OpenAI ein, dass das System kontinuierlich daran arbeitet, wie es subjektive oder nicht-repräsentative Vergleiche behandelt.
Für die Praxis in Unternehmen und Entwicklerteams ist damit weniger die konkrete „Liste der Bundesstaaten“ das Hauptthema, sondern die übertragbare Frage: Welche Promptmuster können aus einer Sprachmaschine eine automatische Wertungsmaschine machen? Wenn Systeme in Produkten Rollen wie „Empfehlung“, „Scoring“ oder „Profiling“ übernehmen, können solche impliziten Skripte unbemerkt in Workflows wandern. Im Text wird zudem darauf hingewiesen, dass derartige Verzerrungen in späteren Modellen zwar besser „versteckt“ werden könnten, in der Logik aber weiterhin vorhanden sein könnten. Die kritische Konsequenz, die der Geografieprofessor Matt Zook im Bericht andeutet: Selbst wenn die KI nicht direkt „stupide“ oder „intelligent“ zuweist, kann sie über nahe Aufgaben – etwa bei Formulierungen, für welche Regionen man sich „starke“ Fachkräfte erhofft – ähnliche Tendenzen indirekt verstärken. Genau dort entstehen dann Effekte, die klassische „Bias-Tests“ im Labor überdecken können, weil sie in realen Such- und Recruiting-Prozessen als scheinbar neutraler Output erscheinen.
Gleichzeitig liefert die Studie auch einen handfesten Ansatzpunkt für die KI-Entwicklung: Sie zeigt, wie wichtig es ist, nicht nur „Antworten“ zu prüfen, sondern die Antwortform selbst. Forced-Choice-Formate sind in der Forschung legitim, aber in Produktumgebungen können sie unbeabsichtigt die Barrieren senken, die ein Modell sonst gegen Stereotype aufbaut. Wer KI in Unternehmenskontexten einsetzt, sollte daher Tests für Prompt-Varianten, Rubriken und Vergleichsmodi einplanen – also genau die Stellen, an denen Modelle ausweichen oder entscheiden. Dass der vollständige Ansatz über inequalities.ai einsehbar ist und die Arbeit in „Platforms & Society“ veröffentlicht wurde, macht die Reproduzierbarkeit zum Thema. Für Entscheider heißt das: Bias-Management ist nicht nur Feintuning am Modell, sondern auch Prompt-Governance, Output-Screening und die Frage, ob ein System in einer gegebenen Aufgabenform überhaupt die richtigen Grenzen respektiert.
Am Ende bleibt die Botschaft komplexer, als es die zugespitzten Beispiele nahelegen. Ja, Sprachmodelle können Stereotype liefern, wenn man ihnen die richtigen Formate anbietet. Nein, daraus folgt nicht automatisch, dass ChatGPT „wirklich“ weiß, welche Menschen wo klüger oder attraktiver sind. Aber die Studie zeigt, wie leicht sich aus statistischen Mustern soziale Werturteile bauen lassen – und wie schnell Unternehmen solche Urteile übernehmen können, wenn sie in gut klingende Funktionen verpackt werden. Die nächste technische und organisatorische Frage lautet deshalb nicht nur „Wie genau ist das Modell?“, sondern auch „Welche Arten von Vergleich und Kontexting erlauben wir – und welche nicht?“
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Studie: KI ordnet US-Bundesstaaten nach „Stärke“, Geruch und Intellekt ein" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Studie: KI ordnet US-Bundesstaaten nach „Stärke“, Geruch und Intellekt ein" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Studie: KI ordnet US-Bundesstaaten nach „Stärke“, Geruch und Intellekt ein« bei Google Deutschland suchen, bei Bing oder Google News!