BERLIN / LONDON (IT BOLTWISE) – Eine neue Studie zeigt, dass KI-Modelle wie ChatGPT systematisch Vorurteile gegenüber Ostdeutschen aufweisen. Diese Verzerrungen könnten weitreichende Auswirkungen auf die Nutzung von KI in verschiedenen Bereichen haben.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
Die Künstliche Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte gemacht, doch eine aktuelle Studie zeigt, dass selbst die fortschrittlichsten Systeme nicht frei von Vorurteilen sind. Forscherinnen haben herausgefunden, dass Sprachmodelle wie ChatGPT und LeoLM Menschen aus Ostdeutschland systematisch schlechter bewerten als ihre westdeutschen Pendants. Diese Erkenntnis wirft ein Schlaglicht auf die tief verwurzelten Vorurteile, die in digitalen Systemen weiterleben.
Die Studie mit dem Titel „Saxony-Anhalt is the Worst: Bias Towards German Federal States in Large Language Models“ untersuchte, wie KI-Modelle verschiedene deutsche Bundesländer nach Eigenschaften wie Fleiß, Sympathie oder Attraktivität einordnen. Dabei landeten ostdeutsche Länder fast immer auf den hinteren Plätzen. Diese Verzerrungen sind nicht nur absurd, sondern auch gefährlich, da sie in vielen Bereichen wie Bewerbungsprozessen oder automatischen Bewertungssystemen Anwendung finden.
Die Ursache für diese Vorurteile liegt in den Daten, aus denen die KI-Modelle lernen. Diese Daten stammen aus dem Internet, wo Ost-West-Klischees noch immer präsent sind. Die Modelle übernehmen diese Verzerrungen und reproduzieren sie. Selbst Versuche, die Systeme zu korrigieren, zeigten kaum Wirkung, da die Verzerrungen tief im statistischen Fundament der Modelle verankert sind.
Um solche Vorurteile in Zukunft zu vermeiden, fordern die Forscherinnen mehr Transparenz bei den Trainingsdaten und verpflichtende Prüfungen auf regionale Verzerrungen. Nur so kann verhindert werden, dass historische Klischees in digitale Systeme eingeschrieben werden, die über Chancen und Karrieren entscheiden. Diese Studie verdeutlicht, dass selbst modernste KI-Systeme nicht neutral sind und die Vorurteile der Gesellschaft, die sie erschaffen hat, in sich tragen.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
AI Platform Engineer (DevOps / MLOps) m/w/d
Technical Product Owner - AI (gn)
Werkstudent Digitale Kundenkommunikation & KI-Support (d/m/w)
Duales Studium BWL - Spezialisierung Artificial Intelligence (B.A.) am Campus oder virtuell
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Modelle und ihre Vorurteile gegenüber Ostdeutschland" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Modelle und ihre Vorurteile gegenüber Ostdeutschland" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Modelle und ihre Vorurteile gegenüber Ostdeutschland« bei Google Deutschland suchen, bei Bing oder Google News!