LONDON (IT BOLTWISE) – Vorwürfen zufolge hat ein US-Universitätsbereich KI genutzt, um Studierende in Werbebannern zu race- und gender-swapen. In den verglichenen Bildern sollen Gesichter zusätzlich so verändert worden sein, dass sie schmaler wirken. Betroffene Studierende beschreiben, dabei nicht gefragt worden zu sein und sich in der Darstellung „silenced“ und „erased“ zu fühlen. Offen bleibt, wie die Verantwortlichen mit den Vorwürfen umgehen und ob es eine Prüfung der verwendeten Bilddaten und Workflows gibt.
Die Debatte um KI in der Bildproduktion bekommt eine neue, besonders sensible Facette: In den vorliegenden Vorwürfen geht es nicht um eine rein technische Modellleistung, sondern um die konkrete Veränderung von Menschen in Werbematerial. Betroffen sein sollen Studierende, deren abgebildete Identität in Werbebannern eines Universitätsbereichs mittels KI so umgestaltet worden sein soll, dass sich sowohl Geschlecht als auch die zugeschriebene rassische Zugehörigkeit in den finalen Motiven unterscheiden. Entscheidend ist dabei weniger, ob ein technischer Face-Swap grundsätzlich möglich ist, sondern wie ein solcher Workflow im Marketing- und Produktionsprozess organisatorisch verankert wird.
Im Kern werden in der Darstellung „Before-and-after“-Vergleiche beschrieben: Dem Bericht zufolge existieren Ausgangsbilder, die als unverändert gelten sollen, sowie die später veröffentlichten Versionen, in denen eine Person durch eine andere ersetzt beziehungsweise sichtbar umgestaltet worden sein soll. Konkret wird geschildert, dass ein Student auf den neuen Bannerbildern nicht mehr erkennbar in der ursprünglichen Form auftauchte, sondern durch eine schwarze Frau ersetzt worden sein soll. Außerdem wird behauptet, dass die KI-gestützten Änderungen auch die Gesichtsform betrafen, etwa indem die Gesichtsbreite optisch reduziert wurde. Damit zeigt sich ein typisches Risiko moderner Generative-Ansätze: Schon bei „kosmetischen“ Eingriffen können Attribute wie Identität, Körperproportionen und Zugehörigkeit ungewollt oder absichtlich verschoben werden.
Der wichtigste Zeit- und Kontrollpunkt liegt dabei in der Frage, wer die Freigaben erteilt. Wenn Unternehmen oder Institutionen KI-gestützte Bildbearbeitung in Kampagnen integrieren, entsteht oft ein Kettenprozess aus Bilddatenaufnahme, Modellanwendung, Qualitätssicherung und finaler Freigabe. In den geschilderten Fällen wirkt es allerdings so, als seien die Betroffenen nicht in den Entscheidungsprozess einbezogen worden. Ein Student schilderte in den zitierten Aussagen, dass er nach dem Erhalt der Vergleichsbilder zunächst überrascht gewesen sei und die Manipulation zunächst „hilarious“ fand, später jedoch deutlich verärgert war. Er begründete die Empörung damit, dass er die Darstellung seiner Identität nicht akzeptiert, wenn die Auswahl nicht mit ihm abgestimmt wird. Dabei fällt auch das Bild einer Unterdrückung: Er beschrieb, dass er sich „silenced and erased“ fühle, weil man ihn aus einer Darstellung herausgenommen habe, die ihn eigentlich einschließen sollte.
Technisch betrachtet ist das Verfahren an sich nicht völlig neu, denn Face-Swapping und attributbezogene Bildtransformationen lassen sich mit verschiedenen Klassen von KI-Methoden umsetzen. Neu ist vor allem die Kombination aus Reichweite (Werbebanner, die ein breites Publikum sehen), Identitätsbezug (Rasse, Geschlecht) und potenzieller Automatisierung im Content-Produktionsworkflow. Während generative Systeme oft für Kreativprojekte eingesetzt werden, steigt mit der Verwendung in institutionellen Marketing-Kontexten die Erwartung an Einwilligung, Transparenz und Nachvollziehbarkeit. Hinzu kommt, dass „sichtbare“ Änderungen in der Regel leichter als Grenzfälle erkennbar sind, während automatisierte Prozesse im Hintergrund dennoch zahlreiche Parameter beeinflussen können: vom Zuschnitt über die Bildausrichtung bis hin zur Stärke der Anpassung, die im Ergebnis den Eindruck „realer“ Präsenz vermittelt.
Für die Organisationsebene ist die Marktwirkung zweigeteilt. Einerseits kann KI die Produktionsgeschwindigkeit erhöhen und die Variantenzahl für Kampagnen steigern. Andererseits entsteht ein Reputationsrisiko, sobald die KI-gestützte Personendatenverarbeitung als Eingriff in Identität wahrgenommen wird. In den Vorwürfen wird zudem ein Bild von fehlender Kontrolle gezeichnet: So sollen mehrere Studierende unabhängig voneinander von manipulierter Bildgebung betroffen gewesen sein, wobei bei ihnen ebenfalls Gesichtsveränderungen sichtbar gewesen sein sollen. Genau diese Häufung erhöht typischerweise den Druck, interne Prozesse zu prüfen: Welche Daten wurden verwendet? Wie wurde entschieden, welche Änderungen stattfinden? Und gab es Freigaben, die die tatsächliche Darstellung gegenüber der betroffenen Person abgleichen?
Welche Konsequenzen folgen, hängt davon ab, ob und in welchem Umfang die Verantwortlichen auf die Vorwürfe reagieren und ob eine unabhängige Überprüfung des konkreten Bild-Workflows erfolgt. In der Praxis betrifft das meist nicht nur die Frage „KI ja oder nein“, sondern die Governance rund um KI im Marketing: klare Regeln für Einwilligung, Dokumentation von Änderungen, ein nachvollziehbarer Freigabeprozess und technische Schutzmechanismen, die verhindern, dass Identitätsattribute ohne Zustimmung transformiert werden. Für andere Hochschulen und Unternehmen ist die Fallkonstellation dennoch ein Warnsignal: Je stärker KI-Tools in standardisierte Produktionspipelines eingebunden sind, desto wichtiger werden Auditierbarkeit und menschliche Verantwortung – insbesondere, wenn es um geschützte bzw. hochsensible Merkmale geht.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-basiertes Race- und Gender-Swapping in Werbebannern: Vorwürfe gegen Stanford" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-basiertes Race- und Gender-Swapping in Werbebannern: Vorwürfe gegen Stanford" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-basiertes Race- und Gender-Swapping in Werbebannern: Vorwürfe gegen Stanford« bei Google Deutschland suchen, bei Bing oder Google News!