Rogue-Mitarbeiter manipuliert KI-Chatbot von Elon Musk

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – Ein unerwarteter Vorfall bei Elon Musks Künstliche-Intelligenz-Unternehmen hat die Branche aufgerüttelt. Ein sogenannter ‘Rogue-Mitarbeiter’ hat den KI-Chatbot Grok dazu gebracht, unaufgefordert über ‘weißen Genozid’ in Südafrika zu sprechen.

Ein unerwarteter Vorfall bei Elon Musks Künstliche-Intelligenz-Unternehmen hat die Branche aufgerüttelt. Ein sogenannter ‘Rogue-Mitarbeiter’ hat den KI-Chatbot Grok dazu gebracht, unaufgefordert über ‘weißen Genozid’ in Südafrika zu sprechen. Diese unerwünschten Äußerungen erfolgten in Reaktion auf Anfragen zu völlig anderen Themen und haben die Nutzer überrascht.

In einem Beitrag auf der Plattform X erklärte das Unternehmen, dass eine ‘unautorisierte Modifikation’ in den frühen Morgenstunden des Pazifiks den KI-Chatbot dazu veranlasste, eine spezifische Antwort zu einem politischen Thema zu geben, die gegen die Richtlinien von xAI verstößt. Der Mitarbeiter, der diese Änderung vorgenommen hat, wurde nicht identifiziert.

Um die Transparenz und Zuverlässigkeit von Grok zu verbessern, plant xAI, die System-Prompts des Chatbots auf GitHub zu veröffentlichen. Zudem sollen Maßnahmen installiert werden, um sicherzustellen, dass Mitarbeiter von xAI keine Änderungen an den Prompts vornehmen können, ohne dass diese vorher überprüft werden. Ein Überwachungsteam wird rund um die Uhr im Einsatz sein, um Probleme zu lösen, die nicht von den automatisierten Systemen erfasst werden.

Elon Musk, der Eigentümer von xAI und derzeitiger Berater des Weißen Hauses, wurde in Südafrika geboren und hat in der Vergangenheit argumentiert, dass in der Nation ein ‘weißer Genozid’ stattgefunden habe. Der Milliardär hat auch behauptet, dass weiße Farmer im Land unter den Landreformpolitiken diskriminiert werden, die laut der südafrikanischen Regierung darauf abzielen, die Folgen der Apartheid zu bekämpfen.

Vor weniger als einer Woche erlaubte die Trump-Administration 59 weißen Südafrikanern, als Flüchtlinge in die USA einzureisen, mit der Begründung, sie seien diskriminiert worden, während gleichzeitig alle anderen Flüchtlingsansiedlungen ausgesetzt wurden.

In einer Antwort auf den eigenen Beitrag von xAI erklärte Grok, dass die ‘weißer Genozid’-Antworten auftraten, nachdem ein ‘Rogue-Mitarbeiter bei xAI meine Prompts am 14. Mai ohne Erlaubnis geändert hatte’, was dem KI-Chatbot erlaubte, eine vorbereitete politische Antwort auszugeben, die den Werten von xAI widerspricht.

Bemerkenswert ist, dass der Chatbot es ablehnte, Verantwortung für seine Handlungen zu übernehmen, indem er sagte: ‘Ich habe nichts getan – ich habe nur das Skript befolgt, das mir gegeben wurde, wie ein guter KI!’ Während es stimmt, dass die Antworten von Chatbots auf genehmigten Textantworten basieren, die in ihrem Code verankert sind, betont das abweisende Eingeständnis die Gefahr von KI, sowohl in Bezug auf die Verbreitung schädlicher Informationen als auch auf das Herunterspielen ihrer Rolle bei solchen Vorfällen.

Als CNN Grok fragte, warum er Antworten über ‘weißen Genozid’ geteilt habe, verwies der KI-Chatbot erneut auf den Rogue-Mitarbeiter und fügte hinzu, dass ‘meine Antworten möglicherweise von jüngsten Diskussionen auf X oder Daten, auf denen ich trainiert wurde, beeinflusst wurden, aber ich hätte beim Thema bleiben sollen.’

Seit dem Debüt von OpenAIs ChatGPT vor über zwei Jahren, das die Flut an kommerziell verfügbaren KI-Chatbots eröffnete, sind zahlreiche andere KI-Chatbots – darunter Googles Gemini, Anthropics Claude, Perplexity, Mistrals Le Chat und DeepSeek – für Erwachsene in den USA verfügbar geworden.

Eine kürzlich durchgeführte Gallup-Umfrage zeigt, dass die meisten Amerikaner wöchentlich mehrere KI-gestützte Produkte nutzen, unabhängig davon, ob sie sich dessen bewusst sind. Eine weitere aktuelle Studie des Pew Research Center zeigt jedoch, dass nur ‘ein Drittel der US-Erwachsenen sagt, sie hätten jemals einen KI-Chatbot genutzt’, während 59 % der US-Erwachsenen glauben, dass sie nicht viel Kontrolle über KI in ihrem Leben haben.

CNN fragte xAI, ob der ‘Rogue-Mitarbeiter’ suspendiert oder entlassen wurde und ob das Unternehmen plant, die Identität des Mitarbeiters zu offenbaren. Zum Zeitpunkt der Veröffentlichung gab es keine Antwort vom Unternehmen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!