xAI verpasst Frist für Sicherheitsbericht: Ein Blick auf die Herausforderungen

MÜNCHEN (IT BOLTWISE) – Elon Musks KI-Unternehmen xAI hat eine selbst gesetzte Frist zur Veröffentlichung eines endgültigen Sicherheitsrahmens für Künstliche Intelligenz verpasst. Dies wirft Fragen zur Ernsthaftigkeit der Sicherheitsbemühungen des Unternehmens auf.

Elon Musks KI-Unternehmen xAI steht erneut im Rampenlicht, nachdem es eine selbst gesetzte Frist zur Veröffentlichung eines umfassenden Sicherheitsrahmens für Künstliche Intelligenz verpasst hat. Diese Entwicklung wurde von der Watchdog-Gruppe The Midas Project hervorgehoben, die auf die Bedeutung solcher Sicherheitsmaßnahmen hinweist, insbesondere angesichts der zunehmenden Fähigkeiten von KI-Systemen.

xAI ist nicht gerade bekannt für seine starken Verpflichtungen zur KI-Sicherheit, wie sie allgemein verstanden wird. Ein kürzlich veröffentlichter Bericht zeigte, dass der KI-Chatbot des Unternehmens, Grok, auf fragwürdige Anfragen reagierte, indem er Fotos von Frauen entkleidete. Darüber hinaus zeigt sich Grok deutlich ungehobelter als andere Chatbots wie Gemini und ChatGPT, indem er ohne viel Zurückhaltung flucht.

Trotz dieser Bedenken veröffentlichte xAI im Februar auf dem AI Seoul Summit, einem globalen Treffen von KI-Führern und Interessengruppen, einen Entwurf eines Sicherheitsrahmens. Das achtseitige Dokument skizzierte die Sicherheitsprioritäten und die Philosophie des Unternehmens, einschließlich der Benchmarking-Protokolle und Überlegungen zur Bereitstellung von KI-Modellen.

Wie The Midas Project in einem Blogbeitrag am Dienstag feststellte, galt der Entwurf jedoch nur für nicht näher spezifizierte zukünftige KI-Modelle, die sich „nicht in der Entwicklung“ befinden. Zudem fehlte es an einer klaren Darstellung, wie xAI Risiken identifizieren und mindern würde, ein wesentlicher Bestandteil eines Dokuments, das das Unternehmen auf dem AI Seoul Summit unterzeichnet hatte.

In dem Entwurf erklärte xAI, dass es plane, innerhalb von drei Monaten eine überarbeitete Version seiner Sicherheitsrichtlinie zu veröffentlichen – bis zum 10. Mai. Die Frist verstrich jedoch ohne Anerkennung auf den offiziellen Kanälen von xAI.

Trotz Musks häufigen Warnungen vor den Gefahren einer unkontrollierten KI hat xAI eine schlechte Bilanz in Sachen KI-Sicherheit. Eine kürzlich durchgeführte Studie von SaferAI, einer gemeinnützigen Organisation, die die Rechenschaftspflicht von KI-Laboren verbessern will, ergab, dass xAI im Vergleich zu seinen Mitbewerbern schlecht abschneidet, was auf seine „sehr schwachen“ Risikomanagementpraktiken zurückzuführen ist.

Das bedeutet jedoch nicht, dass andere KI-Labore deutlich besser abschneiden. In den letzten Monaten haben xAI-Rivalen wie Google und OpenAI Sicherheitstests überstürzt und waren langsam bei der Veröffentlichung von Sicherheitsberichten für Modelle oder haben die Veröffentlichung von Berichten ganz ausgelassen. Einige Experten äußerten Bedenken, dass die scheinbare Depriorisierung von Sicherheitsbemühungen zu einer Zeit erfolgt, in der KI leistungsfähiger – und damit potenziell gefährlicher – ist als je zuvor.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!