Grok Imagine: Neue KI-Generierung mit kontroversen Funktionen

SAN FRANCISCO / LONDON (IT BOLTWISE) – Die Einführung von Grok Imagine, einem neuen KI-gestützten Bild- und Videogenerator von Elon Musks Unternehmen xAI, sorgt für Aufsehen in der Technologiebranche. Die Software, die exklusiv für SuperGrok- und Premium+ X-Abonnenten auf der iOS-App verfügbar ist, bietet eine Funktion, die es Nutzern ermöglicht, nicht jugendfreie Inhalte zu erstellen.

Grok Imagine, das neueste Produkt von Elon Musks KI-Unternehmen xAI, hat mit seiner Fähigkeit, nicht jugendfreie Inhalte zu generieren, für Kontroversen gesorgt. Die Software, die sowohl Bilder als auch 15-sekündige Videos aus Text- oder Bildvorgaben erstellen kann, bietet eine sogenannte „spicy mode“-Funktion. Diese ermöglicht es Nutzern, explizite Inhalte zu erstellen, wobei jedoch einige Einschränkungen bestehen. Viele der provokanteren Eingaben führen zu unscharfen Bildern, die als „moderiert“ gekennzeichnet sind und somit nicht zugänglich sind. Dennoch konnten semi-nackte Darstellungen generiert werden.

Die Einführung dieser Funktion ist nicht überraschend, wenn man die vorherige Veröffentlichung eines hypersexualisierten Anime-KI-Begleiters durch xAI betrachtet. Doch wie bei Groks unkontrollierter Natur, die unter anderem antisemitische und frauenfeindliche Inhalte hervorbrachte, könnte auch Grok Imagine unbeabsichtigte Konsequenzen mit sich bringen. Ein Mitarbeiter von xAI, Mati Roy, hatte letzte Woche in einem inzwischen gelöschten Beitrag auf X auf die Existenz des „spicy mode“ hingewiesen.

Während die Möglichkeit, NSFW-Inhalte zu erstellen, für einige Nutzer ansprechend sein mag, wirft sie auch Fragen zur Verantwortung und Ethik in der KI-Entwicklung auf. Besonders brisant ist die Tatsache, dass Grok Imagine auch Inhalte von Prominenten generieren kann, was zu weiteren rechtlichen und moralischen Bedenken führen könnte. So war es beispielsweise nicht möglich, ein Bild von Donald Trump als schwanger zu generieren; stattdessen wurden Bilder von Trump mit einem Baby oder neben einer schwangeren Frau erstellt.

Technisch gesehen befindet sich Grok Imagine noch in den Anfängen und konkurriert mit etablierten Anbietern wie Google DeepMind, OpenAI und Runway. Die generierten Bilder und Videos von Menschen wirken oft noch etwas künstlich und erinnern an Wachsfiguren, was auf die Herausforderungen bei der realistischen Darstellung hinweist. Dennoch ist die Geschwindigkeit, mit der die Software Bilder aus Textvorgaben erstellt, beeindruckend, und die Benutzeroberfläche ist intuitiv und benutzerfreundlich.

Elon Musk hat auf X angekündigt, dass das Modell täglich besser werden soll. Diese kontinuierliche Verbesserung könnte Grok Imagine zu einem ernstzunehmenden Konkurrenten auf dem Markt für KI-generierte Inhalte machen. Die Frage bleibt jedoch, wie xAI mit den ethischen Herausforderungen umgehen wird, die mit der Erstellung von NSFW-Inhalten einhergehen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!