MÜNCHEN (IT BOLTWISE) – Nightshade, ein neues, kostenfreies Werkzeug von Informatikforschern der Universität Chicago entwickelt, um Künstlern zu helfen, ihre Werke vor unerlaubter Nutzung durch KI-Modelle zu schützen, verzeichnet innerhalb der ersten fünf Tage nach Veröffentlichung 250.000 Downloads.


  • News von IT Boltwise® bei LinkedIn abonnieren!
  • AI Morning Podcast bei Spotify / Amazon / Apple verfolgen!
  • Neue Meldungen bequem per eMail via Newsletter erhalten!
  • IT Boltwise® bei Facebook als Fan markieren!
  • RSS-Feed 2.0 von IT Boltwise® abonnieren!

  • „Nightshade erreichte 250.000 Downloads in nur fünf Tagen nach der Veröffentlichung“, sagte Projektleiter Ben Zhao, Professor für Informatik.

    Die Resonanz ist überwältigend und Nightshades Erfolg zeigt deutlich das starke Interesse einiger Künstler daran, ihre Werke vor der Nutzung zur KI-Trainingszwecken ohne Einwilligung zu schützen. Laut dem Bureau of Labor Statistics gibt es allein in den USA über 2,67 Millionen Künstler, doch Zhao vermutet, dass die Nutzerbasis von Nightshade weitaus größer ist.

    Nightshade zielt darauf ab, generative KI-Bildmodelle zu „vergiften“, indem digitale Artsworks im Web verändert oder auf Pixelebene „beschattet“ werden. Dadurch erscheinen sie einem maschinellen Lernalgorithmus als völlig andersartiger Inhalt – zum Beispiel eine Handtasche anstelle einer Kuh. Trainiert anhand einiger „beschatteter“ Bilder aus dem Web, kann ein KI-Algorithmus beginnen, fehlerhafte Bilder basierend auf Nutzeranfragen zu generieren.

    Auf der Projektseite von Nightshade erklärten Zhao und seine Kollegen – Shawn Shan, Wenxin Ding, Josephine Passananti und Heather Zheng -, dass sie das Werkzeug entwickelt und veröffentlicht haben, um „die Kosten für das Training mit unlizenzierten Daten zu erhöhen, sodass das Lizenzieren von Bildern von ihren Schöpfern eine praktikable Alternative wird.“

    Kurz nach der Veröffentlichung von Nightshade am 18. Januar 2023 war die Nachfrage nach gleichzeitigen Downloads so groß, dass die Webserver der Universität Chicago überlastet waren. Die Entwickler mussten Spiegel-Links hinzufügen, damit die Leute Kopien von einer anderen Stelle in der Cloud herunterladen konnten. Währenddessen erreichte das frühere Werkzeug der Gruppe – Glaze, das darauf abzielt, KI-Modelle am Erlernen des charakteristischen „Stils“ eines Künstlers zu hindern, indem es Pixel subtil verändert – seit seiner Veröffentlichung im April 2023 bereits 2,2 Millionen Downloads, so Zhao.

    Unter ihrem Oberbegriff „The Glaze Project“ hatten Zhao und seine Forscherkollegen bereits ihre Absicht bekundet, ein Werkzeug zu veröffentlichen, das sowohl Glaze (defensiv) als auch Nightshade (offensiv) kombiniert. Die kombinierte Version wird laut Zhao noch einige Wochen auf sich warten lassen.

    Zhao merkte an, dass weder er noch seine Kollegen direkt von den Modellherstellern hinter der KI-Bildgenerierungstechnologie, wie OpenAI (DALL-E 3), Midjourney, Stability AI (Stable Diffusion) und anderen, gehört haben.

    Abschließende Bedenken
    Trotz des beachtlichen Erfolgs von Nightshade gibt es Bedenken hinsichtlich der langfristigen Auswirkungen solcher Werkzeuge auf die Entwicklung generativer KI-Modelle. Einige Experten argumentieren, dass ohne Zugang zu lizenzierten Trainingsdaten generative KI-Modelle an Effektivität und Nutzen verlieren könnten. Es wird die Frage aufgeworfen, ob Initiativen wie Nightshade, die darauf abzielen, die Trainingsgrundlage dieser Technologien zu stören, letztendlich kontraproduktiv sein könnten. In einer Welt, in der Künstliche Intelligenz eines der wichtigsten Werkzeuge für die Menschheit in der nahen Zukunft darstellt, könnte die richtige Ausrichtung und der verantwortungsbewusste Umgang mit Trainingsdaten entscheidend sein, um das volle Potenzial dieser Technologien zu entfalten und gleichzeitig die Rechte und das geistige Eigentum zu wahren.

    Künstliche Intelligenz-Werkzeug 'Nightshade' erzielt 250.000 Downloads in 5 Tagen: 'Übertrifft alle Erwartungen'
    Künstliche Intelligenz-Werkzeug „Nightshade“ erzielt 250.000 Downloads in 5 Tagen: „Übertrifft alle Erwartungen“ (Foto:Midjourney, IT BOLTWISE)

    Hinweis: Teile dieses Textes könnten mithilfe Künstlicher Intelligenz generiert worden sein.



    Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de
    Stichwörter
    Alle Märkte in Echtzeit verfolgen - 30 Tage kostenlos testen!


    {Abo}
    LinkedIn
    Facebook
    Twitter
    {Podcast}
    YouTube
    Spotify
    Apple

    Schreibe einen Kommentar

    Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert



    Es werden alle Kommentare moderiert!

    Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.

    Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.

    Du willst nichts verpassen?

    Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.