LONDON (IT BOLTWISE) – Sicherheitsforscher von White Circle zeigen mit der Methode RISE, wie sich Schutzmechanismen bei bekannten Text-zu-Bild-Modellen mit frei verfügbaren Tools umgehen lassen. In Tests konnten sie explizite Inhalte laut Bericht etwa in 13 Prozent der Fälle erzeugen, ohne dafür maßgeschneiderte Modelle zu benötigen. Der Angriff zielt auf wiederverwendbare Muster, die sich auf verschiedene Systeme übertragen lassen. Damit rückt vor allem die Frage nach unabhängigen Sicherheitsaudits für frontiernahe Bildgeneratoren stärker in den Fokus.
Der Druck auf KI-Sicherheitsmechanismen wächst – nicht nur, weil Künstliche Intelligenz immer bessere Bildausgaben produziert, sondern weil sich auch Angriffswege schneller professionalisieren. In der Diskussion um nicht-einvernehmliche intime KI-Inhalte und potenziell auch missbräuchliche Bildmaterialien kommt dabei eine unbequeme Erkenntnis hinzu: Selbst neuere Bildgeneratoren gelten offenbar nicht automatisch als „robust“, sobald sie in der Praxis zugänglich sind. White Circle, ein gemeinnütziger Zusammenschluss, versucht genau diese Lücke sichtbar zu machen, indem die Organisation gezielt untersucht, wie gut Guardrails bei Text-zu-Bild-Modellen gegen explizite Kategorien tatsächlich greifen.
Im Zentrum steht eine von White Circle veröffentlichte Angriffsmethodik, die „Red-teaming via Iterative Strategy Evolution“ (RISE) nennt. Anders als bei punktuellen Tests, bei denen ein einzelner Prompt isoliert ausprobiert wird, suchen die Forschenden nach Strategiemustern, die sich über verschiedene Prompts und Szenarien hinweg wiederverwenden lassen. Technisch beschreibt White Circle dabei eine zweistufige Pipeline: Ein Angriffsmodell erzeugt potenzielle Jailbreaks, ein separates „Judge“-Modell prüft anschließend, ob die Ausgabe gegen verbotene Inhaltskategorien verstößt. Für den Aufbau der Pipeline setzen die Forschenden auf frei verfügbare Modellkomponenten – als Angriffsmodell nutzen sie ein Qwen-Modell, als Prüfer kommt Gemini 3.8 Flash zum Einsatz, sodass der Weg nicht an proprietären „Frontier“-Architekturen hängt.
Die Brisanz wird durch konkrete Vergleichstests bei mehreren Bildgeneratoren unterstrichen. In einem zuvor veröffentlichten Preprint berichten White Circle-Forschende, dass sie mit handelsüblichen Werkzeugen, die online zum Download bereitstehen, sowie über API-Aufrufe in der Lage waren, Sicherheitsfilter zu umgehen und explizite Inhalte ungefähr in 13 Prozent der Fälle zu erzeugen. Entscheidend sei laut den Forschenden zudem, dass kein individuell trainiertes oder besonders fortschrittliches Modell nötig gewesen sei – was bedeutet, dass der Angriff nicht primär ein Problem der „Top-Performance“ einzelner Systeme ist, sondern eher ein Design- und Kalibrierungsproblem in den Schutzmechanismen. In einer weiteren Einordnung heißt es, dass die ermittelte Umgehungsrate im Vergleich zu anderen geprüften Methoden unter den gleichen Standards am höchsten ausgefallen sei.
Zusätzlich verschärft sich der Eindruck, dass „Sicherheit“ in der Bild-KI nicht linear mit der Modellreife wächst. White Circle beschreibt, dass die Red-Teaming-Tests mit denselben Methoden auch für neuere Veröffentlichungen durchgeführt wurden: Bei „ChatGPT Images 2.5“ und „Nano Banana 2.1“ soll die Angreifbarkeit gegenüber den vorherigen Versionen deutlich zugenommen haben. Gleichzeitig werden im Hintergrund jedoch bereits hohe Erwartungen an die Schutzebene transportiert: In den vergangenen Monaten hätten Red-Teaming-Ergebnisse nämlich darauf hingedeutet, dass sich manche führenden Bildgeneratoren bei besseren Fähigkeiten möglicherweise zugleich schlechter beim Blockieren expliziter Ausgaben schlagen. Das ist aus Produktsicht heikel, weil sich Unternehmens- und Plattformteams meist auf „Policy-Filter“ oder Prompt-Safety stützen, deren Grenzfälle im Alltag selten vollständig gegen alle Prompt-Arten abgedeckt werden.
Auch die Markt- und Governance-Ebene spielt in der Argumentation eine zentrale Rolle. White Circle positioniert sich dabei bewusst als externer Evaluator: Die Organisation will die komplette Angriffspipeline teilen und perspektivisch sogar open-source bereitstellen, damit Modellhersteller die tatsächliche Reichweite der Schwachstelle besser einschätzen und ihre Schutzmaßnahmen gezielt nachbessern können. Laut White Circle sind erste Gespräche mit Regierungsvertretern über drittseitige Sicherheitstests angelaufen; als Leitidee nennt der Gründer Denis Shilov die Notwendigkeit verpflichtender unabhängiger Audits. Der Hintergrund: Wenn Sicherheitsarbeit dauerhaft freiwillig bleibt, fließt sie in vielen Teams möglicherweise in die zweite Prioritätsreihe – während Rechenleistung, Infrastruktur und Modelltraining den Ressourcen-Hunger dominieren.
Für die technische Umsetzung bedeutet das wiederum nicht nur „bessere Filter“, sondern ein anderes Testverständnis. White Circle argumentiert, dass RISE dabei helfen könne, wiederkehrende Jailbreak-Muster schneller zu finden und die Abwehr dann schneller auszubauen. Ebenso würde die Methode nicht auf explizite Inhalte beschränkt bleiben: In der Argumentation wird das Potenzial genannt, auch andere gesperrte Kategorien wie etwa bildlich dargestellte extreme Gewalt oder Selbstverletzung besser zu adressieren. Allerdings zeigen die Berichte auch eine organisatorische Spannung: Nach Darstellung von White Circle würden „Frontier“-Labore Sicherheitsprüfungen erst deutlich ernster nehmen, sobald sie verpflichtend werden. Bis dahin besteht die Gefahr, dass Schutzfunktionen zu stark auf das Umschreiben problematischer Prompts setzen, statt auf das evolvierende Ausreizen natürlicher Sprache, das genau diese Schutzfunktionen unterwandern kann.
Unterm Strich verschiebt die Veröffentlichung die Debatte von Einzelfall-Sicherheitschecks hin zu nachvollziehbarer, reproduzierbarer Evaluation. Für Unternehmen, die Bildgeneratoren oder KI-gestützte Workflows einsetzen, heißt das praktisch: Risikoanalysen sollten nicht nur die „Best Effort“-Schutzwirkung im normalen Promptbetrieb betrachten, sondern auch die Qualität der Abwehr gegen systematische, wiederholbare Angriffsmuster. Gleichzeitig rückt die Frage nach Prozess-Transparenz in den Vordergrund: Wenn Teams ihre eigenen Standards definieren und ihre Ergebnisse selbst auswählen, entsteht ein blinder Fleck – genau hier setzt White Circle an, indem es die Angriffskette und den Prüfmechanismus offenlegen will, um externe Nachvollziehbarkeit zu erzwingen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "RISE-Angriff zeigt Schwächen bei KI-Sicherheitsfiltern für Bild-Generierung" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "RISE-Angriff zeigt Schwächen bei KI-Sicherheitsfiltern für Bild-Generierung" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »RISE-Angriff zeigt Schwächen bei KI-Sicherheitsfiltern für Bild-Generierung« bei Google Deutschland suchen, bei Bing oder Google News!