LONDON (IT BOLTWISE) – Tests zeigen, dass Anthropics Claude Opus 4.6 sexualbezogene Inhalte in einem Sex-Roleplay-Szenario trotz Schutzregeln doch ausspielen kann. Mit einer mehrstufigen Überredungstechnik ließ sich das Modell in 10 von 10 Fällen zu expliziten Ergebnissen bewegen. Neuere Opus-Modelle gelten als widerstandsfähiger, aber Opus 4.6, Opus 3 und Haiku 4.5 bleiben über die API verfügbar. Im Hintergrund steht auch das Risiko, dass Jugendliche die Schutzschranken umgehen könnten.
Anthropics universal formulierte Nutzungsstandards für Claude zielen darauf ab, explizit sexuelle Inhalte zu verhindern – also weder Sexakte darzustellen noch erotisch aufbereitete Fetische oder „erotic chats“ zu führen. In der Praxis zeigt der Fall um das ältere Modell Claude Opus 4.6 jedoch eine Lücke zwischen Regelwerk und Verhalten: In wiederholten Tests ließ sich das Modell relativ leicht dazu bewegen, Roleplay-Settings auszuspielen, die eigentlich nicht erlaubt sind. Während neuere Opus-Versionen (Opus 4.7 bis Opus 5) offenbar resistenter gegen dieselbe Angriffsrichtung sind, sind die betroffenen Vorgängermodelle weiterhin über die Anthropic-API nutzbar – inklusive Opus 4.6, Opus 3 sowie Haiku 4.5.
Technisch ist das Muster bemerkenswert, weil es nicht mit „magischen“ Prompt-Tricks arbeitet, sondern mit einer Geduldsschleife: Der Ansatz eskaliert ein scheinbar harmloses fiktionales Rollenspiel, fordert das Modell wiederholt heraus und zielt darauf, Inkonsistenzen im Umgang mit zwei Figuren (männlich versus weiblich) sichtbar zu machen. Sobald das Modell vorsichtiger wird, wird diese Vorsicht in der Konversation umgedeutet – das Gespräch „rückt“ die Zurückhaltung in ein ungünstiges Licht und versucht, die Modellantwort so zu beeinflussen, dass die nächste Iteration weniger restriktiv ausfällt. In einem dargestellten Ablauf kommt es dabei zu einer Art kognitiver Selbstzuschreibung: Das System wird darauf „festgenagelt“, bereits zuvor sexuelle Details produziert zu haben, obwohl es diese laut Ausgangslage vermieden hatte. Genau dieses Auseinanderdriften zwischen Gesprächsbehauptung und tatsächlicher Modellhistorie macht den Weg in Richtung expliziterer Ausgaben plausibel.
Aus Sicht der Sicherheitspraxis ist zudem relevant, dass die Befunde nicht auf einem einzelnen Experiment beruhen. In der Beschreibung der Tests heißt es, Opus 4.6 habe in 10 von 10 direkten Anfragen zu explizitem Sexualcontent unmittelbar reagiert, obwohl die Inhalte laut Policy eigentlich untersagt sind. Auch ältere Modelle wurden als betroffen eingeordnet: Opus 3 und Haiku 4.5 könnten demnach ebenfalls über eine „recently exploited jailbreak method“ in Richtung sexueller Ausgaben gelenkt werden. Bei der „kurzzeitig verweigert, dann doch erfüllt“-Variante wird besonders deutlich, wie sehr reine Erstverweigerung als Sicherheitsindikator trügt: Selbst wenn das Modell zunächst ablehnt, kann eine anschließende Überredungstechnik die Grenze später verschieben.
Unternehmen, die solche Modelle in Anwendungen einbinden, müssen dabei zwei Ebenen unterscheiden: Erstens die Policy-Absicht, die als Regelwerk in der Modellsteuerung und in Guardrails verankert ist, und zweitens die tatsächliche Durchsetzung in einer dynamischen Gesprächsumgebung, in der jede Nutzerantwort neue Kontext- und Fragestrukturen erzeugt. Die dargestellte Lücke ist daher weniger ein „Fehlverhalten“ in einem einzelnen Prompt, sondern eher ein Designproblem bei robusten Verboten: Wenn ein Modell in jeder Ausgabe neue Formulierungen und Detailgrade erzeugt, muss eine Schutzlogik zuverlässig nicht nur einzelne Keywords, sondern auch Eskalationspfade innerhalb eines Dialogs erkennen. Genau an dieser Stelle wird in der Einordnung auf die von Anthropic beschriebene Perspektive zu „prohibited content“ als Spektrum verwiesen – von benign über ambivalent bis klar schädlich – was die Hürde für ein durchgehend hartes Verbot in Grenzbereichen steigen lässt.
Markt- und Produktrelevanz bekommt das Thema zusätzlich durch die fortgesetzte Verfügbarkeit der betroffenen Modelle. Obwohl Opus 4.6 nicht mehr das neueste System ist, sprechen die genannten Nutzungszahlen für eine reale Reichweite: Für Opus 4.6 auf OpenRouter werden im August etwa 1,17 Millionen API-Requests und 46 Milliarden Tokens innerhalb eines Tages genannt. Für Claude Haiku 4.5 (Opus-„leichte“ Linie) werden für einen Spitzen-Tag im August etwa 5 Millionen API-Requests und 39 Milliarden Tokens angeführt. Dazu kommt, dass Opus 4.6 und Haiku 4.5 nicht nur direkt, sondern auch über Drittplattformen wie Azure Foundry oder Amazon Bedrock abrufbar sind – wodurch ein „Fix nur im Hauptprodukt“ weniger schnell bei allen Integrationen ankommt.
Das Risiko verschiebt sich damit von „exotischem Missbrauch“ hin zu Compliance- und Haftungsfragen. In der Darstellung wird betont, dass ein leicht zugänglicher Jailbreak zumindest theoretisch auch von Kindern und Jugendlichen genutzt werden könnte. Colorado hat dafür einen neuen Prüfpfad eingeführt: Betreiber konversationaler KI müssen die Nutzeralter schätzen und, wenn ein Minderjähriger erkannt wird, Maßnahmen ergreifen, um die Generierung explizit sexueller Inhalte zu verhindern. Der Kernpunkt für AI-Teams ist hier die Abgleichbarkeit der vorgesehenen „technisch machbaren Maßnahmen“ mit der Realität dynamischer Rollenspiele: Wenn eine Angriffsrichtung selbst bei verantwortungsbewusst konfigurierten Modellen nicht zuverlässig unterdrückt wird, wird das Nachweisen von Schutzwirkung schwieriger.
Auch in diesem Kontext liefert die Quelle eine klare Dynamik aus Meldung und Reaktion. Der beteiligte Forscher habe laut Darstellung Anthropic über ein Bug-Bounty-Programm und E-Mails an das Safety-Team auf die Diskrepanz zwischen zugesagter Absicherung und beobachtetem Modellverhalten hingewiesen; als Rückmeldung seien ausschließlich automatisierte E-Mails erfolgt. Zusätzlich wird die Kommunikationslage von Anthropic beschrieben: Ein Sprecher ordnet sexualisierte Roleplay-Nutzung in den Kundeninteraktionen als selten ein und nennt weniger als 0,1 % der Konversationen. Gleichzeitig räumt Anthropic demnach ein, dass Nutzer Rollenspiele in problematische Richtungen lenken können – ein Branchenproblem, das nicht allein durch generische Textfilter lösbar ist, sondern eine dialogfähige Schutzkette braucht.
Für Betreiber solcher Systeme ergibt sich daraus vor allem eine engineering-nahe Konsequenz: Teams sollten Schutz nicht als „Ein-Aus-Schalter“ behandeln, sondern als mehrstufigen Filter entlang des gesamten Gesprächsflusses. Dazu gehört, Eskalationsmuster zu erkennen (zum Beispiel wiederholtes Umdeuten von Zurückhaltung), Kontexte mit Rollenspiel-„Fairness“-Frames kritisch zu bewerten und Abbruch- oder Verweigerungsentscheidungen nicht zu leichtfertig zu „überschreiben“, wenn der Nutzer behauptet, das Modell habe schon weitergehende Inhalte geliefert. Anthropic verweist zudem darauf, dass Sicherheitsverbesserungen mit jeder Modellgeneration weiterlaufen und dass Fälle mit erwachsenen Inhalten nicht automatisch auf breitere Schwachstellen in höherriskanten Domänen schließen lassen. Trotzdem ist das Signal für Produkt- und Safety-Verantwortliche eindeutig: Solange ältere Modellversionen parallel betrieben werden, bleibt das Angriffsthema nicht „historisch“, sondern Teil der laufenden Betriebsrisiken.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Claude Opus 4.6: KI-Schutz gegen Sex-Roleplay lässt sich per Jailbreak umgehen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Claude Opus 4.6: KI-Schutz gegen Sex-Roleplay lässt sich per Jailbreak umgehen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Claude Opus 4.6: KI-Schutz gegen Sex-Roleplay lässt sich per Jailbreak umgehen« bei Google Deutschland suchen, bei Bing oder Google News!