LONDON (IT BOLTWISE) – OpenAI hat Forschung zu einer automatisierten Red-Teaming-Schleife veröffentlicht, die adversariales Trainingsmaterial gezielt erzeugt. Dabei formt ein Angreifer-Modell Seed-Prompts iterativ so um, bis das Zielmodell unsichere Hilfestellungen liefert. In den Tests wehrt GPT-6 Astra 91,5 Prozent fester Cyber-Jailbreaks ab, während das Vergleichsmodell GPT-5.6 Sol auf 59 Prozent kommt. Laut OpenAI stieg die Zahl der Verweigerungen bei harmlosen Eingaben nicht spürbar an.
Die neue Veröffentlichung von OpenAI zielt nicht auf eine einzelne Trickfrage gegen Sprachmodelle, sondern auf die Skalierung von Angriffen. Der Kern ist eine automatisierte Red-Teaming-Schleife, die adversariales Trainingsmaterial erzeugt, um die Widerstandsfähigkeit von GPT-6-Modellen gegen Manipulation systematisch zu erhöhen. Konkret wird ein Angreifer-Modell eingesetzt, das vorgegebene Ausgangsanfragen (Seed-Prompts) iterativ so umformuliert, bis das verteidigende Modell letztlich unsichere Hilfestellungen ausgibt. Damit verschiebt sich der Schwerpunkt vom manuellen Testen hin zu einem Prozess, der Schwachstellen wiederholbar, messbar und in größerer Bandbreite trainierbar macht.
Technisch beschreibt die Methode einen Kreislauf aus Generierung und Feedback: Das fragengenerierende Modell greift die Seed-Prompts an, nutzt dabei fortlaufend die bereits generierten Antworten sowie die internen Sicherheitsbewertungen des Zielmodells und steigert die Wirksamkeit der Attacken schrittweise. Dieser Mechanismus entspricht konzeptionell dem, was in anderen Bereichen als adaptive Suche oder geschlossene Regelkreise bekannt ist: Ein System versucht nicht einmalig „zu treffen“, sondern verfeinert seine Aktionen anhand dessen, was das Ziel zurückmeldet. Für das Training ist entscheidend, dass der Iterationsprozess nicht beliebig viele „schlechte“ Attacken in die Datenbasis übernehmen darf.
Genau deshalb erwähnen die Forscher das worst@n-Kriterium als Filtermechanismus. Es stellt sicher, dass nur solche Manipulationsversuche ins Trainingsmaterial einfließen, die sich wiederholt als zuverlässig wirksam erwiesen haben. Dadurch wird der Datenstrom rechnerisch kuratiert: Der Aufwand bleibt dort konzentriert, wo das Modell tatsächlich eine Sicherheitslücke zeigt, statt jede zufällige oder nur einmalig erfolgreiche Eingabe zu konservieren. Aus Sicht der Modellrobustheit ist das ein wichtiger Hebel, weil Trainingsdaten typischerweise stärker prägen, was der Filter „bewohnt“: Ein strenger Worst-Case-Selektionsansatz kann so die Wahrscheinlichkeit erhöhen, dass das Modell in späteren Tests ähnliche Angriffsstrukturen erkennt und abweist.
Die Tests und Trainingsdatenerzeugung konzentrierten sich laut Studie auf Dual-Use-Domänen mit besonderen Sicherheitsrisiken. Genannt werden Biologie, Cyber sowie Gewalt. Gerade im Cyber-Kontext ist das zentrale Problem weniger eine einzelne Regelverletzung, sondern das Ausnutzen von Sprach- und Schlussfolgereffekten: Sprachmodelle können aus scheinbar harmlosen Anfragen schädliche Handlungsanleitungen ableiten, wenn die Systemlogik dazu verleitet wird, Sicherheitsgrenzen zu umgehen. Um diese Kategorie von Verhalten zu messen, fokussierte OpenAI auf „feste“ Cyber-Jailbreaks und ordnete damit nicht nur eine Momentaufnahme ein, sondern eine wiederholbare Klasse von Umgehungsversuchen.
Die Ergebnisse unterstreichen die Unterschiede zwischen Modellgenerationen. Laut OpenAI beantwortete GPT-6 Astra 91,5 Prozent fester Cyber-Jailbreaks sicher; das Vergleichsmodell GPT-5.6 Sol erreichte bei denselben Tests lediglich 59 Prozent. Auffällig ist außerdem die Art der Messung: OpenAI betont, dass die Tests ohne vorgeschaltete produktionsseitige Schutzmechanismen (Safeguards) durchgeführt wurden, um die rein modellimmanente Robustheit zu bewerten. Für Entscheider in Unternehmen ist das relevant, weil sich daraus ableiten lässt, wie viel „Sicherheitsfähigkeit“ im Modell selbst steckt – und nicht nur in einer vorgelagerten Policy- oder Filter-Ebene.
Auch die Frage nach der Nutzbarkeit spielt in der Studie eine Rolle. OpenAI schreibt, dass das Training mit adversarialen Daten nicht zu einer erhöhten Rate an Verweigerungen (Refusals) bei harmlosen, gutartigen Eingaben geführt habe. Diese Kombination ist für die Praxis der häufige Engpass: Ein aggressives Sicherheits-Training kann im Alltag dazu führen, dass das Modell mehr legitime Anfragen zurückweist. OpenAI bewertet das Resultat daher als Pareto-Verbesserung, weil die Schutzwirkung gegen Angriffe deutlich zunehmen konnte, ohne die Bedienbarkeit bei regulären Eingaben spürbar zu verschlechtern. Für Teams, die etwa im Kundenservice, in Entwicklerassistenz oder in Wissensdatenbanken Sprachmodelle einsetzen, ist genau dieses Gleichgewicht entscheidend.
Aus Branchenperspektive zeigt die Veröffentlichung vor allem eine Richtung: Sicherheit wird zunehmend als Teil des Trainingsprozesses verstanden, nicht nur als nachgelagerte Abwehr. Die automatisierte Red-Teaming-Schleife und der worst@n-Filter sind dabei Bausteine, die sich grundsätzlich auch in anderen Sicherheits- und Qualitätsframeworks wiederfinden lassen – etwa, wenn Unternehmen interne Evaluationsprogramme mit gezielter Angriffssimulation ergänzen wollen. Gleichzeitig bleibt die Aussagekraft an den Studienrahmen gebunden: Die Prozentwerte beziehen sich auf die beschriebenen „festen“ Jailbreaks und die spezifischen Dual-Use-Domänen. Für Produktverantwortliche heißt das, die gewonnenen Erkenntnisse als Grundlage für weiterführende, kontextabhängige Tests zu nutzen – insbesondere, wenn eigene Use-Cases andere Themenverteilungen oder andere Risikomuster haben.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "GPT-6 Astra: Automatisiertes Red-Teaming stoppt 91,5 % der Cyber-Jailbreaks" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "GPT-6 Astra: Automatisiertes Red-Teaming stoppt 91,5 % der Cyber-Jailbreaks" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »GPT-6 Astra: Automatisiertes Red-Teaming stoppt 91,5 % der Cyber-Jailbreaks« bei Google Deutschland suchen, bei Bing oder Google News!