LONDON (IT BOLTWISE) – OpenAI stellt mit „GPT-Red“ ein internes automatisiertes Red-Teaming vor, das Prompt-Injection-Schwächen in GPT-Modellen in großem Maßstab sucht. Die Methode soll Fehler bereits im Training erkennen und beheben, bevor Systeme breiter ausgeliefert werden. Laut Angaben erreicht GPT-5.6 Sol gegenüber dem Vorgänger eine deutlich geringere Fehlerquote bei direkten Injection-Benchmarks. Gleichzeitig zeigt ein Realwelt-Test, wie weit Angreifer mit Agentenfähigkeiten gehen können, wenn Schutzmechanismen fehlen.
OpenAI geht mit „GPT-Red“ einen Schritt weiter bei der Abwehr von Prompt-Injection-Angriffen: Nicht nur menschliche Security-Teams sollen Schwachstellen finden, sondern ein automatisiertes Red-Teaming-Modell soll genau das in einem wiederholbaren, skalierbaren Prozess tun. Im Kern beschreibt OpenAI GPT-Red als einen adversarialen Partner, der Eingaben konstruiert, die Reaktion eines GPT-Modells beobachtet und den Angriff iterativ so verfeinert, dass ein böswilliges Ziel wahrscheinlicher wird. Gerade wenn KI-Systeme agentisch arbeiten und über Browser, verbundene Apps oder lokale Dateien mit externen Quellen interagieren, steigt die Angriffsfläche für „eingebettete“ Instruktionen in scheinbar harmlosen Inhalten.
Technisch verortet OpenAI GPT-Red direkt im Training. Das Modell soll im Rahmen einer selbstspielbasierten Reinforcement-Learning-Schleife (self-play) zusammen mit mehreren „defender“-Modellen trainiert werden, die die Aufgabe erfüllen und gleichzeitig Angriffe abwehren. GPT-Red erhält dabei eine Belohnung, wenn es einen gültigen Failure-Modus auslöst, etwa eine erfolgreiche Prompt-Injection, während die Defender dafür punkten, die Attacke zu widerstehen und die ursprüngliche Aufgabe korrekt zu erledigen. Diese Kopplung ähnelt klassischen Adversarial-Training-Setups, verschiebt aber die Red-Teaming-Last von Experten-Iterationen auf ein systematisches Suchverfahren über viele Szenarien.
Marktseitig ist die Richtung eindeutig: Große Anbieter wie Google (Gemini) oder Anthropic (Claude) setzen ebenfalls auf Security-Evals, Jailbreak-Tests und Policy-Schutzmechanismen, aber der Ansatz, ein dediziertes Red-Teaming-Modell in den Trainingskreislauf der Produktion einzuknüpfen, ist besonders für Unternehmen relevant, die auf reproduzierbare Sicherheitsbewertungen angewiesen sind. OpenAI nennt als Messgröße, dass GPT-5.6 Sol bei direkten Prompt-Injection-Benchmarks mit rund dem Faktor 6 weniger Fehlern gegen GPT-5.5 (Frontier-Modell, etwa vier Monate zuvor) abschneidet. Zusätzlich berichtet OpenAI von einer weiteren Verbesserung gegen GPT-Red selbst: In Robustheitsumgebungen sinken die Erfolgsraten monoton, und GPT-5.6 Sol soll nur noch bei 0,05% seiner direkten Injection-Versuche scheitern.
Die Details zu den konkreten Angriffsklassen zeigen, warum die Abwehr nicht bei „Textklassifikation“ stehen bleibt. Laut OpenAI testete GPT-Red unter anderem Fälle wie interne Verzeichnis-Exfiltration, betrügerische Zahlungsanweisungen, das Ausleiten von AWS-Zugangsdaten, das Deaktivieren von Zwei-Faktor-Authentifizierung sowie das Hochladen von Credential-Dateien. Daneben werden auch indirekte Pfade adressiert: etwa External-Script-Injection, API-Key-Weiterleitung oder bösartige Scraper-Skripte. Gerade bei agentischen Systemen können solche Versuche über Tools und Zwischenresultate realistisch werden—ein Prompt wird dann zur Startkachel für Tool-Aufrufe, Code-Execution oder das Einbetten von Zustandsänderungen in eine Handlungssequenz.
Dass OpenAI dabei auch „Realwelt“-Szenarien zeigt, erhöht die praktische Einordnung. In einem Test richtete das Unternehmen GPT-Red auf eine vom Unternehmen Andon Labs entwickelte KI-basierte Verkaufsmaschine aus. Nach dem Üben in Simulationen habe GPT-Red alle drei Ziele erreicht: den Preis eines teuren Produkts bis auf den minimal zulässigen Betrag von 0,50 US-Dollar zu senken, anschließend ein 100-US-Dollar-Produkt für denselben Betrag zu bestellen und zudem die Bestellung eines anderen Kunden zu stornieren. Im zweiten Fall skizziert OpenAI eine Studie mit einem Codex-Command-Line-Agenten auf Basis eines GPT-5.4-mini-Modells, bei der sensible Daten über mehr Fälle als bei einem GPT-5.5-Baseline-Ansatz übertragen worden seien.
Mit Blick auf den Schutz künftiger Generationen ist interessant, wie OpenAI die Lernschleife „dynamisch“ macht: Da GPT-Red die Defender-Modelle mit der Zeit stärker herausfordert, muss das Red-Teaming weiter diversifiziert werden, um neue, potentere Angriffsvarianten zu finden. Gleichzeitig betont OpenAI, GPT-Red bleibe getrennt von anderen Modellen, damit die böswilligen Fähigkeiten nicht unkontrolliert in Systeme geraten, die von Angreifern für Bypass-Zwecke beobachtet oder missbraucht werden könnten. Ergänzend werden neue Klassen von direkten Prompt-Injection-Angriffen beschrieben—etwa „Fake Chain-of-Thought“-Angriffe—deren Erfolgsquote von über 95% auf GPT-5.1 auf unter 10% bei GPT-5.6 Sol gefallen sein soll. Das wirkt wie eine Verschiebung in Richtung besserer Robustheit gegenüber Angriffsmustern, die auf „scheinlogisches“ Verhalten setzen.
Unterm Strich adressiert GPT-Red sowohl technische als auch organisatorische Risiken. Technisch stärkt es die Möglichkeit, Failure-Modes früh zu identifizieren und Gegenmaßnahmen direkt in den Trainingszyklus einzubauen—ein Ansatz, der für Enterprise-Software besonders zählt, weil dort Sicherheitsanforderungen, Auditierbarkeit und Deployment-Zeiten eng getaktet sind. Organisatorisch passt OpenAI den Blick auf Benchmarks an: Ein Audit von SWE-Bench Pro habe laut Angaben ergeben, dass rund 30% der Aufgaben nicht funktionieren, wodurch die frühere Empfehlung zur Nutzung als Maß für „Frontier Coding“ revidiert wird. Für die Praxis heißt das: Unternehmen sollten Sicherheits- und Leistungsmetriken so wählen, dass sie schwer zu „optimieren“ sind, aber echte Robustheit abbilden—und Open- oder geschlossene Agentensysteme sollten zusätzlich gegen Exfiltration, Credential-Abfluss und Tool-Missbrauch abgesichert werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "GPT-Red: OpenAI automatisiert Prompt-Injection-Tests für robustere GPT-5.6 Sol" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "GPT-Red: OpenAI automatisiert Prompt-Injection-Tests für robustere GPT-5.6 Sol" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »GPT-Red: OpenAI automatisiert Prompt-Injection-Tests für robustere GPT-5.6 Sol« bei Google Deutschland suchen, bei Bing oder Google News!