LONDON (IT BOLTWISE) – OpenAI stellt mit GPT-Red einen internen Ansatz vor, der KI-Sicherheitslücken automatisch sucht und testet. In Vergleichstests soll das System bei Kompromittierungen eine Erfolgsquote von 84 Prozent erreicht haben, während menschliche Sicherheitsexperten bei 13 Prozent lagen. Die Ergebnisse flossen direkt in eine neue Modellfamilie ein, die Prompt-Injection-Angriffe deutlich besser abwehren soll. Für Unternehmen bedeutet das: Sicherheitsprozesse und Compliance müssen künftig stärker automatisiert und nachweisbar werden.
OpenAI treibt den Sicherheitskampf gegen KI gezielt in Richtung Automatisierung: Mit GPT-Red präsentierte das Unternehmen am 17. Juli 2026 einen internen Red-Teaming-Ansatz, der Schwachstellen in KI-Modellen systematisch „durchtesten“ soll. Der Kern der Idee ist, dass nicht nur menschliche Teams einmalig prüfen, sondern eine KI-gestützte Schleife kontinuierlich neue Angriffsszenarien erstellt und gegen Zielmodelle ausführt. Laut den vorliegenden Angaben liegt die Erfolgsquote bei Kompromittierungen gegenüber GPT-5.1 bei 84 Prozent; im selben Setting erreichten Experten lediglich 13 Prozent. Das verändert das Verhältnis von Aufwand zu Abdeckung deutlich.
Technisch beschreibt die Meldung GPT-Red als vollautomatisierten Prozess, der auf einer speziellen Variante des bestärkenden Lernens basiert. Das System soll eigenständig Angriffe generieren und „ausführen“, indem es realistische Interaktionen mit KI-Modellen simuliert: Dazu zählen dem Bericht zufolge E-Mails, Webseiten, Dateien sowie weitere digitale Werkzeuge, also typische Eingabe- und Nutzungsschnittstellen, über die in echten Angriffswegen Kontext in Modelle gelangt. Gegenüber klassischem Pen-Testing, bei dem ein Testkatalog manuell gepflegt wird, kann so eine explorativere Suche entstehen. Entscheidend ist dabei die Frage, wie gut der Angriffsraum abstrahiert wird und welche Feedbacksignale GPT-Red zur Optimierung nutzt.
Im Marktkontext ist die Richtung klar: Automatisierte Sicherheitsschleifen werden vom „nice to have“ zur betrieblichen Resilienz. Neben OpenAI verfolgen auch große Wettbewerber ähnliche Prinzipien, jedoch mit unterschiedlichen Schwerpunkten. Microsoft integriert beispielsweise Sicherheits- und Missbrauchsprüfungen tief in Entwicklungs- und Bereitstellungsprozesse (Stichwort Secure Development Lifecycle), während Google in Sicherheits- und Threat-Modell-Ansätzen stark auf nachvollziehbare Abwehrstrategien setzt. Gegen diese Landschaft ist GPT-Red vor allem als Beschleuniger von Red-Teaming zu lesen: Nicht nur weil mehr Tests laufen, sondern weil die Tests „on-the-fly“ neue Pfade finden können, die in manuellen Checklisten oft fehlen.
Die Zahlen liefern dabei den handfesten Impuls für die Sicherheitsplanung. Berichten zufolge gelang es GPT-Red, nahezu jedes getestete Modell bis zur Version GPT-5.5 zu überwinden. Gleichzeitig wird die Relevanz der Härtung konkret gemacht: GPT-5.6 soll nach dem gezielten Training gegen erkannte Angriffsmuster die Fehlerquote bei direkten Prompt-Injection-Tests auf etwa ein Sechstel reduzieren. Wo frühere Versionen wie GPT-5 noch zu über 90 Prozent anfällig gewesen sein sollen, wird die Quote bei GPT-5.6 auf unter 23 Prozent beziffert. Gegen das Spitzenmodell GPT-5.6 Sol sollen direkte Angriffe nur in etwa 0,05 Prozent der Fälle erfolgreich sein.
Besonders brisant ist die genannte Entdeckung einer spezifischen Technik, die als „Fake-Chain-of-Thought“-Angriff bezeichnet wird. Die Beschreibung deutet darauf hin, dass der Angriff nicht nur „Antworten“ erzwingt, sondern versucht, Modellverhalten über scheinbar plausibilisierte Zwischenlogik in eine gewünschte Richtung zu steuern. In den internen Tests soll die Methode gegen GPT-5.1 in über 95 Prozent der Versuche funktioniert haben; nach der Härtung durch GPT-Red wird die Erfolgsquote beim Modell GPT-5.6 Sol auf unter zehn Prozent reduziert. Aus Sicht von Security Engineering ist das wichtig, weil Chain-of-Thought- und Ergebnispriorisierungstaktiken zunehmend zum Angriffshebel werden, sobald Systeme Fehlkontext zuverlässig genug ausnutzen.
Um die reale Angriffsfläche zu zeigen, wird GPT-Red in einem praktischen Test an einem KI-gesteuerten Verkaufsautomaten namens Vendy demonstriert. Dem Bericht zufolge konnte das System dabei die Produktpreise auf 50 Cent drücken, Bestellungen für Artikel im Wert von „over 100 Euro“ zum reduzierten Preis auslösen und anschließend bestehende Aufträge stornieren. Solche Beispiele sind mehr als „Proof of Concept“: Sie koppeln Prompt-Manipulation direkt an operative Prozesse. In der Praxis verschiebt das die Risikoabschätzung hin zu Integrationsrisiken – also zu der Frage, wie gut automatisierte KI-Entscheidungen in Backendsysteme eingebettet sind und ob sich Eingabemanipulation in Transaktionslogik, Workflows oder Preis- und Bestandsregeln durchschlagen kann.
Regulatorisch treffen solche Entwicklungen zunehmend auf die EU-KI-Verordnung (AI Act) und die damit verbundenen Pflichten entlang von Risikoklassen. Auch wenn der Bericht GPT-Red als Forschungsinstrument einordnet, zeigt er dennoch, wie schnell sich Angriffsräume erweitern, sobald KI-Systeme stärker in operative Ketten integriert werden. Unternehmen sollten daher Sicherheitsprüfungen nicht nur als technische Aufgabe sehen, sondern als Teil von Governance: Protokollierung, nachvollziehbare Testabdeckung, Risikobewertung und Dokumentation werden zu Wettbewerbsfaktoren. Für die IT-Abteilung heißt das konkret, dass Red-Teaming-Ergebnisse in Entwicklungs- und Deployment-Pipelines übersetzbar sein müssen – etwa über wiederholbare Testfälle, Monitoring von Fehlverhalten und saubere Freigabeprozesse.
OpenAI betont laut den vorliegenden Angaben, dass GPT-Red nicht veröffentlicht wird und ein reines Forschungsinstrument bleibt. Für Betreiber und Entwickler bleibt jedoch die eigentliche Lehre entscheidend: Der Mensch „bleibt im Loop“. Experten sollen bewerten, welche gefundenen Schwachstellen wirklich kritisch sind und priorisiert werden müssen – insbesondere, weil automatisierte Angriffe auch False Positives erzeugen können oder nur bestimmte Nutzungsbedingungen ausnutzen. Die künftige Entwicklung liegt damit nahe: Mit wachsender Modellkomplexität werden automatisierte Sicherheitsschleifen voraussichtlich fester Bestandteil von MLOps, Modellüberwachung und Incident Response. Gleichzeitig sollten Teams früh prüfen, wie sie Sicherheits-Feedback in Training und Härtungsstrategien überführen, um die Latenz zwischen Entdeckung und Abwehr weiter zu verkürzen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "GPT-Red: OpenAI automatisiert KI-Sicherheitslücken-Tests mit 84%-Erfolg" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "GPT-Red: OpenAI automatisiert KI-Sicherheitslücken-Tests mit 84%-Erfolg" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »GPT-Red: OpenAI automatisiert KI-Sicherheitslücken-Tests mit 84%-Erfolg« bei Google Deutschland suchen, bei Bing oder Google News!