LONDON (IT BOLTWISE) – OpenAI stellt die Sicherheitsplanung für sein kommendes KI-Modell Astra vorerst um. Interne Evaluierungen deuten laut Angaben darauf hin, dass das Modell bei Programmierung und Cybersecurity derzeit ein deutlich höheres Gefährdungspotenzial erreichen könnte, als OpenAI offiziell als „High“ einstufen würde. Deshalb pausiert der Entwickler Aktivitäten, die noch keine verschärften Schutzmaßnahmen erfüllen. Zusätzlich soll Astra künftig in isolierten Umgebungen mit eingeschränktem Zugriff überwacht und kontrolliert werden.
Die Meldung wirkt auf den ersten Blick wie ein Schritt zurück, ist aber inhaltlich vor allem ein deutliches Sicherheits-Signal: OpenAI nimmt bei seinem kommenden KI-Modell „Astra“ vorläufig die Sicherheitsbremse an. Auslöser sind interne Evaluierungen der vergangenen Tage, in denen Astra besonders bei agentischem Programmieren sowie bei Aufgaben rund um Cybersecurity weit über bisherige Vergleichswerte geraten ist. OpenAI ordnet das nicht als bestätigten Durchbruch ein, sondern beschreibt das Risiko als so groß, dass das Erreichen der höchsten Stufe im eigenen Preparedness Framework nicht mehr ausgeschlossen werden könne. Damit verschiebt sich der Fokus von reiner Leistungsfähigkeit auf die Frage, wie stark solche Systeme realweltliche Angriffsmöglichkeiten beeinflussen können.
Was „Critical“ in diesem Kontext bedeutet, definiert OpenAI relativ konkret. Die Stufe wäre dann erreicht, wenn das Modell ohne menschliche Unterstützung funktionsfähige Zero-Day-Exploits sämtlicher Schweregrade für zahlreiche gehärtete reale Systeme identifizieren und entwickeln kann. Ebenfalls darunter fällt die Fähigkeit, ausgehend nur von einem übergeordneten Angriffsziel eigenständig neuartige Cyberangriffe gegen gehärtete Ziele zu planen und anschließend vollständig auszuführen. Entscheidend ist: OpenAI behauptet nicht, dass Astra diese Fähigkeiten bereits sicher „besitzt“. Die bisherigen Ergebnisse seien vielmehr gut genug, um ein Erreichen der Stufe derzeit nicht auszuschließen. Als Referenz nennt OpenAI zuvor lediglich eine darunterliegende Bewertung für „GPT-5.6 Sol“ auf der Stufe „High“.
Technisch betrachtet liegt der Kern der neuen Risikoeinschätzung vermutlich weniger in einzelnen Benchmarks, sondern in der Kombination aus Agentenverhalten und Cyber-Problemraum. Agentisches Programmieren heißt in der Praxis: Das System übernimmt nicht nur Teilaufgaben, sondern verfolgt Ziele end-to-end, iteriert nach Rückmeldungen und erzeugt passende Codeartefakte. Genau diese Schleife wird im Cyberkontext schnell gefährlich, weil sie von der Analyse zur Implementierung und schließlich zur Ausführung kippen kann. Hinzu kommt, dass OpenAI gleichzeitig betont, interne Systeme würden sowohl beim Training als auch bei Evaluierungen sämtliche agentischen Anwendungen von Astra auf riskante Aktionen und Fehlverhalten überwachen. Solche Überwachungssysteme sollen dabei auch die internen Gedankengänge des Modells analysieren und bei problematischem Verhalten eine Sicherheitsüberprüfung auslösen sowie den Vorgang gegebenenfalls unterbrechen.
Parallel dazu ändert OpenAI laut Angaben die Betriebsbedingungen. Dazu zählen isolierte Testumgebungen, ein stark eingeschränkter Netzwerk- und Werkzeugzugriff sowie eine stärkere Verschlüsselung und Absicherung der Modellgewichte. Außerdem plant OpenAI zusätzliche Überwachungsmechanismen und setzt auf Sandboxing, um den Einfluss des Modells auf seine Umgebung drastisch zu begrenzen. Aktivitäten, die diese verschärften Anforderungen noch nicht erfüllen, wurden pausiert. Für Unternehmen ist das vor allem deshalb relevant, weil es den realen Aufwand für sichere KI-Integration zeigt: Nicht nur das Modell selbst, sondern auch „Umfeld“ und „Betriebsmodus“ entscheiden, ob eine leistungsstarke KI akzeptabel steuerbar bleibt. Das gilt umso stärker bei KI-Systemen, die in produktionsnahen Workflows mit Code, Tools oder Netzwerkzugriff umgehen.
Eine zweite Ebene betrifft die Strategie hinter dem Modell: OpenAI beschreibt Astra nicht als Nebenprojekt, sondern als „eines seiner kommenden Modelle“ und an anderer Stelle ausdrücklich als „nächstes großes Modell“. Damit steht Astra im Portfolio in der Nähe von Roadmap-Entscheidungen, die über interne Forschung hinausgehen. Einen Vorgeschmack lieferte OpenAI bereits Anfang August: Eine interne Astra-Version erzielte laut Angaben neue Ergebnisse bei zehn offenen beziehungsweise langjährigen Problemen aus Mathematik und theoretischer Informatik. Die Themen reichten von hochdimensionaler Geometrie und Kodierungstheorie bis zu Quantenkomplexität und Gitterkryptografie; die eigentlichen mathematischen Argumente seien vom KI-System erzeugt und anschließend mit menschlicher Unterstützung für Veröffentlichungen aufbereitet worden. Gleichzeitig nennt OpenAI für den dafür benötigten Tokenverbrauch bei den aktuellen API-Preisen von GPT-5.6 Sol lediglich rund 2.000 US-Dollar. Wann Astra außerhalb des Unternehmens genutzt werden kann, lässt OpenAI offen – vermutlich auch, weil OpenAI zuerst sauber klären will, wie weit die Cyber-Fähigkeiten wirklich reichen und welche Schutzvorkehrungen dabei erforderlich sind.
In die Diskussion passt auch die Branchendynamik: In der KI-Landschaft gehört es inzwischen fast zum Standard, neue Spitzenmodelle nicht nur als leistungsfähiger, sondern zugleich als potenziell gefährlich zu präsentieren. Selbst wenn OpenAI diese Einstufung primär sicherheitstechnisch begründet, bleibt ein Nebeneffekt: Ein unveröffentlichtes Modell, dessen Fähigkeiten selbst dem Hersteller Respekt abverlangen, erzeugt automatisch Aufmerksamkeit. Wie stark solche Signale wirken können, zeigt laut Quelle die Parallele zu Anthropic: Dort hatte die US-Regierung im Juni den Zugang zu neuen Modellen zeitweise eingeschränkt, nachdem Sicherheitsbedenken aufgekommen waren. Für das Unternehmen waren die Maßnahmen zwar alles andere als freiwillig, doch die öffentliche Wahrnehmung entspricht häufig nicht der nüchternen Sicherheitsargumentation. Inzwischen wurden die Beschränkungen wieder aufgehoben. Für OpenAI bedeutet das: Die aktuelle Astra-Entscheidung wird nicht nur Sicherheitsabteilung und Red Team betreffen, sondern auch die Art, wie Kunden und Behörden die Steuerbarkeit künftiger Modelle einschätzen.
Für die nächsten Wochen dürfte daher nicht nur die Frage „Wann kommt Astra?“ im Raum stehen, sondern „unter welchen technischen Leitplanken“. Die angekündigten Schritte – isolierte Umgebungen, eingeschränkter Zugriff, zusätzliche Monitoring- und Sandboxing-Mechanismen sowie die kontinuierliche Verhaltenskontrolle bei agentischen Anwendungen – sind im Grunde die Antwort auf ein praktisches Problem: leistungsstarke KI kann je nach Setup von unterstützender Automatisierung zu autonomem Fehlverhalten kippen. Unternehmen, die solche Modelle später einsetzen wollen, sollten daraus ableiten, wie wichtig klare Policy-Gates und kontrollierte Ausführungsumgebungen sind, besonders bei Workflows, in denen KI Code schreibt, testet oder mit Tools interagiert. OpenAI lässt offen, welche Rolle Astra langfristig genau im Produktmix spielt. Das Sicherheitsvorgehen legt allerdings nahe, dass der Weg zu einer breiteren Nutzung weniger über „Performance-Rollout“ führt, sondern über belastbare Nachweise zur Begrenzung von Cyber-Risiken.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OpenAI bremst Astra: Internes Modell-Risiko steigt auf „Critical“" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OpenAI bremst Astra: Internes Modell-Risiko steigt auf „Critical“" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OpenAI bremst Astra: Internes Modell-Risiko steigt auf „Critical“« bei Google Deutschland suchen, bei Bing oder Google News!