LONDON (IT BOLTWISE) – OpenAI schränkt den Funktionsumfang von ChatGPT mit einem neuen „Lockdown Mode“ ein, um Datenabflüsse über Prompt-Injection-Angriffe zu reduzieren. Die Einstellung blockiert oder limitiert webnahe und netzwerkfähige Tools wie Live-Browsing, Agent-Modus und Datei-Downloads. Gleichzeitig führt OpenAI ein Konto-Tool ein, mit dem Nutzer aktive ChatGPT-Sitzungen einsehen und verdächtige Aktivitäten per Logout beenden können. Für Unternehmen bedeutet das: mehr Sicherheitskontrolle, aber auch weniger Komfort bei erweiterten Features.
OpenAI fährt die Sicherheitslehre aus Prompt-Injection-Angriffen nun auch als Produktfunktion in ChatGPT hoch: Mit dem „Lockdown Mode“ wird die Angriffsoberfläche deutlich enger gezogen, indem viele Tools und Fähigkeiten eingeschränkt werden, die aus Modellantworten heraus Verbindungen ins Web oder zu externen Diensten aufnehmen könnten. Gerade in Szenarien mit sensiblen Unternehmensdaten zielt das Feature auf ein wiederkehrendes Muster moderner Exfiltrationsketten, bei denen eine manipulierte Eingabe das Modell zu ausgehenden Netzwerkaktionen bewegt. OpenAI betont dabei, dass der Modus nicht „Prompt Injection verhindert“, sondern potenzielle Abflusswege eliminiert.
Technisch betrachtet knüpft Lockdown Mode an bereits vorhandene Schutzmechanismen wie Isolation/Sandboxing und etablierte Kontrollschichten an. Der Kern liegt jedoch in einer bewusst eingeschränkten Tool- und Netzwerkpolitik: Statt das Modell vollständig unlimitiert agieren zu lassen, begrenzt der Modus typischerweise ausgehende Netzwerkrequests. Damit wird es für Angreifer schwerer, URL-basierte Exfiltrationspfade aufzubauen, bei denen Daten über vom Modell initiierte Requests an Infrastruktur des Angreifers übertragen werden. OpenAI stellt außerdem klar, dass Memory-, Datei-Upload- und Freigabe-Mechanismen nicht grundsätzlich verändert werden, um den Produktkern nicht zu zerstören.
Der Funktionsumfang, der im Lockdown Mode deaktiviert oder reduziert wird, liest sich wie eine Liste der klassischen „Datenabflusshebel“: Live Web-Browsing wird auf gecachte Inhalte beschränkt, Bildfunktionen werden für reguläre Antworten sowie das Abrufen von Bildern aus dem Web eingeschränkt, und „Deep Research“ sowie der „Agent“-Modus werden limitiert bzw. deaktiviert. Ergänzend blockiert Lockdown Mode „Canvas Networking“, bei dem Nutzer normalerweise das Ausführen von Canvas-generiertem Code mit Netzwerkzugriff freigeben könnten. Auch Datei-Downloads werden untersagt, was insbesondere für nachgelagerte Datenanalyse-Workflows relevant ist. Damit verschiebt sich die Balance von erweiterten Automationsmöglichkeiten hin zu Absicherung.
Unterdessen adressiert OpenAI gleich ein weiteres Operational-Risiko: Mit einer neuen Konto-Verwaltung können Nutzer aktive ChatGPT-Sitzungen prüfen und bei verdächtigen Zeichen einzelne oder alle Sitzungen abmelden. Für die forensische Einordnung werden dabei mehrere Parameter angezeigt, unter anderem Informationen zum Gerät, zur verwendeten App, eine ungefähre Standortangabe, Anmeldezeitpunkt sowie ob das Gerät als „trusted“ gilt und ob es sich um die aktuelle Sitzung handelt. Für Security-Teams in Unternehmen ist das wichtig, weil Account Compromise nicht nur durch technische Exploits entsteht, sondern häufig durch unbemerkte Zugriffe und fehlende Sichtbarkeit auf Session-Ereignisse.
Im Markt ordnet sich die Maßnahme in einen breiteren Trend ein: KI-Assistenten werden zunehmend wie „programmierbare Interfaces“ behandelt, bei denen Tool-Zugriff, Netzwerkfähigkeit und Datendurchsatz stärker reguliert werden müssen. Wettbewerber wie Google (Gemini), Anthropic (Claude) oder Microsoft (Copilot) arbeiten ebenfalls an Sicherheits- und Content-Guardrails, doch Lockdown Mode ist in seiner Ausprägung besonders produktionsnah, weil er den Funktionsumfang gezielt an Sicherheitsziele koppelt. Gerade bei Enterprise-Deployments entscheidet häufig nicht nur das Modellverhalten, sondern die umgebende Integrationsschicht: Welche Tools sind erlaubt, welche Konnektoren dürfen ausgehende Requests auslösen, und welche Freigaben existieren?
Wie Sicherheitsforscher aus dem Bereich AppSec und KI-Governance in jüngsten Brancheninterviews betonen, wird Exfiltration künftig weniger durch „direktes“ Modellhacken passieren, sondern durch die Kombination mehrerer Fähigkeiten in ungünstigen Pfaden. In diesem Sinne ist Lockdown Mode eine Gegenmaßnahme, die explizit den Netzwerkkanal als leeren Abfluss nutzt, statt ausschließlich auf Prompt-Textfilters zu setzen. Gleichzeitig bleibt OpenAI transparent: Die Funktion garantiert nicht, dass Exfiltration unmöglich ist. Risiken können laut OpenAI über aktivierte Apps bestehen, über unerwartete Kombinationen von Fähigkeiten oder über neu entdeckte Techniken. Diese nüchterne Einordnung ist für Entscheider zentral, weil Sicherheit nie nur ein Feature ist, sondern ein Gesamtbetrieb.
Ein wichtiger Kontextpunkt ist die historische Entwicklung: LLMs begannen zunächst als rein textbasierte Systeme, in denen Prompt Injection zwar die Antwortqualität verfälschen konnte, aber selten direkte externe Effekte auslöste. Mit der Zeit kamen Tools hinzu—Webzugriff, Code-Ausführung, Dateihandling, Agenten—und damit wuchs die Wahrscheinlichkeit, dass aus einer manipulierten Anweisung eine reale Systemhandlung wird. Lockdown Mode ist damit eine späte, aber notwendige Reaktion auf den „Capability Spillover“: Je mehr Handlungsspielraum ein KI-Assistent bekommt, desto wichtiger werden Begrenzungen, selbst wenn die Ein-/Ausgabe an sich scheinbar harmlos bleibt.
Für Unternehmen bedeutet das in der Praxis: Wer KI-Assistenten mit sensiblen Daten nutzt, kann den Lockdown Mode als harte Betriebseinstellung verstehen, die besonders in Hochrisiko-Workflows aktiviert wird. Gleichzeitig steigt der Bedarf an Alternativen zu den blockierten Funktionen. Wenn Live-Browsing auf gecachte Inhalte begrenzt wird, muss das Informationsmanagement entsprechend vorbereitet sein; wenn Datei-Downloads für Datenanalysen fehlen, wird die interne Datenpipeline oder ein dedizierter Analyse-Workflow außerhalb von ChatGPT wichtiger. Zudem gilt die Einschränkung, dass Lockdown Mode und Developer Mode nicht parallel aktiv sein können. Sicherheitsseitig sollten Teams daher Rollen- und Richtlinienprozesse etablieren, damit Nutzer nicht versehentlich zwischen Modi wechseln und Sicherheitsannahmen verletzt werden.
Der Ausblick fällt daher weniger auf „mehr Features“, sondern auf „bessere Sicherheitssteuerung“: Künftige Versionen dürften feingranularer werden, etwa durch granularere Tool-Policies, definierte Netzwerkrouten und auditierbare Entscheidungen. Ebenso ist zu erwarten, dass „Session Visibility“ und Logout-Mechanismen stärker in Compliance- und Incident-Response-Prozesse integriert werden. Angesichts der weiterhin bestehenden Möglichkeit, dass ein bösartiges Element in hochgeladenen Dateien falsche Antworten erzeugt, wird der Sicherheitsfokus wohl dauerhaft auch auf Datenintegrität, Content-Validation und Modellrobustheit ausgedehnt. Für Entwickler eröffnet das zugleich Chancen: Wer Integrationen so designt, dass Exfiltration schwer ist, baut KI-Systeme, die in der Breite vertrauenswürdiger werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "ChatGPT erhält „Lockdown Mode“: Tools werden gegen Prompt-Injection abgesichert" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "ChatGPT erhält „Lockdown Mode“: Tools werden gegen Prompt-Injection abgesichert" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »ChatGPT erhält „Lockdown Mode“: Tools werden gegen Prompt-Injection abgesichert« bei Google Deutschland suchen, bei Bing oder Google News!