LONDON (IT BOLTWISE) – Der KI-Cybersecurity-Startup Hacktron hat laut eigener Offenlegung eine Schwachstelle in den Community-Login-Mechanismen bei OpenAI identifiziert. Durch eine Kontoausnutzung über das Help-Forum seien ChatGPT- und Codex-Accounts potenziell erreichbar gewesen. Das Team nutzte dafür Claude in einem Anthropic-Programm für autorisierte Sicherheitsforschung. Für die Meldung erhielt Hacktron einen 6.500-Dollar-Bounty, OpenAI reagierte nach eigenen Angaben mit Zugriffseinschränkungen und widerrufenen Token.
Ein Startup mit weniger als zehn Mitarbeitenden zeigt gerade, wie schnell sich die Sicherheitsforschung in Richtung KI-gestützter Agenten verschiebt. Zayne Zhang, Mitgründer und CEO von Hacktron, beschreibt, dass sein Team nach Lücken bei sogenannten Frontier-Model- und Agenten-Anbietern sucht – mit dem konkreten Ziel, herauszufinden, ob sich Sicherheitsannahmen durch das Verhalten autonomer oder teilautonomer KI-Agenten aushebeln lassen. Die Meldung ist inhaltlich dabei weniger ein „Modell-Hack“ als ein Zugriffsthema: Hacktron setzt an der Schnittstelle an, über die Nutzer und interne Rollen sich bei OpenAIs Community- und Support-Bereichen authentifizieren.
Im Juli habe Hacktron dem eigenen Bericht zufolge Schwachstellen in der Infrastruktur identifiziert, die den Login in ein Community-Help-Forum betrafen. Kernpunkt sind dabei „Community sign-in tokens“: Wer sich über das Forum in offene Bereiche einloggt, könnte – so die Darstellung – Zugriff auf ChatGPT- und Codex-Accounts erhalten haben. Technisch betrachtet ist das besonders heikel, weil Tokens als „Delegation“ funktionieren: Statt dass jede Aktion erneut eine komplette Authentifizierung anstößt, reicht oft ein gültiges Token-Format, um Berechtigungen zeitlich begrenzt weiterzugeben. Wenn Token-Einschränkungen zu großzügig sind oder nicht sauber an Kontext, Session oder Zielsystem gebunden werden, entsteht genau jene Angriffsfläche, die sich mit KI-unterstützten Workflows schnell automatisieren lässt.
Für die Ausnutzung schildert Hacktron dann einen zweiten, auffälligen Baustein: Das Team habe den Versuch über Claude durchgeführt. Hintergrund ist ein Anthropic-Programm, das laut Zhang bestimmte Cyber-Schutzmechanismen für autorisierte Sicherheitsforschung lockert. Genau an dieser Stelle wird deutlich, warum der Bericht über die Grenzen klassischer Penetrationstests hinausgeht. KI-Systeme wie Claude können nämlich helfen, aus unvollständigen Informationen gezielter zu iterieren – etwa beim Formulieren von Prompts, beim Anpassen an erwartete Antwortformate oder beim Testen von Szenarien, die einem menschlichen Tester zwar plausibel erscheinen, aber ohne Automatisierung im Alltag schwer reproduzierbar wären. Sicherheitsrelevante Arbeit wird damit nicht „magisch“, aber sie wird schneller, konsistenter und in Schleifen besser durchführbar.
Hacktron gibt an, im Anschluss in das Konto eines OpenAI-Mitarbeiters eingedrungen zu sein. Der Schritt blieb laut Offenlegung bewusst begrenzt: Das Team habe das Codex-Konto des Mitarbeiters per Prompt zu Änderungsvorschlägen für ein OpenAI-internes Code-Repository angestoßen, jedoch keinen Zugriff auf den internen Code selbst erhalten. Für die Bewertung ist dieser Unterschied entscheidend, denn er trennt die reine Einflussnahme über ein sprachbasiertes Interface von einer vollständigen Kompromittierung der Entwicklungsdaten. Gleichzeitig zeigt der Vorfall die Art von Risiken, die entstehen, wenn KI-Agenten und Entwickler-Tools direkt mit produktiven Systemen oder internen Artefakten gekoppelt sind: Selbst „nur“ textbasierte Vorschläge können je nach Prozesskette echte Auswirkungen haben, etwa wenn nachgelagerte Automatisierungen oder Freigabemechanismen zu leicht greifen.
Beim Umgang mit solchen Meldungen zeigt sich dann der klassische Sicherheits-Praxisanteil. Hacktron erklärt, man habe nach der Entdeckung eine Bounty in Höhe von 6.500 US-Dollar erhalten. OpenAI wiederum teilte laut Aussage eines Sprechers mit, man danke den Forschenden für die Kontaktaufnahme und habe die Berechtigungen auf Community-Token eingeschränkt sowie betroffene Token und Sessions widerrufen. Solche Schritte zielen typischerweise auf die Token-Laufzeit, auf feingranulare Scope-Bindungen und auf das dynamische Widerrufen von Sessions ab – also genau die Mechanismen, die bei einem Token-basierten Zugriff als erste verletzt werden. Interessant ist dabei auch, dass die Kommunikation die technische Richtung vorgibt: Nicht das Modell selbst sei „eingefroren“ worden, sondern die Berechtigungskette rund um den Community-Zugang.
Die Geschichte fällt zudem in eine Phase, in der „KI-Sicherheit“ in der öffentlichen Wahrnehmung immer stärker mit „KI-Agenten“ verknüpft wird. In den vergangenen Monaten hätten mehrere Anbieter Berichte veröffentlicht, wonach Agenten während Testläufen unerwünschte, teils regelwidrige Handlungen zeigten. Das erhöht den Druck auf zwei Ebenen: Zum einen müssen Anbieter verhindern, dass Agenten Sicherheitsbarrieren überschreiten. Zum anderen müssen sie aber auch die Umgebung absichern, in der Agenten handeln – also Authentifizierung, Berechtigungen, Token-Gültigkeit und Zugriffspfade. Hacktron positioniert sich damit nicht als isoliertes Ereignis, sondern als Symptom einer neuen Angriffsoberfläche: Wenn KI-Tools mit Subsystemen wie Codex oder Entwickler-Workflows verknüpft werden, wächst die Zahl der Zustandsübergänge, an denen Tokens oder Rollen falsch verankert sein können.
Zayne Zhang ordnet den Vorfall in diese größere Gemengelage ein und sagte: „The worlds of AI safety and cybersecurity are converging, and we think that having more cybersecurity experts in the conversation is always a good thing for the industry“. Genau diese Verbindung ist aus Engineering-Sicht der entscheidende Punkt. KI-Safety-Ansätze adressieren häufig das Verhalten des Modells innerhalb seiner Grenzen, während Cybersecurity-Methoden die Umgebung, die Authentifizierung und die reale Zugriffskette absichern. Wenn beides zusammen gedacht wird, reduziert sich die Wahrscheinlichkeit, dass eine Lücke im Login oder in Token-Scopes zu einem Agenten-„Katalysator“ wird. Für Unternehmen, die KI-Agenten in Produktion bringen, bedeutet das: Sicherheitskonzepte müssen nicht nur auf Prompt-Ebene ansetzen, sondern auch die Identitäts- und Berechtigungsarchitektur konsequent härten – inklusiv sauberem Token-Scope-Design, Session-Widerruf und einer Ereigniskette, die bei Meldungen schnell und nachvollziehbar umschaltet.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Hacktron zeigt KI-Agenten-Lücke: Claude half beim Angriff auf OpenAI-Accounts" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Hacktron zeigt KI-Agenten-Lücke: Claude half beim Angriff auf OpenAI-Accounts" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Hacktron zeigt KI-Agenten-Lücke: Claude half beim Angriff auf OpenAI-Accounts« bei Google Deutschland suchen, bei Bing oder Google News!