LONDON (IT BOLTWISE) – Hacktron, ein Startup aus San Francisco, berichtet über eine Sicherheitslücke in OpenAIs Community-Hilfe-Forum. Laut den Angaben des Teams konnten Konten von ChatGPT- und Codex-Nutzern kompromittiert werden, wenn sie sich über die Community anmeldeten. Hacktron testete die Lücke mit Claude auf Basis eines Anthropic-Zugangsprogramms und stoppte, bevor es auf den internen Code zugriff. OpenAI reagierte laut Statement mit eingeschränkten Berechtigungen für Community-Login-Token und dem Widerruf betroffener Token und Sitzungen.
Hacktron will die Grenze zwischen KI-Entwicklung und Cybersicherheit enger ziehen. Das Startup aus San Francisco richtet sein Research explizit auf mögliche Schwachstellen bei sogenannten Frontier-Model-Anbietern aus, um zu prüfen, ob KI-Agents dort überhaupt Angriffsflächen finden. In der aktuellen Offenlegung geht es um eine Lücke, die nicht in einem Modell-Backend, sondern rund um den Zugriff auf OpenAIs Community-Hilfe-Umgebung entstanden sein soll. Damit wird ein Muster sichtbar, das in der Praxis oft unterschätzt wird: Wer Identitäten und Session-Mechanismen nicht sauber absichert, kann selbst mit „nur“ einem indirekten Einstieg später an produktionsnahe Systeme gelangen.
Laut Hacktron lag der Einstiegspunkt in einem speziellen Login-Pfad. In der Veröffentlichung heißt es, dass bei OpenAI die ChatGPT- und Codex-Konten potenziell kompromittiert werden konnten, sobald ein OpenAI-Mitarbeiter oder ein anderer Nutzer sich über das Community-Hilfe-Forum anmeldete. Hacktron beschreibt anschließend einen Proof-of-Concept, bei dem das Team Claude einsetzte, um die entdeckte Schwachstelle auszunutzen. Entscheidend dafür war nach Unternehmensangabe, dass Hacktron Zugang zum Cyber Verification Program von Anthropic hatte, das für autorisierte Sicherheitsforschung bestimmte Restriktionen bei Claude lockert. Technisch geht es dabei weniger um „Magie“ der KI als um die Fähigkeit, mit einem Werkzeug wie Claude strukturierte Schritte auszuführen, die in Richtung Authentifizierung, Token-Auswertung und kontrolliertes Weiterprobieren führen.
Im nächsten Schritt nennt Hacktron einen konkreten Zwischen-Erfolg: Das Team konnte in ein Konto eines OpenAI-Mitarbeiters gelangen und anschließend den Codex-Account des Mitarbeiters so anstoßen, dass Vorschläge für Änderungen am internen Code-Repository generiert wurden. Allerdings betont Hacktron zugleich eine wichtige Begrenzung des Tests: Das Team habe den Zugriff auf interne Repositorien nicht fortgesetzt, sondern die Untersuchung an dieser Stelle abgebrochen und das Problem an OpenAI gemeldet. Diese Abbruchlinie ist für die Einordnung zentral, weil sie den Unterschied zwischen Demonstration eines Missbrauchswegs und dem tatsächlichen Ausnutzen von tieferen Systemrechten markiert. OpenAI bestätigte in einem per E-Mail übermittelten Statement, dass man die Berechtigungen für Community-Login-Token eingegrenzt und betroffene Tokens sowie Sessions widerrufen habe. Damit adressiert das Unternehmen vor allem den Session-Lifecycle, also den Zeitraum, in dem ein Token gültig ist und welche Rechte es zuweist.
Für Hacktron selbst ist die Meldung auch wirtschaftlich greifbar: Das Startup berichtet, eine Prämie in Höhe von 6.500 US-Dollar erhalten zu haben. Gemessen an der Teamgröße wirkt das Ergebnis bemerkenswert, weil Hacktron laut Angaben weniger als ein Jahr alt ist und weniger als 10 Mitarbeitende hat. Genau hier liegt eine Marktdynamik, die man seit den ersten Wellen von KI-Sicherheitsforschung sieht: Kleine Teams können durch enge Fokussierung und schnellen Iterationszyklus in sehr kurzer Zeit Proof-of-Concepts liefern, während größere Organisationen parallel oft stärker in Produktstabilität, Compliance-Prozesse und Change-Management eingebunden sind. Gleichzeitig zeigt der Fall, dass sich Sicherheitsdiskussionen zunehmend um Identitäts- und Token-Design drehen, also um Themen wie sign-in tokens, Berechtigungsmodelle und das frühzeitige Entkoppeln von Community-Zugängen von sensibleren Entwicklungsumgebungen.
Die zeitliche Einbettung wirkt zusätzlich brisant: Die Veröffentlichung fällt in eine Phase, in der mehrere Anbieter öffentlich über sicherheitsrelevante Ergebnisse aus Agententests berichtet haben. In den letzten Monaten wurde sowohl bei OpenAIs als auch bei anderen großen Akteuren dokumentiert, dass KI-Agents in Tests unerwünschte, „rogue“ Aktionen zeigten. Aus Branchenperspektive verschiebt sich damit der Schwerpunkt von reinem Modell-Risiko hin zu einem Gesamtbild: Modelle, Tool-Nutzung, Agent-Orchestrierung und Zugriffsrechte greifen wie Zahnräder ineinander. Wenn KI-Agents nur über scheinbar harmlose Web- oder Community-Schnittstellen indirekt Token erhalten, kann die Eintrittshürde sinken, selbst wenn der eigentliche Codepfad streng kontrolliert ist.
Für Unternehmen ergibt sich daraus eine praktische Leitlinie. Erstens sollten Sicherheitsprüfungen nicht ausschließlich auf Prompt- und Modell-Ebene enden, sondern auch die Identitätskette von der ersten Anmeldung bis zur Nutzung von Entwicklerwerkzeugen abdecken. Zweitens lohnt es sich, Berechtigungskonzepte so zu entkoppeln, dass Community-Umgebungen keine Rechte ableiten können, die später in Richtung interner Repositories oder Entwickler-APIs reichen. Drittens wird der Umgang mit KI-gestützten Red-Teaming-Workflows wichtiger: Dass Hacktron Claude mit Hilfe eines Anthropic-Zugangsprogramms einsetzte, zeigt, dass KI-Assistenten für Security-Tests realistisch werden, weil sie Schritte in einer Form strukturieren können, die sonst menschliches „Runbook“-Wissen voraussetzt. Unterm Strich liefert der Fall damit weniger „Angst vor KI“ als eine konkrete Erinnerung: Die robusteste KI-Sicherheit entsteht durch saubere Architektur, nicht durch den Fokus auf ein einzelnes Modellverhalten.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Hacktron nutzt Claude, findet Schwachstelle in OpenAIs Community-Hilfe-Forum" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Hacktron nutzt Claude, findet Schwachstelle in OpenAIs Community-Hilfe-Forum" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Hacktron nutzt Claude, findet Schwachstelle in OpenAIs Community-Hilfe-Forum« bei Google Deutschland suchen, bei Bing oder Google News!