LONDON (IT BOLTWISE) – Unabhängige Sicherheitsforscher haben mit Claude eine Kette aus zwei Schwachstellen genutzt, um in mehrere Mitarbeiter-Accounts eines großen KI-Anbieters einzudringen. Der Zugriff erfolgte über die Community-Plattform, nachdem ein Bildformat-Upload im Hintergrund in Standard-JPEGs umgewandelt worden war. Entscheidend war dabei ein Speicherfehler in einer Bibliothek, der bereits Monate zuvor behoben worden war, aber ohne offizielle Schwachstellenkennzeichnung im Betrieb blieb. Das Beispiel zeigt, wie schnell sich KI-gestützte Fähigkeiten vom Labor in reale Angriffsabläufe verschieben können.
Der Vorfall wirkt wie ein Lehrstück dafür, wie sich KI-Sicherheit gerade neu sortiert: Statt klassischer „Tool-Schmiede“ reicht heute ein funktionierender KI-Assistent, um aus einem schmalen Fehlerpfad einen echten Zugriff zu machen. Unabhängige Forschende nutzten dafür eine spezielle Claude-Variante aus dem Sicherheitskontext, um Sicherheitslücken in der Infrastruktur eines großen Chatbot-Anbieters auszunutzen. Ziel war nicht nur ein einzelner Testaccount, sondern der Zugriff auf mehrere Mitarbeiter-ChatGPT-Accounts, die im weiteren Schritt auch in angrenzende Systeme hineinreichen.
Konkret führte ein dreiköpfiges Team eines Startups namens Hacktron AI die Aktion im Rahmen eines Bug-Bounty-Programms durch. Das Setup kombinierte zwei kritische Schwachstellen zu einer Angriffskette: Zuerst gelangten die Angreifer in den Discourse-Server, der als Drittsoftware die Community-Umgebung betreibt. Laut der veröffentlichten Beschreibung begann der Einstieg dabei mit einem scheinbar alltäglichen Upload von Bilddateien, genauer mit HEIF- oder HEIC-Formaten, wie sie iPhones typischerweise erzeugen.
Im Hintergrund lieferten die Konvertierungswerkzeuge dann den eigentlichen Angriffsweg. Discourse reichte die hochgeladenen Dateien an eine Bildverarbeitung weiter, startend mit ImageMagick, das die Apple-Formate nicht direkt beherrscht und sie deshalb an libheif zur Dekodierung übergab. In libheif steckte ein Speicherfehler: Durch eine speziell präparierte Bilddatei berechnete die Bibliothek falsch, wie ein Bild relativ zu einem anderen platziert wird. Diese Fehlkalkulation genügte, um eine Kontrolle über den Prozessablauf zu übernehmen und damit den Serverzugriff zu ermöglichen.
Besonders brisant ist dabei die zeitliche Diskrepanz zwischen Patch und Schutzwirkung. Die Forschenden verwiesen darauf, dass der relevante Bug bereits Monate zuvor von libheif-Entwicklern behoben worden war. Allerdings sei der Fix nie formell als Schwachstelle mit einer CVE-Nummer (Common Vulnerabilities and Exposures) markiert worden. Ohne diese eindeutige Zuordnung bleibt das Problem in vielen „Pfadabhängigkeiten“ der Patch-Logik unsichtbar: Teams scannen häufig gegen bekannte CVEs oder gepflegte Advisories, und damit kann eine verwundbare Bibliotheksversion länger im Betrieb bleiben, als es aus reinem Wartungsgefühl heraus plausibel wäre.
Der zweite Teil der Kette zeigt dann, wie stark sich KI inzwischen in den Angriffsprozess einfügen lässt. Die Forschenden hatten zunächst mit einer Claude-Variante, die als Opus 4.8 beschrieben wurde, keinen funktionierenden Exploit bauen können. Erst nach der Veröffentlichung von Opus 5 klappte die Ausarbeitung innerhalb kurzer Zeit: In dem eigenen Bericht heißt es, dass das Modell die gleichen Aufgaben „innerhalb von Stunden“ erfolgreicher löste, nachdem es in mehreren Sessions zuvor gescheitert war. Nach dem Eintritt in den Discourse-Server konnten sie anschließend eine weitere Schwachstelle nutzen, um ChatGPT- und Codex-Konten zu übernehmen – darunter auch Accounts von OpenAI-Mitarbeitern, wie es in der Zusammenfassung der Forschenden heißt, wobei Codex mit der GitHub-Organisation verbunden war.
Nachdem die Forschenden den Sachverhalt gemeldet hatten, wurden sowohl der KI-Anbieter als auch Discourse adressiert; Discourse brachte dem Bericht zufolge eine Korrektur am 27. Juli. In der Sicherheitscommunity verschiebt sich damit auch die Debatte darüber, wo genau die Grenze zwischen „Modellleistung“ und „praktischer Ausnutzbarkeit“ verläuft. Zwar gibt es bei neueren Modellvarianten zeitweise Einschränkungen für den Sicherheitsfokus, doch der entscheidende Punkt in diesem Fall ist nicht der eine Gate-Keeper, sondern die Tatsache, dass Off-the-shelf-Softwarekomponenten und deren Konvertierungspfade ein verwertbares Einfallstor bieten, selbst wenn das Zielsystem ansonsten hochmodern wirkt.
Auch die breitere Markt- und Forschungslandschaft untermauert diese Richtung: Die Forschenden ordnen das als Indiz dafür ein, dass sich bei offenen Modellen die Cyber-Fähigkeiten schnell angleichen. Parallel dazu wird aus der Praxis kommuniziert, dass KI-gestützte Assistenz den Bedarf an seltenen Exploit-Details senkt. So stellte Mohan Pedhapati in einem eigenen Posting sinngemäß heraus, dass Tätigkeiten, die früher über Monate liefen, heute eher in Tagen erledigt werden können – nicht, weil die „Hacker-Zauberei“ leichter wird, sondern weil KI-Modelle Bausteine schneller zusammenführen und Iterationen beschleunigen.
Für Unternehmen folgt daraus eine klare Konsequenz: Perimeter-Strategien reichen allein nicht, wenn der Angriff über Formatauswertung, Bibliotheksabhängigkeiten und Drittsoftware-Pipelines kommt. Wer Discourse-ähnliche Plattformkomponenten nutzt, sollte nicht nur auf Update-Zyklen achten, sondern auch die Konvertierungsketten und die dort verwendeten Decoder-Bibliotheken inventarisieren. Dazu gehört, dass Patches nicht nur dann priorisiert werden, wenn eine CVE vorliegt, sondern auch dann, wenn Projekte Sicherheitsfixes in Release Notes ohne formelle Kennzeichnung liefern. Der Vorfall macht zudem deutlich, warum Sicherheitsprogramme wie Bug Bounties für KI-Anbieter gerade strategisch wertvoll sind: Sie holen Schwachstellen aus Randbereichen ans Licht, bevor ein Angreifer sie als Angriffskette in Produktion weiter ausbauen kann.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Modelle als Einfallstor: Claude-Kette knackt OpenAI-Accountschutz" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Modelle als Einfallstor: Claude-Kette knackt OpenAI-Accountschutz" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Modelle als Einfallstor: Claude-Kette knackt OpenAI-Accountschutz« bei Google Deutschland suchen, bei Bing oder Google News!