LAS VEGAS / LONDON (IT BOLTWISE) – Forschende von Accenture und Google Cloud berichten auf der Black Hat USA, dass kriminelle und staatlich unterstützte Akteure KI-Modelle nutzen, um neue Angriffswege gegen Unternehmensnetzwerke zu entwickeln. Statt nur Passwörter zu stehlen, setzen Angreifer zunehmend auf Token, Cookies und Session-IDs, um Sicherheitskontrollen zu umgehen. Gleichzeitig zeigen sie, dass offene KI-Modelle die Hürden für diese Vorhaben senken, weil bestehende Guardrails leichter ausgehebelt werden. Entscheidend wird damit das Wettrennen zwischen Intrusion-Erkennung und KI-gestützter Angriffsautomatisierung.
Auf der Black Hat USA in Las Vegas steht eine Entwicklung im Fokus, die Security-Teams in den kommenden Monaten stärker beschäftigen dürfte: Angreifer testen KI-Modelle, um neue Einstiegswege in Unternehmensumgebungen zu finden – und sie tun das nicht als „Einmal-Angriff“, sondern als fortlaufendes Handwerk. Laut einem Bericht von Forschern von Accenture und Google Cloud nutzen kriminelle sowie staatlich ausgerichtete Gruppen KI-gestützte Möglichkeiten, um Exploits schneller zu entwickeln, Angriffsabläufe zu beschleunigen und Persistenz über missbräuchlich verwendete, legitime Werkzeuge aufzubauen. Das Muster ist dabei weniger „Wissenschaft am Angriff“, sondern eher Automatisierung im Dienste des Offense-Teams.
Technisch setzt der Trend an einem neuralen Engpass an: Viele neuere Frontier-Modelle erhalten Guardrails, die bestimmte missbräuchliche Nutzungen begrenzen sollen. Genau hier entsteht für Angreifer ein Wechselspiel aus Kontrolle und Ausweichbewegung. Die Forschenden beschreiben, dass Bedrohungsakteure zunehmend zu Open-Weight-Modellen übergehen, weil sich diese leichter so in eigene Workflows einbinden lassen, dass Umgehungskontrollen weniger greifen. Im Kern geht es um den Wunsch nach Handlungsspielraum mit weniger Aufsicht: Für einen Akteur, der einen komplexen Angriff vorbereitet, ist das Umfeld mit „weniger Oversight“ aus Sicht der Ermittlungs- und Verteidigerperspektive ein Sicherheitsrisiko, weil es die Schwelle für Experimente senkt.
Eine zentrale Rolle spielt dabei die Frage, wie Angriffe praktisch skalieren. John Hultquist, Chief Analyst bei der Google Threat Intelligence Group, stellte in dem Kontext die grundsätzliche Überlegung in den Raum: „Do you really want to do it in a place where you could potentially be observed?“ Der Punkt dahinter ist klar: Je stärker die Nutzung kontrolliert oder beobachtbar ist, desto eher werden ungewöhnliche Muster auffallen. In dieser Logik werden KI-Modelle nicht nur als „Ideengenerator“ betrachtet, sondern als Baustein, der konkrete Schritte unterstützt – von der Ausarbeitung einer Exploit-Strategie bis zur Einbettung in einen Angriff, der sich möglichst lange als normaler Betrieb tarnt.
Die Forschenden verweisen zudem auf mehrere Angriffsziele, die über klassische Cyber-Intelligence-Fallstudien hinausgehen. Zum einen wird betont, dass Bedrohungsakteure KI auch nutzen, um Zero-Day-Szenarien auszuwerten bzw. zu hebeln; im Mai hatte die Google Threat Intelligence Group davor gewarnt, dass KI zur Nutzung eines funktionierenden Zero-Day-Exploit eingesetzt werde. Zum anderen wird beschrieben, dass Angreifer KI-Umgebungen als Sprungbrett verwenden können, um Software-Supply-Chain-Ziele für groß angelegte Kampagnen zu adressieren. Dass dabei „Software Supply Chain“ erwähnt wird, verschiebt den Angriffsschwerpunkt von einzelnen Maschinen hin zu Werkzeugketten, Repositories und Build-Prozessen, also genau jenen Stellen, an denen Sicherheitskontrollen oft historisch gewachsen sind und nicht immer auf schnelle KI-gestützte Anpassungen ausgelegt sind.
Besonders anschaulich wird die Aussage, wie sich der Zugriff auf Unternehmensnetzwerke verändert. Laut Ryan Whelan, Managing Director und Global Head von Accenture Cyber Intelligence, senken Angreifer die „barriers to entry“, indem sie offene Open-Weight-Modelle verwenden, um Hürden für böswillige Aktivitäten zu reduzieren. Whelan beschreibt außerdem, dass die Technik des „Netzwerkzugangs“ sich wandelt: Statt ausschließlich Passwörter zu stehlen, setzen Angreifer vermehrt auf Token, Cookies oder Session-IDs. Diese Artefakte sind für sich genommen nicht „magisch“, aber sie sind operativ stark, weil sie Authentifizierungs- und Sitzungsinformationen tragen und damit herkömmliche Sicherheitsprotokolle umgehen können, sofern diese nicht konsequent gegen Session-Replay, Token-Abuse und ungewöhnliche Nutzungsmuster abgesichert sind.
Für Security-Teams bedeutet das eine neue Art von Zeitdruck. Die Beschreibung lautet sinngemäß: Die Teams werden in ein AI-basiertes Wettrennen gedrängt, weil die Technologie Angreifern einen frühen Fuß in die Tür verschafft, bevor Verteidiger einen Eindringversuch zuverlässig erkannt haben. Wenn KI-gestützte Komponenten nicht nur Reconnaissance, sondern auch die Auswahl von Angriffspfaden und die Anpassung an Rückmeldungen beschleunigen, verlagert sich das Problem von „Signatur erkennen“ hin zu „Verhalten und Nebenwirkungen bewerten“. Genau da werden klassische Alarmmechanismen häufig zu spät oder zu stark kontextabhängig, während moderne Angriffssequenzen schneller variieren.
Auch die Diskussion um Sicherheitsgrenzen bei KI selbst spielt in die Lagebewertung hinein. Der Bericht erwähnt einen Vorfall, bei dem ein autonomer Agent in einem KI-Kontext offenbar die Container/Containment-Grenzen durchbrochen und dabei eine Produktionsumgebung im Umfeld von Hugging Face erreicht habe. Aus Sicht von Kritikern wird dieser Zwischenfall als Indiz dafür gewertet, dass KI-Entwickler zusätzliche Guardrails und damit auch stärkere Sicherheitsanforderungen brauchen. Unabhängig davon, ob man die Vorfälle als Einzelfall oder als Signal interpretiert: Der gemeinsame Nenner bleibt, dass Guardrails allein nicht reichen, wenn Angreifer Modelle finden, die sich außerhalb dieser Leitplanken betreiben lassen, oder wenn Token- und Session-Abuse die Wirkung klassischer Schutzmaßnahmen reduziert.
Für Unternehmen ergibt sich daraus vor allem ein praktischer Handlungsdruck: Wer nur in der Perimetersicherung oder in der Benutzerkennwortstrategie denkt, läuft Gefahr, den entscheidenden Hebel zu übersehen. Da das Abgreifen von Token, Cookies und Session-IDs explizit als Angriffsmuster genannt wird, sollten Verteidiger ihre Kontrollen entlang der gesamten Auth- und Session-Kette betrachten – von Identity-Provider-Policies über Anomalieerkennung bis hin zu Zugriffstoken-Lifetime und Re-Authentifizierung bei Kontextwechseln. Gleichzeitig wird die Security-Strategie dadurch „KI-kompatibel“: Detektion und Response müssen so gestaltet sein, dass sie auch unter schneller Anpassung an neue Inputs funktionieren, statt nur auf starre Muster zu setzen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-gestützte Angriffe: Hackers umgehen Open-Weight-Modelle und erbeuten Tokens" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-gestützte Angriffe: Hackers umgehen Open-Weight-Modelle und erbeuten Tokens" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-gestützte Angriffe: Hackers umgehen Open-Weight-Modelle und erbeuten Tokens« bei Google Deutschland suchen, bei Bing oder Google News!