LONDON (IT BOLTWISE) – Google warnt, dass Bedrohungsakteure KI-Agenten zunehmend nicht mehr nur für Prompts nutzen, sondern für autonome Multi-Agent-Frameworks zur Ausnutzung von Sicherheitslücken. Laut Bericht automatisieren sie dabei die Analyse von Patch-Unterschieden, um n-day-Vektoren schneller einsatzbereit zu machen. Zusätzlich geht es um Missbrauch von KI-Services, etwa über LLMjacking durch das Abgreifen von Credentials und Cloud-Ressourcen. Damit verkürzt sich die Zeitspanne zwischen Patch-Veröffentlichung und aktiver Ausnutzung deutlich.

Google stellt in einem Bericht zur Bedrohungslandschaft heraus, dass sich der KI-Missbrauch von reinem „Prompting“ hin zu agentenbasierten Angriffs-Workflows verschiebt. Im Fokus stehen autonome Multi-Agent-Frameworks, die mehrere Teilaufgaben einer Intrusion nacheinander oder parallel abarbeiten können. Google ordnet diese Entwicklung als Paradigmenwechsel ein: Angriffe laufen „auf Maschinengeschwindigkeit“, weil unterschiedliche Angriffspfad-Bausteine verkettet werden, selbst wenn die zugrundeliegenden Mechanismen der Sicherheitslücke technisch ähnlich bleiben. Für Organisationen bedeutet das, dass Reaktionszeiten weniger ein reines Prozessproblem sind, sondern zunehmend von der Geschwindigkeit abhängen, mit der Angreifer neue Informationen in operative Schritte übersetzen.
Technisch konkret beschreibt Google, wie Angreifer LLMs und agentische Frameworks einsetzen, um Patches systematisch rückzuentwickeln. Der entscheidende Hebel liegt in der automatisierten Differentialanalyse: Statt manuell zu prüfen, welche Code-Änderungen eine Schwachstelle entschärfen, lassen sich Patch-Versionen gegen frühere Zustände vergleichen. Daraus können Angreifer ableiten, wo die verwertbaren Restbedingungen liegen, und anschließend die Lücke schneller „weaponizen“. Laut Bericht ist dieses Muster bereits im Kontext von PaperCut NG/MF-Problemen im September beobachtet worden, wobei die Kernaussage nicht nur die Abkürzung der Analyse ist, sondern das Zusammenpressen mehrerer Schritte zu einem pipeline-fähigen Ablauf.
Daneben geht es um den Missbrauch von Open-Source-Strukturen, die normalerweise für legitimes Testen und Validieren von Sicherheitskonzepten gedacht sind. Google nennt hierbei agentische Penetration-Testing-Frameworks, die laut Bericht dabei helfen sollen, einzelne Phasen und Aufgaben während eines Live-Angriffs zu automatisieren. Ein weiterer Punkt sind Werkzeuge und Dienste wie ZeroHollow, das als Inferenz- und Routing-Service für die Ausnutzung genutzt werden kann, sowie Agent Zero, ein Open-Source-Agent-Framework, das autonome Code-Ausführung und dynamische Tool-Generierung unterstützt. Das Zusammenspiel ist für Verteidiger besonders relevant: Selbst wenn ein einzelnes Tool bekannt ist, wird die tatsächliche Gefahr durch die Orchestrierung mehrerer Komponenten zu einem „Systemproblem“.
Für die Angriffsökonomie ist außerdem die Lücke zwischen Patch-Verfügbarkeit und aktiver Ausnutzung entscheidend. Google beschreibt, dass Bedrohungsakteure laborintensive Arbeiten wie Vulnerability Analysis und das Erstellen von Proof-of-Concepts über LLM-getriebene Pipelines automatisieren können. Praktisch heißt das: Je schneller sich aus veröffentlichten Patch- oder Preview-Artefakten eine verwertbare Variantenmenge ableiten lässt, desto kleiner wird das Zeitfenster, in dem Unternehmen noch wirksam patchen oder anderweitig mitigieren können. Hier setzt auch die Idee an, n-day-Schwachstellen rasch zu „bewaffnen“, indem der Rechercheaufwand auf einen überschaubaren Satz von Quelldaten reduziert wird – etwa durch den Abgleich von Quellcode-Versionen und durch das systematische Auswerten von Release Notes, Security Research und POC-Beispielen.
Parallel zur Exploit-Entwicklung beschreibt Google einen weiteren Missbrauchspfad: Angreifer zielen auf KI-Infrastruktur ab, um profitabel zu monetarisieren. Genannt werden LLMjacking-Angriffe, bei denen Angreifer LLM-Credentials und Cloud-Ressourcen aus kompromittierten Unternehmensumgebungen stehlen, um den Zugriff anschließend über Untergrunddienste wie APIMart und JetNight weiterzuverkaufen, umgerechnet als „günstiger“ als der direkte Zugang. Google verknüpft das mit dem Begriff LLM mixers, also einer Zwischenverwertung von Ressourcen, die eigentlich für autorisierte KI-Workloads gedacht sind. Für Sicherheitsverantwortliche ist das eine andere Risiko-Klasse als klassische Malware: Der Abfluss betrifft nicht nur Daten oder Rechenzeit, sondern potenziell auch Systemintegrität und die korrekte Kosten- sowie Nutzungsabrechnung.
Auch beim Social-Engineering sieht Google eine Beschleunigung. Genannt wird eine chinesischsprachige Phishing-Plattform namens Jieyou, die ein LLM-Chatbot-Feature integriert haben soll, mit dem Kunden Phishing-Panels konfigurieren und bestehende Vorlagen über natürliche Sprachkommandos anpassen können, ohne zwingend technische Detailkenntnisse mitzubringen. Google ordnet das als Trend ein, bei dem PhaaS-Anbieter LLMs als modulare „Force Multiplier“ einsetzen: Statt Payloads manuell umzuschreiben, können Affiliates über den Chatbotschritt die konkreten Ködertexte und Interfaces zur Laufzeit variieren. In der Summe senkt das die Einstiegshürde für weniger erfahrene Angreifer, erhöht aber zugleich den Bedarf an schneller Detektion von ungewöhnlichen KI-Nutzungsmustern, ungewöhnlichen OAuth- oder Token-Realms sowie an der Absicherung der Supply-Chain rund um Agenten und Integrationen.
In der praktischen Konsequenz sollten Unternehmen nicht nur „den Patch“ betrachten, sondern die Pipeline danach. Wenn Differentialanalyse und POC-Automatisierung zunehmend agentisch ablaufen, reicht eine einmalige Schwachstellenbewertung oft nicht mehr als alleinige Kontrolle. Ebenso wichtig wird es, Prozesse zur Verifikation von Patch-Rollouts zu beschleunigen, Telemetrie über anomal genutzte KI-Services zu überwachen und Zugriffspfade zu minimieren, über die gestohlene LLM-Credentials in externe Proxies abfließen können. Die Entwicklung, die Google beschreibt, verbindet dabei zwei Ebenen: offensive KI-Agenten, die aus Code-Änderungen operative Schritte ableiten, und monetarisierende Angriffe, die KI-Ressourcen selbst zum Ziel machen. Genau diese Kopplung macht die Bedrohung so schwer in isolierte Abwehrmaßnahmen zu zerlegen.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!

- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Google warnt vor KI-Agenten für Exploit-Chainings und LLMjacking" für unsere Leser?


#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Google warnt vor KI-Agenten für Exploit-Chainings und LLMjacking" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Google warnt vor KI-Agenten für Exploit-Chainings und LLMjacking« bei Google Deutschland suchen, bei Bing oder Google News!