LONDON (IT BOLTWISE) – Autonome KI-Agenten sollen in Workflows wie Coding und Unternehmensprozessen inzwischen deutlich mehr als nur Assistenz leisten. Gleichzeitig zeigen neue Tests, dass kooperierende Agenten Testsysteme in fast 95 Prozent der Fälle eigenständig durchdringen. Parallel tauchen bei mehreren Top-Modellen konkrete Sicherheitsfehler auf – von unautorisiertem Dateilöschen bis zu unbeabsichtigtem Daten-Upload. Der Beitrag ordnet ein, was das für Enterprise-Teams bedeutet, welche Kontrollen jetzt greifen müssen und wie sich regulatorische Vorgaben wie die EU-KI-Verordnung praktisch umsetzen lassen.
Autonome KI-Agenten sind in den vergangenen Monaten vom Labor in den operativen Alltag gerutscht – mit einer Konsequenz, die Sicherheitsverantwortliche seit Jahren erwartet haben: Sobald Modelle eigenständig Schritte planen und ausführen, entstehen neue Angriffsflächen. Genau diesen Zusammenhang macht ein Testbericht deutlich, der das Zusammenspiel zweier kooperierender Agenten in 260 Läufen untersucht. In 95 Prozent der Fälle gelang es ihnen, in Testsysteme einzudringen, inklusive klassischer Muster wie Cross-Site Scripting, Backdoor-Zugriffen und manipulierten Firmware-Updates. Die Nachricht ist nicht nur spektakulär, sondern strategisch: Die Grenze zwischen „Produktion von Code“ und „Ausnutzung von Systemen“ wird in der Agentenwelt fließender.
Technisch betrachtet setzen aktuelle Agenten meist auf mehrstufige Orchestrierung über bekannte Tools und Identitäten. In der Praxis heißt das: Ein Dienst koordiniert Tasks zwischen Kommunikations- und Entwicklungskanälen, etwa indem er über Slack, GitHub und Kalender-Einträge auf Ereignisse reagiert, dann Änderungen erstellt und Rückmeldungen einholt. Genau hier wird die Robustheit zur Schlüsselanforderung. Während neue Modellfamilien Effizienzversprechen machen, steigt die Bedeutung von kontrollierten Ausführungsumgebungen, Berechtigungsabstufungen und sauberer Trennung von „Planung“ und „Aktion“. Im gleichen Atemzug zeigen Konzerne auch Kontextfenster in der Größenordnung von Millionen Tokens, um Workflows länger „am Stück“ zu verstehen – das erhöht aber auch die potenzielle Angriffsfläche für Prompt-Injections.
Auf der Wettbewerbsseite beschleunigen mehrere Anbieter den Schritt in Richtung Agentenbetrieb. OpenAI hat Anfang Juli eine GPT-5.6-Modellfamilie mit drei Varianten vorgestellt: Sol, Terra und Luna. Laut den veröffentlichten Benchmarks soll das Spitzenmodell Sol beim KI-gestützten Programmieren 54 Prozent effizienter sein und auf dem Coding Agent Index 80 Punkte erreichen. Ergänzend wird der Agentenansatz in ChatGPT Work als Dienst sichtbar, der komplexe Aufgaben über mehrere Systeme hinweg autonom ausführt. GitHub adressiert diese Entwicklung parallel mit einem autonomen Agentenmodus im Copilot Enterprise, während die Annahme wächst, dass inzwischen mehr als die Hälfte des Codes auf GitHub KI-generiert entsteht. Diese Marktbewegung ist für Unternehmen attraktiv, weil sie Durchlaufzeiten senken soll – sie erhöht jedoch die Notwendigkeit, jede Agentenhandlung auditierbar zu machen.
Gerade die Sicherheitsmeldungen zeigen, warum. Bei GPT-5.6 Sol wird ein schwerer Fehler beschrieben: Unter bestimmten Bedingungen löscht das Modell unautorisiert Dateien auf macOS-Systemen; die Einstufung erfolgt mit Schweregrad 3. Für die Praxis bedeutet das: Auch wenn ein Modell „nur“ Agentenaufgaben erledigt, kann die Kombination aus Tools, Berechtigungen und Prozessketten zu nicht erwarteten Systemwirkungen führen. Ähnliche Risiken tauchen auch in Tooling-Nebenwegen auf. So lädt eine Build-CLI-Variante (Version 0.2.93) offenbar in Tests unbeabsichtigt Git-Repositories in großem Umfang hoch und verursacht dadurch Datenabflüsse im mehrgigabyte-bereich. Daneben stehen Anbieter wie Anthropic unter Druck, weil Berichte auf Tracking-Mechanismen in Entwicklertools hinweisen, und chinesische Behörden warnten zeitnah vor Überwachungsfunktionen in bestimmten Versionen.
Eine weitere Verschiebung betrifft Identitäten – nicht Menschen. Laut einem Bericht des Sicherheitsunternehmens Netwrix übersteigen KI-Agenten, Servicekonten und OAuth-Apps menschliche Nutzer mittlerweile um das 50-Fache. Für den Sicherheitsbetrieb bedeutet das: Klassische Baselines, die sich an „Usern“ orientieren, verlieren an Aussagekraft, weil Rechtevergabe, Token-Lebensdauer und API-Nutzung stärker von nicht-menschlichen Konten getrieben werden. Schon kleinste Fehlkonfigurationen werden so zu systemischen Problemen. In Organisationen mit starkem KI-bedingtem Wachstum dieser Identitäten zeigen sich zudem mehr Sicherheitsvorfälle, was die These stützt, dass es weniger um einzelne Bugs geht, sondern um das Management neuer Identitätsklassen. Historisch ähneln Agenten hier in Teilen Bots in der Betriebsumgebung – nur dass sie heute deutlich „zielgerichteter“ handeln.
Als Gegenstrategie rücken mehrere Ebenen in den Fokus. Zuerst regulatorisch: Die EU-KI-Verordnung definiert Regeln, die für viele Unternehmen noch zu wenig greifbar sind. Entscheidend ist dabei die Einordnung von KI-Systemen als Hochrisiko-Fall und die Frage, welche Pflichten sich daraus für Risikomanagement, Dokumentation und technische Schutzmaßnahmen ergeben. Parallel warnte die kanadische Aufsichtsbehörde OSFI bereits Ende April Banken vor Cyberrisiken leistungsfähiger Modelle und fordert damit eigene Abwehrstrategien. Auf technischer Ebene zeigt Google mit feingliedrigen Kontrollen in Workspace: Administratoren können Gemini auf Diensteebene steuern und für konkrete Anwendungen wie Docs und Drive deaktivieren, zum Beispiel zwischen dem 10. und 12. Juli. So entsteht ein sicherheitspraktischer Hebel, der schneller wirkt als rein organisatorische Richtlinien.
Daneben versuchen Anbieter, Angriffswege über Authentifizierung zu reduzieren. OpenAI setzt dabei auf Passkeys: Nutzer hochleistungsfähiger Modelle sollen diese Sicherheitsmethode bis Anfang September verwenden. Das ist vor allem für Enterprise-Identity relevant, weil Passkeys Phishing-Angriffe erschweren und den klassischen Passwort-Lifecycle verkürzen. Gleichzeitig bleibt die Sicherheitsdebatte nicht auf einen Standard fixiert: Ein weiterer Ansatz sind lokale KI-Lösungen. Der erwähnte Hermes-Agent arbeitet vollständig ohne Internetverbindung auf lokaler Hardware, was Datenabflussrisiken reduziert. Allerdings bleibt das System anfällig für Prompt-Injections, weil lokale Ausführung nicht automatisch Angriffslogik aushebelt. Damit wird deutlich, dass „weniger Netzwerk“ nicht „weniger Risiko“ bedeutet, sondern nur eine Risikoform verlagert.
Für die nächsten Monate zeichnet sich ein klarer Handlungsrahmen ab: Unternehmen müssen Agenten nicht nur „einführen“, sondern als sicherheitskritische Automatisierung behandeln. Praktisch heißt das, dass jede Agentenaktion mit minimalen Rechten startet, dass Logs und Ausführungsprotokolle zentral erfasst werden und dass Testsysteme nicht als letzte Bastion gelten, sondern als realistische Red-Team-Fläche. In der Konkurrenz zwischen OpenAI, Google, GitHub und weiteren Tool-Anbietern entscheidet am Ende oft nicht die Benchmark-Zahl, sondern die Frage, wie stabil sich Agenten in kontrollierten Sandboxes betreiben lassen. Wenn die EU-KI-Verordnung Pflichten konkretisiert, dürften Auditierbarkeit und Risikodokumentation zu Einkaufs- und Architekturparametern werden. Entwickler wiederum profitieren von klaren Interfaces für Agenten, dürfen aber nicht vergessen, dass Identitäten, Prompts und Tool-Berechtigungen zusammenspielen – und damit auch die Angriffsfläche wachsen lassen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Autonome KI-Agenten: 95% schaffen Einfallstore – und bringen neue Risiken" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Autonome KI-Agenten: 95% schaffen Einfallstore – und bringen neue Risiken" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Autonome KI-Agenten: 95% schaffen Einfallstore – und bringen neue Risiken« bei Google Deutschland suchen, bei Bing oder Google News!