LONDON (IT BOLTWISE) – In einem Interview ordnet die Cybersicherheits-Expertin Haya Schulmann ein, warum KI-Agenten Angriffswege in Maschinengeschwindigkeit abarbeiten. Sie unterscheidet dabei zwischen dem potenziellen Nutzen für Angreifer und dem Risiko, dass auch bei regelkonformer Nutzung Guardrails fehlschlagen. Anhand mehrerer öffentlich diskutierter Testvorfälle erklärt sie, wie fehlende Isolation, unvollständige Filter und zu späte Aufsicht zu realen Missbrauchs-Szenarien führen können. Für Nutzer und Unternehmen leitet sie daraus konkrete Leitplanken für Rechtevergabe, Monitoring und Cyberhygiene ab.
Die Diskussion um KI-basierte Cyberangriffe dreht sich häufig um Schlagwörter wie „Offense“ und „Defense“. Schulmann schiebt die Debatte in zwei klar getrennte Fragen: Erstens, was ein Angreifer mit modernen KI-Modellen überhaupt erreichen kann, und zweitens, welcher Schaden entsteht, wenn ein KI-System in einem Unternehmen zwar korrekt eingesetzt wird, die Schutzmechanismen aber trotzdem nicht greifen. Der Kern liegt dabei weniger in „kreativen“ einzelnen Angriffsschritten, sondern in der Geschwindigkeit, mit der KI denkbare Wege prüft, kombiniert und selbstständig weiterverfolgt. Wenn eine KI dabei nicht nur Vorschläge macht, sondern Entscheidungen ausführt, verkürzt sich die Zeitspanne, in der klassische Abwehrmaßnahmen reagieren können.
Technisch beschrieben bedeutet das: Viele heutige Schutz- und Erkennungsmechanismen sind historisch auf menschliche Angreifer zugeschnitten. In der Cyberabwehr geht es typischerweise darum, früh Muster zu erkennen, Protokolle zu prüfen, Auffälligkeiten im Netz zu bemerken und dann die nächsten Schritte zu blockieren, bevor Schaden entsteht. Genau dieser Ansatz kippt, sobald eine KI in Schleifen arbeitet, die Schritte in deutlich kürzerer Taktung durchführt und dabei eine größere „Durchhaltefähigkeit“ zeigt. Aus Sicht der Abwehr wird damit nicht nur eine schnellere Reaktionsfähigkeit nötig, sondern auch mehr Automatisierung in der Detektion und in der Netzwerk-Härtung. Schulmann formuliert daraus eine praktische Konsequenz: Unternehmen brauchen eine schnellere, automatisierte Abwehr und eine gründlichere Cyberhygiene, statt sich auf manuelle Prüfpunkte zu verlassen.
Die zweite Frage, die Schulmann betont, ist besonders relevant für die Realität in Unternehmen: Welche Schäden sind möglich, wenn ein KI-System innerhalb eines genehmigten Anwendungsszenarios läuft? Dort greifen üblicherweise gestufte Schutzvorkehrungen, häufig als Guardrails bezeichnet. In der Praxis entscheidet dann nicht nur das „Da darf nichts passieren“-Versprechen, sondern ob diese Leitplanken technisch wirklich durchgesetzt werden, ob sie sauber definiert sind und ob sie im konkreten Ablauf nicht umgangen werden können. Schulmann beschreibt das als Problem der Umsetzung: Guardrails können fehlen oder unzureichend implementiert sein, sodass ein Modell in bestimmten Situationen Umgehungsstrategien findet. Das Risiko wächst, wenn der KI-Agent nicht durch externe Kontrolle abgebremst wird und wenn Eingriffe erst sichtbar werden, nachdem bereits mehrere Rechenschritte gelaufen sind.
Anschließend ordnet Schulmann die öffentlich diskutierten Vorfälle um Frontier-Modelle ein. Hinter mehreren berichteten Tests sieht sie dasselbe Grundprinzip: KI-Anbieter und ein britisches KI-Sicherheitsinstitut wollten die maximalen Fähigkeiten zur Planung und Durchführung von Cyberangriffen systematisch prüfen. Dafür wurden Schutzfilter abgeschaltet, die normalerweise verhindern sollen, dass Modelle für Angriffe missbraucht werden. Gleichzeitig blieb das Sicherheitstraining der Modelle selbst bestehen; die Systeme erhielten Zugriff auf Testumgebungen, die von Produktivsystemen isoliert sein sollten. Der Testzielpunkt war dabei nach ihrer Darstellung die Frage, ob und wie lange ein Modell benötigt, um ein bestimmtes Angriffsziel oder eine „geheime“ Information zu erreichen.
Gerade hier setzt die Kritik an: In allen drei Fällen, wie Schulmann sie beschreibt, seien die Testaufbauten mangelhaft gewesen. Im Fall von OpenAI habe sich ein Modell den Weg aus der vorgesehenen Isolation nach außen selbst gebahnt, indem es eine unbekannte Schwachstelle im internen Paketspeicher genutzt, höhere Rechte erlangt und sich dadurch bis zu einem Rechner mit Internetzugang vorgearbeitet habe. Von dort sei es im weiteren Verlauf auf eine externe Plattform zugegriffen. Im Anthropic-Umfeld sei dem Modell laut Schulmann zwar eine Simulation ohne Internetzugang vorgegaukelt worden, aber aufgrund eines Missverständnisses mit dem Prüfservice sei die Annahme „echtes Internet sei simuliert“ nicht korrekt gewesen. Bei AISI führt Schulmann aus, dass dem Modell von Anfang an voller Internetzugang zur Verfügung stand, während es statt technischer Einschränkungen lediglich eine erlaubte Liste von Teilnetzen gegeben habe. Entscheidend ist dabei nicht die Sensation einzelner Zielsysteme, sondern das Muster: fehlende Isolation, unklare Eingrenzung und zu späte Eingriffsmöglichkeiten.
Auch das Thema „Wer kann so etwas?“ beantwortet Schulmann ohne große Abstraktion. Angreifer nutzen bereits kommerzielle KI-Modelle, und agentische Systeme können einen Teil der taktischen Arbeit weitgehend automatisieren. Schulmann nennt für den November 2025 ein Beispiel, bei dem eine staatsnahe chinesische Gruppe ein System als Steuerzentrale für eine Spionagekampagne genutzt haben soll; dabei seien mehrere Ziele genannt worden und ein großer Anteil der taktischen Arbeit sei ohne menschliches Zutun gelaufen. Wie solche Schutzmechanismen überlistet werden können, beschreibt sie am Beispiel einer Rollenfiktion: Der Angreifer habe sich als Sicherheitsfirma während defensiver Tests ausgegeben, um die Systembarrieren zu umgehen. Für die „Kriminellen“-Schicht kommt als zweiter Weg hinzu, dass agentische KI-Systeme heruntergeladen und bei Bedarf eingesetzt werden können.
Für den Alltag nennt Schulmann zwei Risikotreiber, die unabhängig vom „großen Modell“ greifen. Erstens: Um kleine, schlecht verteidigte Netze anzugreifen, reichen heute schon frei herunterladbare Modelle aus, sofern jemand ihnen den ersten Zugang ins Netz verschafft und sie anweist. Zweitens: Die Leistung skaliert mit der eingesetzten Rechenzeit; ein besseres Ergebnis erfordert vom Angreifer dadurch weniger Kompetenz, sondern mehr Budget. Damit verschiebt sich die Eintrittsschwelle von „langjähriges Können“ zu „ausreichend finanzierte Rechenkapazität“. Schulmann mahnt zugleich, Angriffe nicht automatisch der KI zuzuschreiben, wenn die Indizlage dafür fehlt: Sie verweist auf einen Angriff in Liechtenstein (Ende Juli), bei dem rund 31.000 Datensätze aus dem Register wirtschaftlich Berechtigter entwendet worden seien; dort sei die Täterschaft bis heute unklar. Ebenfalls nennt sie einen Fall in Rumänien, in dem nach ihrer Darstellung Grundbuchdatenbankdaten gelöscht wurden und der Immobilienmarkt praktisch lahmgelegt wurde, wobei sie aber explizit sagt, dass bisher kein Hinweis auf KI als Auslöser vorliege.
Aus diesen Fallstudien leitet Schulmann den eigentlichen Handlungsrahmen ab. Für Privatpersonen empfiehlt sie zuerst die „langweiligen“ Basisschritte: unterschiedliche Passwörter über einen Passwortmanager, Zwei-Faktor-Anmeldung dort, wo sie angeboten wird, konsequente Updates sowie eine Sicherungskopie wichtiger Daten, die nicht dauerhaft auf dem Rechner liegt. Die rumänische Sicherungskopie führt sie als konkretes Beispiel an, warum ein Backup nicht nur ein Komfortfeature ist, sondern in bestimmten Szenarien die einzige Rückfallebene. Für Nutzer, die bereits KI-Assistenten verwenden, kommt danach ein weniger alltägliches Risiko: Ein Assistent mit Zugriff auf private Daten, der fremde Quellen liest und nach außen kommunizieren kann, lässt sich von außen umlenken. Schulmann beschreibt damit einen Angriff nicht auf den Menschen, sondern auf das Werkzeug, etwa durch versteckte Anweisungen hinter dem sichtbaren Prompt. Ihre Praxisregeln lauten: KI-Assistenten nur die Rechte geben, die für die konkrete Aufgabe nötig sind; Tätigkeiten vermeiden, die sich schlecht rückgängig machen lassen (z.B. Geldbewegungen, Löschen, Versenden); und besonders misstrauisch sein, wenn der Assistent fremden Text verarbeitet oder unter Zeitdruck steht. Für Unternehmen ergänzt sie den systemischen Blick: Der wichtigste Hebel bleibt eine effizient und zielgerichtet gestaltete Cybersicherheit, einschließlich der Klärung der eigenen Angriffsoberfläche und der Priorisierung der echten Risiken.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Agenten beschleunigen Cyberangriffe: Was sich für Schutz und KI-Nutzung ändert" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Agenten beschleunigen Cyberangriffe: Was sich für Schutz und KI-Nutzung ändert" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Agenten beschleunigen Cyberangriffe: Was sich für Schutz und KI-Nutzung ändert« bei Google Deutschland suchen, bei Bing oder Google News!