Wie KI-Agenten die Arbeit in Sicherheitszentren verändern könnten

NATIONAL HARBOR / LONDON (IT BOLTWISE) – Die Integration von Künstlicher Intelligenz in Sicherheitsoperationen verspricht eine tiefgreifende Transformation, doch Experten betonen die unverzichtbare Rolle des Menschen bei der Überwachung und Steuerung dieser Systeme.

Die Einführung von Künstlicher Intelligenz (KI) in Sicherheitsoperationen hat das Potenzial, die Arbeitsweise von Sicherheitszentren grundlegend zu verändern. Doch trotz der beeindruckenden Fortschritte in der Automatisierung bleibt die menschliche Beteiligung unerlässlich, um die Reaktionen auf Cyberangriffe effektiv zu managen und die autonomen Systeme zu überwachen, die zunehmend in diesen Prozessen eingesetzt werden.

Auf der Gartner Security and Risk Management Summit wurde deutlich, dass KI-Agenten viele repetitive und komplexe Aufgaben in Sicherheitszentren automatisieren können. Dennoch stoßen sie an Grenzen, wenn es darum geht, einzigartiges menschliches Wissen oder maßgeschneiderte Netzwerkkonfigurationen zu verstehen. Experten betonten, dass die Technologie zwar die Arbeit von Cyberverteidigern erleichtern kann, aber noch weit davon entfernt ist, erfahrene Menschen in Sicherheitszentren zu ersetzen.

Hammad Rajjoub von Microsoft hob hervor, dass KI bei der Bewältigung der zunehmenden Geschwindigkeit und Komplexität von Angriffen helfen kann. Er stellte die rhetorische Frage, was besser sei, um in maschineller Geschwindigkeit zu verteidigen, als KI selbst. Diese Technologie kann bereits bei der Automatisierung komplexer Suchanfragen, der Codeerstellung und der Zusammenfassung von Vorfallberichten für nicht-technische Führungskräfte unterstützen.

Dennoch gibt es Risiken bei der Automatisierung dieser Aktivitäten. Es ist wichtig, dass Sicherheitszentren KI-generierten Code mit denselben robusten Testverfahren überprüfen, die auch für von Menschen geschriebenen Code angewendet werden. Auch die von KI erstellten Zusammenfassungen müssen von Mitarbeitern überprüft werden, um sicherzustellen, dass keine fehlerhaften Informationen an Entscheidungsträger weitergegeben werden.

In der Zukunft könnte KI sogar in der Lage sein, die Untersuchung und Behebung von Eindringlingen zu automatisieren. Derzeit konzentrieren sich die meisten KI-Startups im Sicherheitsbereich darauf, Alarme zu analysieren und die kognitive Belastung der Menschen zu reduzieren. Anton Chuvakin von Google Cloud betonte jedoch, dass dies nur ein sehr enger Ansatz für das Problem sei und dass er sich in der Zukunft Maschinen wünsche, die bestimmte Probleme selbstständig beheben und lösen können.

Einige IT-Profis könnten sich vor der Vorstellung fürchten, KI auf ihre individuell angepassten Computersysteme loszulassen, aber sie sollten sich auf eine Zukunft vorbereiten, die genau so aussieht. Rajjoub prognostizierte, dass KI-Agenten innerhalb von sechs Monaten in der Lage sein werden, eigenständig zu argumentieren und verschiedene Werkzeuge im Netzwerk automatisch einzusetzen, um die von ihren menschlichen Betreibern festgelegten Ziele zu erreichen.

Mit der zunehmenden Übernahme von Aufgaben durch KI-Agenten wird die Überwachung dieser Systeme jedoch komplizierter. Dennis Xu von Gartner stellte die Frage, ob unsere Mitarbeiter wirklich mit dem Tempo mithalten können, in dem Agenten entwickelt werden. Er schlug vor, dass wir Agenten zur Überwachung anderer Agenten einsetzen müssen, was jedoch noch in der Zukunft liegt.

Viele Analysten raten zur Vorsicht bei der Einführung von KI in Sicherheitszentren. Chuvakin beschrieb mehrere Kategorien von Aufgaben, die zwar plausibel, aber riskant sind, und andere, die er für unmöglich hält, dass KI sie in naher Zukunft bewältigen kann. Zu den riskanten Aufgaben gehören das autonome Patchen von Altsystemen, das Reagieren auf Eindringlinge und die Einhaltung von Vorschriften.

KI wird niemals Menschen in Sicherheitszentren ersetzen können, da menschliches Urteilsvermögen ein wesentlicher Bestandteil der Analyse und Reaktion auf Sicherheitsvorfälle ist. Viele der Aktivitäten in einem echten Sicherheitszentrum basieren auf „Stammeswissen“, das nicht formal dokumentiert ist. KI wird Schwierigkeiten haben, diese Aktivitäten auszuführen, da sie oft Maßnahmen empfiehlt, die für die spezifischen Netzwerke, in denen sie arbeiten, keinen Sinn ergeben.

In der Zukunft werden Menschen nicht nur mit KI-Agenten zusammenarbeiten, sondern auch diese überwachen müssen. Es ist wichtig, dass die Aktionen der KI-Agenten überprüfbar und durch Unternehmensrichtlinien kontrolliert werden. Vertrauen und Überprüfung waren zentrale Themen in den Diskussionen über KI auf der Gartner-Konferenz.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!