KI in der Cybersicherheit: Chancen und Herausforderungen

LONDON (IT BOLTWISE) – Die Integration von Künstlicher Intelligenz (KI) in die Cybersicherheit bietet sowohl Chancen als auch Herausforderungen. Während einige Anwendungen die Sicherheit verbessern, können andere bestehende Schwachstellen verstärken.

Die Nutzung von generativer KI im Bereich der Cybersicherheit zeigt, wie diese Technologie sowohl zur Verbesserung als auch zur Beeinträchtigung der Sicherheit beitragen kann. Microsoft hat kürzlich eine Reihe von Produkten unter der Marke Security Copilot vorgestellt, die darauf abzielen, Sicherheitsteams bei der Reaktion auf Vorfälle zu unterstützen. Diese Produkte nutzen generative KI, um den Vorfallmanagementprozess zu erweitern und mehr Kontext hinzuzufügen, was den Sicherheitsmitarbeitern ein besseres Verständnis darüber vermittelt, was passiert ist, wo, wann und bei wem. Diese Verbesserung ist zwar echt, aber eher inkrementell als revolutionär.

Einige Experten kritisieren jedoch, dass die Erweiterung bestehender Prozesse durch KI zwar nützlich ist, aber an Ambition fehlt. Es gibt bereits zahlreiche Tools zur Automatisierung gut verstandener Prozesse. Die Variabilität, die generative KI und große Sprachmodelle bieten, wird nicht optimal genutzt. Angesichts der engen Zusammenarbeit von Microsoft mit generativen KI-Unternehmen und seiner beträchtlichen Ressourcen wäre es nur fair, mehr zu erwarten.

Andererseits kann eine zu enthusiastische Nutzung dieser Variabilität zu einer Verschlechterung der Sicherheit führen. Invariant Labs hat kürzlich demonstriert, wie der MCP-Server von GitHub durch einen relativ einfachen Prompt-Poisoning-Angriff private Daten preisgeben kann. Es überrascht kaum, dass schlecht bereinigte Eingaben aus unkontrollierten Quellen riskant sein können. Das Beispiel von GitHub MCP zeigt, dass die Nutzung von generativer KI entweder bestehende schlechte Praktiken festigt oder in einigen Fällen einen Rückschritt darstellt und ganze Klassen suboptimaler Sicherheitspraktiken wieder einführt.

Im Gegensatz dazu nutzt die Wissensmaschine von Crogl das Potenzial von maschinellem Lernen, Retrieval-Augmented Generation (RAG) und großen Sprachmodellen voll aus. Sie geht über die bloße Annotation bestehender Prozesse hinaus und entdeckt durch die Analyse vergangener Vorfalltickets, wie der bestehende Prozess aussieht. Durch die Verbindung anderer Sicherheitssysteme mit der Engine kann Crogl aufdecken, wie eine hochautomatisierte Vorfallreaktion aussehen sollte. Im Gegensatz zu Microsoft Security Copilot kann Crogl die Variabilität der generativen KI nutzen, um einen wahrscheinlich guten Reaktionsplan für neue Vorfalltypen zu entwickeln.

Dies ist nur ein Beispiel für unterschiedliche Ansätze, aber der Schlüssel ist, dass die Technologie selbst nur ein Ermöglicher ist. Während Microsoft und GitHub die Copilot-Marke und KI-Technologie im Allgemeinen als wichtigen Verkaufsfaktor hervorheben, nutzt Crogl die Technologie, um dem Kunden Vorteile zu bieten. LLMs und maschinelles Lernen sind lediglich das Mittel, durch das dem Kunden Vorteile geliefert werden. Microsofts Ansatz und in gewissem Maße auch der von GitHub konzentrieren sich auf die Automatisierung bestehender Praktiken, von denen einige wahrscheinlich gar nicht existieren sollten. Die Automatisierung verfestigt schlechte Praktiken und macht es schwierig, sie zu beseitigen. Crogl zeigt, dass Automatisierung genutzt werden kann, um bessere Wege zu entdecken und diese stattdessen zu implementieren. Dies ist genau das, was die Cybersicherheit dringend benötigt.

Es ist frustrierend, dass so viel Fokus auf die Technologie der LLMs gelegt wird. Die Neuheit der Technologie kann nur begrenzt die Einschränkungen dessen überwinden, was ein Produkt liefern kann. Wenn der Markt reift, erwarten wir, dass Unternehmen, die verstehen, wann der Einsatz von generativer KI sinnvoll ist und, was entscheidend ist, wann nicht, viel größeren Erfolg haben werden als diejenigen, die von ihrem neuen Spielzeug fasziniert bleiben. Kunden benötigen Ergebnisse, nicht nur Produkte. Hoffentlich wird sich der Fokus nach dem Abklingen der aktuellen KI-Aufregung dorthin verlagern.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!