KI als Bedrohung und Verteidigung in der Cybersicherheit

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – Die Rolle der Künstlichen Intelligenz (KI) in der Cybersicherheit wird zunehmend komplexer und entscheidender. Auf der RSA-Konferenz 2025 in San Francisco, die über 40.000 Fachleute aus den Bereichen Cybersicherheit und Technologie zusammenbrachte, wurde deutlich, dass KI sowohl als Bedrohung als auch als Verteidigungsmittel fungiert.

Die Künstliche Intelligenz (KI) verändert die Cybersicherheit grundlegend und stellt sowohl eine Bedrohung als auch eine Verteidigung dar. Auf der RSA-Konferenz 2025 in San Francisco, die über 40.000 Fachleute aus den Bereichen Cybersicherheit und Technologie zusammenbrachte, wurde deutlich, dass KI sowohl als Bedrohung als auch als Verteidigungsmittel fungiert. Die Diskussionen über die Rolle der agentischen KI zeigten, wie tief KI in die Zukunft der Cyberoperationen eingebettet ist. Während KI die Bedrohungen im Cyberbereich schnell vorantreibt, gehen Organisationen vorsichtiger vor, um die Vorteile und Risiken der neuen Technologie auszugleichen und mit der zunehmenden Raffinesse der Angreifer Schritt zu halten.

Die Cybersicherheitsbranche wird von zwei Wachstumsmodi profitieren: Sicherheitsverantwortliche und Cyber-Risiko-Experten setzen auf die nächste Generation von KI-gestützten Sicherheitstechnologien. Gleichzeitig kämpfen viele große Unternehmen noch mit den Grundlagen wie IT-Asset-Management, Schwachstellenmanagement und Identitäts- und Zugriffsmanagement. Diese müssen ihre Bemühungen verstärken, um mit der Entwicklung Schritt zu halten.

KI verändert die Bedrohungslandschaft rasant. Sie beschleunigt die Geschwindigkeit von Cyberangriffen, wobei die Ausbruchszeiten oft unter einer Stunde liegen. Die Fähigkeit von Hackern, KI-Tools zu nutzen, um überzeugende Phishing-E-Mails, gefälschte Websites und sogar Deepfake-Videos zu erstellen oder bösartige Eingabeaufforderungen oder Codes zu injizieren, ermöglicht es Cyberkriminellen, personalisierte, realistische Nachrichten und Methoden zu entwickeln, die traditionelle Erkennungsmechanismen umgehen. Dies geschieht in einem beispiellosen Ausmaß.

Böswillige Akteure können auch KI-Modelle, die von Unternehmen verwendet werden, waffenfähig machen und vergiften, was Bedenken hinsichtlich der Modellgenauigkeit und der Ergebnisse aufwirft. Ein häufiges Thema war die Bedeutung von Retrieval Augmented Generation (RAG)-basierten Anwendungen, das heißt, die Sicherung von RAG-Workflows zur Risikominderung bei der Datenabfrage und die Gewährleistung der korrekten Informationen, die zum Aufbau von Systemen verwendet werden.

KI ermöglicht es Angreifern auch, produktiver zu werden und ihre Strategien in Echtzeit zu verfeinern. Beispielsweise können maschinelle Lernalgorithmen die Verteidigungsmaßnahmen einer Organisation analysieren und Angriffsmethoden anpassen, um Schwachstellen auszunutzen. Social-Engineering-Taktiken wie die Nachahmung und das Spear-Phishing sind effektiver geworden, was es Organisationen zunehmend erschwert, diese Bedrohungen zu identifizieren und zu verhindern. Organisationen müssen fortschrittliche Verteidigungsmaßnahmen ergreifen, um diesen KI-gesteuerten Angriffen entgegenzuwirken.

Während KI ein mächtiges Werkzeug für Angreifer ist, ist sie auch ein Game-Changer für die Cybersicherheitsverteidigung. Organisationen nutzen KI, um ihre mittlere Zeit zur Erkennung, Reaktion und Wiederherstellung zu verkürzen und den fortschrittlichen Angreifern einen Schritt voraus zu sein. Defensive KI-Systeme können große Datenmengen in Echtzeit analysieren, Kontext über Silos hinweg bereitstellen, Anomalien und potenzielle Verstöße identifizieren, bevor sie eskalieren. Beispielsweise kann KI ungewöhnliche Anmeldemuster erkennen, Malware rückentwickeln, verdächtige Netzwerkaktivitäten kennzeichnen und sogar potenzielle Schwachstellen basierend auf historischen Daten vorhersagen.

Die KI-gesteuerte Automatisierung verändert auch die Art und Weise, wie Organisationen ihre Cybersicherheitsressourcen zuweisen. Durch die Automatisierung von Aufgaben mit geringem Risiko mit KI-Agenten, wie z.B. der routinemäßigen Systemüberwachung und Compliance-Prüfungen, können Organisationen ihre Teams von Routineaufgaben entlasten, um sich auf Bedrohungen mit hoher Priorität zu konzentrieren. Zielgerichtete Automatisierung verbessert nicht nur die Effizienz, sondern verbessert auch das gesamte Risikomanagement.

Parallel dazu wird erwartet, dass agentische KI die Automatisierung von Security Operations Centers beschleunigt, in denen KI-Agenten bald in einer halbautonomen Weise neben Menschen arbeiten könnten, um Aufgaben wie Alarmtriage, Untersuchung, Reaktionsmaßnahmen oder Bedrohungsforschung zu identifizieren, zu durchdenken und dynamisch auszuführen. Darüber hinaus werden KI-gestützte Werkzeuge zur Bekämpfung von Ransomware eingesetzt, einer der allgegenwärtigsten Bedrohungen, mit denen Unternehmen heute konfrontiert sind.

Die Integration von KI in Cybersicherheitslösungen revolutioniert, wie Organisationen ihre Systeme und Daten schützen. Mehr als 90 Prozent der KI-Fähigkeiten in der Cybersicherheit werden voraussichtlich von Drittanbietern bereitgestellt, was es Unternehmen erleichtert, hochmoderne Lösungen zu übernehmen, während sie ihren bestehenden Sicherheitsstack aufrüsten. KI wird in Werkzeuge wie Sicherheitsstatusmanagement, Zero-Trust-Fähigkeiten, SASE und Identität eingebettet. Die Integration von KI in bestehende Cybersicherheitsprodukte wird die Benutzer dabei unterstützen, sich mit dem Technologiewechsel wohler zu fühlen.

Für viele Organisationen hängt die KI-Einführung von kontinuierlichen Fortschritten in den Grundlagen ab: zu jeder Zeit zu wissen, wer, was, wo und wann im Unternehmens-Technologieumfeld. Diese Komplexitäten sind sehr real – Multi-Cloud, eine heterogene Netzwerktopografie, häufige Fusionen und Übernahmen und nicht-menschliche Identitäten – um nur einige zu nennen. Wissen und Kontrolle über das Umfeld zu haben, ist eine Voraussetzung, um ein KI-Sicherheitssystem zu ermöglichen. Ohne dies wird die Sicherheits-KI keine Mission haben, um das Umfeld zu schützen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!