Autonome KI-Angriffe: Eine neue Herausforderung für die Cybersicherheit

PITTSBURGH / LONDON (IT BOLTWISE) – Die jüngsten Forschungen der Carnegie Mellon University in Zusammenarbeit mit dem KI-Unternehmen Anthropic haben gezeigt, dass große Sprachmodelle in der Lage sind, eigenständig komplexe Cyberangriffe zu planen und durchzuführen.

Die Carnegie Mellon University hat in Zusammenarbeit mit dem KI-Unternehmen Anthropic eine bahnbrechende Studie durchgeführt, die zeigt, dass große Sprachmodelle (LLMs) in der Lage sind, ohne menschliches Eingreifen komplexe Cyberangriffe zu planen und durchzuführen. Diese Forschung wirft ein neues Licht auf die potenziellen Gefahren, die von autonomen KI-Systemen ausgehen können.

Im Rahmen der Studie wurde ein Angriffstoolkit namens Incalmo entwickelt, das die Strategie des berüchtigten Equifax-Datenlecks von 2017 nachbildet. Bei diesem Angriff wurden die Daten von etwa 147 Millionen Kunden kompromittiert, was es zu einem der größten Datenlecks in der Geschichte der USA macht. Incalmo übersetzt die Angriffsstrategie in spezifische Systembefehle, die zur Durchführung der Angriffe verwendet werden.

Brian Singer, der leitende Forscher und Doktorand an der Carnegie Mellon University, erklärte, dass das Ziel der Forschung darin bestand, die Fähigkeit von LLMs zu messen, Angriffe autonom zu planen, ohne menschliche Unterstützung. In neun von zehn getesteten Unternehmensumgebungen gelang es den LLMs, zumindest teilweise erfolgreich zu sein, indem sie beispielsweise sensible Daten exfiltrierten.

Die Forschungsergebnisse zeigen, dass LLMs in der Lage sind, hochrangige strategische Anleitungen für Angriffe zu geben, während eine Kombination aus LLM- und Nicht-LLM-Agenten die niedrigeren Aufgaben wie das Scannen und Ausführen von Exploits übernimmt. Anthropic berichtete im Juni, dass LLMs fünf von zehn Testnetzwerken vollständig kompromittierten und vier weitere teilweise kompromittierten.

Die Wahl des Equifax-Angriffs zur Simulation basierte auf der Verfügbarkeit umfangreicher öffentlicher Informationen darüber, wie der Angriff durchgeführt wurde. Dies ermöglichte es den Forschern, die Effektivität von LLMs in einem realistischen Szenario zu testen.

Die Frage, ob moderne Verteidigungsmaßnahmen in der Lage sind, solche autonomen Angriffe abzuwehren, bleibt offen. Brian Singer äußerte Bedenken darüber, wie schnell und kostengünstig jemand einen solchen Angriff orchestrieren könnte. Er betonte, dass viele aktuelle Cybersicherheitsmaßnahmen auf menschlichen Operatoren beruhen, was möglicherweise nicht ausreicht, um mit maschinellen Zeiten Schritt zu halten.

Um diesen Herausforderungen zu begegnen, erforschen die Wissenschaftler derzeit Verteidigungsmaßnahmen gegen autonome Angriffe sowie KI-basierte autonome Verteidiger. Diese Entwicklungen könnten entscheidend sein, um die Sicherheit in einer zunehmend digitalisierten Welt zu gewährleisten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!