KI-gestützte Sicherheit: Neue Wege in der Cybersicherheit

LONDON (IT BOLTWISE) – Die fortschreitende Entwicklung der Künstlichen Intelligenz eröffnet neue Möglichkeiten in der Cybersicherheit, sowohl für Angreifer als auch für Verteidiger. Ein bemerkenswertes Beispiel ist das Startup RunSybil, das mit seinen KI-Agenten neue Maßstäbe im Bereich der Sicherheitsüberprüfung setzt.

Die Nutzung von KI in der Cybersicherheit ist ein zweischneidiges Schwert. Einerseits ermöglicht sie Angreifern, Schwachstellen effizienter zu identifizieren und auszunutzen, andererseits bietet sie Verteidigern neue Werkzeuge zur Abwehr solcher Angriffe. RunSybil, ein innovatives Startup, hat eine Reihe von KI-Agenten entwickelt, die in der Lage sind, Sicherheitslücken in Webanwendungen zu erkennen und zu analysieren. Diese Agenten arbeiten zusammen, um Schwachstellen zu identifizieren, die herkömmliche Scanner möglicherweise übersehen. Ein orchestrierender Agent namens Sybil koordiniert spezialisierte Agenten, die auf einer Kombination aus maßgeschneiderten Sprachmodellen und Standard-APIs basieren. Im Gegensatz zu traditionellen Scannern, die nach bekannten Problemen suchen, operiert Sybil auf einer höheren Ebene und nutzt künstliche Intuition, um Schwachstellen zu erkennen. Dies könnte beispielsweise bedeuten, dass ein Gastbenutzer privilegierten Zugriff hat, was ein regulärer Scanner übersehen könnte. Ariel Herbert-Voss, CEO und Mitbegründer von RunSybil, betont, dass die zunehmenden Fähigkeiten von KI-Modellen sowohl offensive als auch defensive Cybersicherheit revolutionieren werden. Die Mission von RunSybil ist es, die nächste Generation von Sicherheitstests zu entwickeln, um allen zu helfen, mit den technologischen Fortschritten Schritt zu halten. Die von Sybil angegriffene Website wurde kürzlich erstellt, um neue KI-Forschungspapiere zu sortieren. Die Seite, genannt Arxiv Slurper, besteht aus einem Backend-Server, der auf Arxiv zugreift, wo die meisten KI-Forschungen veröffentlicht werden. Sie durchforstet die Abstracts der Papiere nach bestimmten Schlüsselwörtern. Obwohl die Seite noch in Arbeit ist, war es beeindruckend, wie einfach es war, etwas potenziell Nützliches zusammenzustellen. Ein zentrales Problem bei solchen Websites ist jedoch die Unsicherheit über mögliche Sicherheitslücken. Als Herbert-Voss über Sybil sprach, fragte ich, ob es möglich sei, meine neue Seite auf Schwachstellen zu testen. Glücklicherweise fand Sybil aufgrund der Einfachheit meiner Seite keine Schwachstellen. Herbert-Voss erklärt, dass die meisten Schwachstellen durch komplexere Funktionen wie Formulare, Plugins und kryptografische Features entstehen. Wir beobachteten, wie dieselben Agenten eine Dummy-E-Commerce-Website mit bekannten Schwachstellen angriffen. Sybil erstellte eine Karte der Anwendung, untersuchte Schwachstellen durch Parameter-Manipulation und testete Randfälle. Dabei wurden Erkenntnisse verknüpft, Hypothesen getestet und eskaliert, bis etwas Bedeutendes gebrochen wurde. In diesem Fall identifizierte Sybil Wege, die Seite zu hacken. Im Gegensatz zu einem Menschen führt Sybil Tausende dieser Prozesse parallel aus, übersieht keine Details und hört nicht auf. Das Ergebnis ist etwas, das wie ein erfahrener Angreifer agiert, aber mit maschineller Präzision und Skalierbarkeit arbeitet. Lujo Bauer, ein Informatiker an der Carnegie Mellon University, der sich auf KI und Computersicherheit spezialisiert hat, sieht in KI-gestützten Penetrationstests eine vielversprechende Richtung, die erhebliche Vorteile für die Verteidigung von Systemen bringen kann. In einer kürzlich durchgeführten Studie fanden Bauer und seine Kollegen heraus, dass die fortschrittlichsten kommerziellen Modelle zwar keine Netzwerkangriffe durchführen konnten, aber ein System entwickelten, das hochrangige Ziele wie das Scannen eines Netzwerks oder das Infizieren eines Hosts setzte, was ihnen ermöglichte, Penetrationstests durchzuführen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!