CTIBench: Ein neuer Maßstab für KI in der Cybersicherheit

ROCHESTER / LONDON (IT BOLTWISE) – Die Entwicklung von Künstlicher Intelligenz (KI) schreitet unaufhaltsam voran, und mit ihr die Notwendigkeit, ihre Fähigkeiten in kritischen Bereichen wie der Cybersicherheit zu bewerten. Forscher am Rochester Institute of Technology (RIT) haben mit CTIBench ein innovatives Werkzeug geschaffen, das genau diese Aufgabe übernimmt.

Die Cybersicherheit ist ein Bereich, in dem die Zuverlässigkeit und Genauigkeit von KI-Modellen von entscheidender Bedeutung ist. Mit der Einführung von CTIBench, einem umfassenden Benchmarking-Tool, haben Forscher des Rochester Institute of Technology einen neuen Standard gesetzt. Dieses Tool bewertet die Fähigkeiten von großen Sprachmodellen (LLMs) in der Cyber Threat Intelligence (CTI), einem wesentlichen Prozess, der Sicherheitsteams hilft, proaktiv gegen sich entwickelnde Bedrohungen vorzugehen.

CTIBench kommt zu einem Zeitpunkt, an dem KI-Assistenten zunehmend behaupten, über Sicherheitswissen zu verfügen, und Unternehmen spezifische LLMs für die Cybersicherheit entwickeln. Ein Beispiel ist Microsofts Copilot, das eine integrierte Sicherheitsplattform bietet. Bislang gab es jedoch keine Möglichkeit, die Eignung eines LLMs als Sicherheitsassistent zu überprüfen.

Nidhi Rastogi, Assistenzprofessorin am RIT, betont die Bedeutung der Zuverlässigkeit dieser Modelle: “Ist das LLM zuverlässig und vertrauenswürdig? Kann ich ihm eine Frage stellen und eine gute Antwort erwarten? Wird es halluzinieren?” CTIBench ist das erste und umfassendste Benchmark in der CTI-Domäne und wird bereits von Unternehmen wie Google, Cisco und Trend Micro genutzt.

Die Entwicklung von CTIBench begann mit SECURE, einem Benchmark zur Bewertung von LLMs im Kontext industrieller Kontrollsysteme. Diese Erfahrung verdeutlichte den Forschern, wie wichtig es ist, LLMs in anderen risikoreichen Bereichen zu evaluieren. Da es keinen verlässlichen Benchmark für CTI gab, war es der richtige Zeitpunkt, einen zu entwickeln.

CTIBench testet, wie gut ein LLM als Sicherheitsanalyst in einem Security Operations Center agieren kann. Zu den Aufgaben gehören die Ursachenanalyse und die Berechnung von Common Vulnerability Scoring System Scores. Eine grafische Darstellung aus der Forschung zeigt, dass alle Modelle dazu neigen, die Schwere von Sicherheitslücken zu überschätzen, was auf einen Kalibrierungsbedarf hinweist.

Das RIT-Team erstellte zudem 2.000 Cybersicherheitsfragen mit ChatGPT, die von Sicherheitsexperten und Cybersecurity-Studenten validiert wurden. Die Fragen reichen von grundlegenden Definitionen bis hin zu technischen Spezifikationen und Bedrohungsanalysen. Die Herausforderung bestand darin, geeignete Aufgaben zu entwerfen, um die Fähigkeiten von LLMs im Bereich CTI quantitativ zu bewerten.

CTIBench wurde auf der NeurIPS 2024-Konferenz vorgestellt und als Spotlight-Paper unter den besten zwei Prozent der eingereichten Arbeiten anerkannt. Die schnelle Akzeptanz von CTIBench in der Industrie unterstreicht die Bedeutung dieser Forschung und eröffnet neue Möglichkeiten für Kooperationen und reale Anwendungen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!