KI-Modelle revolutionieren die Cybersicherheit: Chancen und Risiken

BERKELEY / LONDON (IT BOLTWISE) – Die neuesten Fortschritte in der Künstlichen Intelligenz (KI) verändern die Cybersicherheitslandschaft grundlegend. Forscher der University of California, Berkeley, haben herausgefunden, dass moderne KI-Modelle nicht nur in der Lage sind, Software zu entwickeln, sondern auch zunehmend effizienter Sicherheitslücken in Software zu identifizieren.

Die Entwicklung der Künstlichen Intelligenz hat in den letzten Jahren enorme Fortschritte gemacht, insbesondere im Bereich der Softwareentwicklung und Cybersicherheit. Forscher der University of California, Berkeley, haben kürzlich herausgefunden, dass moderne KI-Modelle nicht nur in der Lage sind, Software zu entwickeln, sondern auch zunehmend effizienter Sicherheitslücken in Software zu identifizieren. Diese Entdeckung könnte die Art und Weise, wie Unternehmen ihre Software schützen, grundlegend verändern.

In einer umfassenden Studie testeten die Forscher, wie gut aktuelle KI-Modelle und -Agenten Schwachstellen in 188 großen Open-Source-Codebasen finden können. Mit einem neuen Benchmark namens CyberGym identifizierten die KI-Modelle 17 neue Bugs, darunter 15 bisher unbekannte, sogenannte Zero-Day-Schwachstellen. Diese Schwachstellen sind besonders kritisch, da sie potenziell ausgenutzt werden können, bevor sie bekannt und gepatcht werden.

Die Kombination aus fortschrittlichen Programmierfähigkeiten und verbesserter Argumentationsfähigkeit der KI-Modelle beginnt, die Cybersicherheitslandschaft zu verändern. Experten erwarten, dass KI-Modelle zu mächtigen Werkzeugen in der Cybersicherheit werden. Ein Beispiel dafür ist ein KI-Tool des Startups Xbow, das sich an die Spitze der HackerOne-Rangliste für Bug-Hunting gesetzt hat und kürzlich 75 Millionen US-Dollar an neuen Finanzmitteln erhalten hat.

Die Forscher von UC Berkeley testeten sowohl konventionelle KI-Modelle von OpenAI, Google und Anthropic als auch Open-Source-Angebote von Meta, DeepSeek und Alibaba. Diese wurden mit verschiedenen Agenten zur Fehlersuche kombiniert, darunter OpenHands, Cybench und EnIGMA. Die KI-Tools generierten Hunderte von Proof-of-Concept-Exploits, von denen 15 bisher unbekannte Schwachstellen und zwei bereits bekannte und gepatchte Schwachstellen identifiziert wurden.

Obwohl die Ergebnisse vielversprechend sind, zeigen sie auch die Grenzen der aktuellen KI-Technologie auf. Die Systeme waren nicht in der Lage, die meisten Schwachstellen zu finden und scheiterten an besonders komplexen Problemen. Katie Moussouris, Gründerin und CEO von Luta Security, betont, dass menschliche Expertise weiterhin unverzichtbar ist, da die besten KI-Modelle nur etwa 2 Prozent der Schwachstellen finden konnten.

Die zunehmende Fähigkeit von KI, Zero-Day-Schwachstellen zu entdecken, könnte jedoch auch zu einem Anstieg von Angriffen führen, die solche Exploits nutzen. Brendan Dolan-Gavitt, Professor an der New York University, erwartet, dass KI zu einem Anstieg von Angriffen mit Zero-Day-Exploits führen wird, da es derzeit nur wenige Experten gibt, die in der Lage sind, neue Schwachstellen zu finden und Exploits dafür zu entwickeln.

Die Forscher warnen, dass die stetige Verbesserung der KI-Modelle in naher Zukunft eher Angreifern als Verteidigern zugutekommen könnte. Daher ist es besonders wichtig, die Fähigkeiten dieser Tools genau zu verfolgen. Zu diesem Zweck haben Song und andere Forscher das AI Frontiers CyberSecurity Observatory gegründet, eine kollaborative Initiative, die die Fähigkeiten verschiedener KI-Modelle und -Tools anhand mehrerer Benchmarks überwachen wird.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!