KI-gestützte Cybersicherheit: Team Atlanta gewinnt DARPA-Wettbewerb

LAS VEGAS / LONDON (IT BOLTWISE) – Auf der DEFCON 33 in Las Vegas wurden die Gewinner des zweijährigen AI Cybersecurity Challenge (AIxCC) bekannt gegeben. Team Atlanta, eine Zusammenarbeit von Experten aus dem Georgia Institute of Technology, Samsung Research und anderen Institutionen, sicherte sich den ersten Platz.

Die AI Cybersecurity Challenge (AIxCC) hat nach zwei Jahren intensiver Wettbewerbsaktivitäten ihre Sieger gekürt. Auf der DEFCON 33 in Las Vegas wurde Team Atlanta als Gewinner bekannt gegeben. Diese Gruppe, bestehend aus Experten des Georgia Institute of Technology, Samsung Research, der Korea Advanced Institute of Science & Technology und der Pohang University of Science and Technology, erhielt ein Preisgeld von 4 Millionen US-Dollar.

Der zweite Platz ging an Trail of Bits, ein in New York ansässiges Cybersicherheitsunternehmen, das sich auf fortschrittliche Sicherheitsforschung spezialisiert hat. Sie erhielten 3 Millionen US-Dollar. Den dritten Platz belegte Theori, ein Team von KI-Forschern und Sicherheitsexperten aus den USA und Südkorea, das 1,5 Millionen US-Dollar gewann.

Die von diesen Teams entwickelten Cyber-Reasoning-Systeme sind Teil einer Reihe von Modellen, die bereits als Open Source verfügbar sind. Laut DARPA-Direktor Stephen Winchell werden die restlichen Modelle in den kommenden Wochen veröffentlicht.

Der Wettbewerb, der auf der Black Hat 2023 von Perri Adams, Programmmanagerin bei DARPA, angekündigt wurde, zielte darauf ab, eine neue Generation von KI-gestützten Cybersicherheitstools zu entwickeln, um die kritische Infrastruktur und Regierungsdienste der USA zu sichern. Unterstützt wurde das Projekt von DARPA und der Advanced Research Projects Agency for Health (ARPA-H), um zu erforschen, ob KI Software-Schwachstellen effektiver finden und beheben kann.

Die sieben Finalisten, darunter Team Atlanta, Trail of Bits und Theori, wurden bereits bei der DEFCON 32 im August 2024 bekannt gegeben und erhielten jeweils 2 Millionen US-Dollar. Tech-Giganten wie Google, Microsoft, Anthropic und OpenAI unterstützten den Wettbewerb mit über 1 Million US-Dollar an KI-Modell-Credits, um den Teams die notwendige Rechenleistung zur Verfügung zu stellen.

Jim O’Neill, stellvertretender Sekretär des US-Gesundheitsministeriums, kündigte an, dass DARPA und ARPA-H zusätzlich 1,4 Millionen US-Dollar bereitstellen werden, um die Finalisten bei der Verfeinerung ihrer Tools für den realen Einsatz zu unterstützen. Diese zusätzlichen Mittel werden in Phasen verteilt, abhängig von der messbaren Akzeptanz der Tools durch wichtige Infrastrukturorganisationen.

Während der letzten Phase des AIxCC, die im vergangenen Jahr stattfand, mussten die teilnehmenden Teams ihre Systeme in einer kontrollierten, simulierten Umgebung einsetzen, die absichtlich mit Schwachstellen versehen war. Die sieben Finalistenteams entdeckten 54 der 70 absichtlich eingebetteten Schwachstellen, was einer Erkennungsrate von 77 % entspricht. Dies ist eine deutliche Verbesserung gegenüber dem Vorjahr, als nur 37 % der bekannten Schwachstellen entdeckt wurden.

Die Teams konnten 43 dieser 54 Schwachstellen beheben. Darüber hinaus entdeckten sie 18 bisher unbekannte reale Schwachstellen, von denen sie 11 beheben konnten. Diese Zero-Day-Entdeckungen unterstreichen die Fähigkeit der Modelle, kritische Schwächen auch außerhalb kontrollierter Testumgebungen zu identifizieren.

Die Geschwindigkeit und Effizienz der KI-Systeme waren entscheidende Stärken. Im Durchschnitt wurden Schwachstellen in nur 45 Minuten behoben, was eine dramatische Verbesserung gegenüber traditionellen manuellen Prozessen darstellt. Jennifer Roberts, Direktorin für resiliente Systeme bei ARPA-H, betonte, dass diese Fähigkeiten insbesondere im Gesundheitssektor wichtig sind, wo es durchschnittlich 491 Tage dauert, eine Schwachstelle zu beheben, verglichen mit 60 bis 90 Tagen in anderen Sektoren.

Das Gewinnerteam, Team Atlanta, hat in mehreren Hacking-Wettbewerben und akademischen Konferenzen Erfolge erzielt. Für den AIxCC nutzten sie hauptsächlich traditionelle Methoden zur Schwachstellenerkennung, kombiniert mit OpenAIs großen Sprachmodellen. Sie entdeckten die meisten realen Schwachstellen unter den sieben Teams.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!