Shellphish: Ein Vorreiter in der KI-gestützten Cybersicherheit

SANTA BARBARA / MÜNCHEN (IT BOLTWISE) – In einem Labor an der Universität von Kalifornien in Santa Barbara arbeiten einige der klügsten Köpfe an einem Projekt, das die Zukunft der Cybersicherheit maßgeblich beeinflussen könnte.

Die Elite-Hackergruppe Shellphish von der Universität von Kalifornien in Santa Barbara (UCSB) nimmt an einem hochkarätigen Wettbewerb teil, der die Grenzen der Künstlichen Intelligenz (KI) in der Cybersicherheit ausloten soll. Im Rahmen der Artificial Intelligence Cyber Challenge (AIxCC), die von der Defense Advanced Research Projects Agency (DARPA) gesponsert wird, konkurrieren sie um einen Preis von 4 Millionen US-Dollar. Ziel ist es, ein Programm zu entwickeln, das in der Lage ist, ohne menschliches Eingreifen Schwachstellen in Open-Source-Software zu erkennen und zu beheben.

Shellphish ist eine von sieben Teams, die an diesem Wettbewerb teilnehmen, und besteht aus 20 bis 25 Mitgliedern, die sich auf drei Universitäten verteilen: UCSB, Arizona State University und Purdue. Interessanterweise sind die Professoren, die die Teams in Arizona und Indiana beraten, ehemalige UCSB-Studenten. Letztes Jahr erreichte das Team die Halbfinale und gewann einen Preis von 2 Millionen US-Dollar, den sie zur Unterstützung der Studenten und ihrer Forschung verwenden.

Die Herausforderung findet im Rahmen von DEF CON statt, einem bedeutenden Hacking-Wettbewerb, an dem Shellphish ebenfalls teilnimmt. Die Teilnehmer kommen aus der ganzen Welt, darunter Länder wie Deutschland, China, Italien und Sri Lanka. Sie entwickeln ein autonomes Programm namens Artiphishell, das bis Juni 2024 fertiggestellt werden muss. Im August 2025 werden Artiphishell und die Programme der anderen Teams dieselbe reale Software auf Schwachstellen analysieren. Das Team, dessen Programm die meisten Probleme identifiziert und behebt, gewinnt den Hauptpreis.

Giovanni Vigna, Gründer von Shellphish und angesehener Professor an der UCSB, leitet die Gruppe seit über einem Jahrzehnt. Er betont, dass die Arbeit zwar intensiv ist, aber auch Spaß macht. Die Teammitglieder finden immer wieder Momente der Entspannung, wie bei einem Hackathon in Seattle, wo sie in einem nahegelegenen See schwimmen gingen oder im Whirlpool entspannten.

Vigna hebt hervor, dass vier der sieben AIxCC-Finalisten Universitäts-Teams sind, was zeigt, dass akademische Institutionen weiterhin ein Zentrum für Innovationen sind. Anders als ihre kommerziellen Konkurrenten können Universitäten Risiken eingehen, ohne sich um Gewinne sorgen zu müssen. Diese Freiheit ermöglicht es ihnen, neue Wege zu beschreiten und die Forschung voranzutreiben.

Lukas Dresel, ein Doktorand an der UCSB und Teamleiter, erklärt, dass die USA im Bereich KI und Cybersicherheit führend sind. Um diese Position zu halten, sind Investitionen, insbesondere in universitäre Forschung, notwendig. Dresel betont, dass sie sich in einer interessanten Phase befinden, da noch niemand ein System wie ihres gebaut hat. Es könnte der erste Schritt zu sichererer Software für alle sein.

Während Shellphish und Artiphishell auf den Sieg hoffen, sind die eigentlichen Gewinne für das Team die Freude an der Arbeit und die wertvollen Erfahrungen, die sie sammeln. Vigna beschreibt das Labor als einen Ort, an dem man gerne bleibt, weil die Arbeit spannend und erfüllend ist.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!