Claude: KI übertrifft menschliche Hacker bei Sicherheitswettbewerben

SAN FRANCISCO / LONDON (IT BOLTWISE) – In der Welt der Cybersicherheit hat die Künstliche Intelligenz einen weiteren Meilenstein erreicht. Anthropic’s KI-Modell Claude hat in mehreren Hacking-Wettbewerben beeindruckende Ergebnisse erzielt und menschliche Hacker übertroffen.

Die jüngsten Erfolge von Claude, einem KI-Modell von Anthropic, haben die Cybersicherheitsbranche in Aufruhr versetzt. Bei einem Experiment, das exklusiv für Branchenexperten vorgestellt wurde, zeigte Claude seine Fähigkeiten in der Offensive Cybersicherheit. Besonders bemerkenswert war seine Leistung beim PicoCTF-Wettbewerb, dem größten Capture-the-Flag-Wettbewerb für Schüler und Studenten. Hierbei geht es darum, Malware zu analysieren, Systeme zu infiltrieren und Dateien zu entschlüsseln.

Keane Lucas, Mitglied des Red-Teams von Anthropic, entschied sich spontan, Claude in diesen Wettbewerb einzubringen. Die Ergebnisse waren überraschend: Claude konnte die meisten Herausforderungen lösen und sich unter die besten 3% der Teilnehmer einreihen. Diese Leistung wurde mit minimaler menschlicher Unterstützung erreicht, was die Leistungsfähigkeit der KI unterstreicht.

In weiteren Wettbewerben setzte Claude seine Erfolgsserie fort. Bei einem Event löste das KI-Modell 11 von 20 immer schwieriger werdenden Aufgaben in nur zehn Minuten. Nach weiteren zehn Minuten hatte es fünf weitere Herausforderungen gemeistert und sich auf den vierten Platz vorgearbeitet. Diese Geschwindigkeit und Effizienz sind bezeichnend für die Fortschritte, die KI-Modelle in der Cybersicherheit machen.

Claude ist jedoch nicht allein in diesem Feld. In der Hack the Box Competition konnten fünf von acht KI-Teams, darunter auch Claude, 19 von 20 Aufgaben bewältigen. Im Vergleich dazu schafften es nur 12% der menschlichen Teams, alle 20 Herausforderungen zu meistern. Diese Entwicklung zeigt, dass KI-Modelle zunehmend in der Lage sind, komplexe Sicherheitsaufgaben auf einem Niveau zu bewältigen, das mit menschlichen Experten vergleichbar ist.

Dennoch gibt es Herausforderungen. Bei der Western Regional Collegiate Cyber Defense Competition scheiterte Claude an einer Aufgabe, die mit einer Animation von Fischen begann. Während ein Mensch diese Animation leicht stoppen konnte, war Claude überfordert. Solche Situationen zeigen, dass KI-Modelle noch immer an ihre Grenzen stoßen können, insbesondere wenn sie mit unerwarteten Szenarien konfrontiert werden.

Die Fortschritte von Claude und anderen KI-Agenten in der Cybersicherheit werfen wichtige Fragen auf. Experten warnen, dass die Verteidiger in der Cybersicherheit ebenfalls von KI profitieren sollten, um mit den Fortschritten Schritt zu halten. Logan Graham, Leiter des Frontier Red Teams bei Anthropic, betont, dass es wahrscheinlich ist, dass KI-Modelle in naher Zukunft noch besser in der Lage sein werden, Sicherheitsaufgaben zu lösen. Daher sei es entscheidend, auch die Verteidigungsmechanismen durch KI zu stärken.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!