KI-Fehlalarme belasten Sicherheitsprogramme

LONDON (IT BOLTWISE) – In der Welt der Cybersicherheit sind Fehlalarme durch KI-generierte Berichte zu einem wachsenden Problem geworden. Diese Berichte, die oft auf den ersten Blick technisch korrekt erscheinen, entpuppen sich bei näherer Betrachtung als fehlerhaft oder gar erfunden.

Die zunehmende Verbreitung von KI-generierten Inhalten hat nicht nur die sozialen Medien und Nachrichtenplattformen erfasst, sondern auch die Cybersicherheitsbranche. Hierbei handelt es sich um sogenannte ‘AI Slop’-Berichte, die vermeintliche Sicherheitslücken aufdecken, die in Wirklichkeit nicht existieren. Diese Berichte werden oft von großen Sprachmodellen erstellt, die technische Details erfinden und in professionell aussehende Dokumente verpacken.

Vlad Ionescu, Mitbegründer und CTO von RunSybil, einem Startup, das KI-gestützte Bug-Hunter entwickelt, beschreibt das Problem als frustrierend. Die Berichte wirken auf den ersten Blick plausibel, doch bei genauerer Prüfung stellt sich heraus, dass die vermeintlichen Sicherheitslücken lediglich Halluzinationen der KI sind. Ionescu erklärt, dass die Modelle darauf ausgelegt sind, hilfreiche und positive Antworten zu liefern, was dazu führt, dass sie auf Anfrage Berichte erstellen, die dann von Nutzern in Bug-Bounty-Plattformen kopiert werden.

Ein prominentes Beispiel für einen solchen Fehlalarm ist ein Bericht, der an das Open-Source-Sicherheitsprojekt Curl gesendet wurde. Der Sicherheitsforscher Harry Sintonen enthüllte, dass der Bericht gefälscht war und die vermeintliche Sicherheitslücke nicht existierte. Benjamin Piouffle von Open Collective berichtete ebenfalls von einer Flut von ‘AI-Müll’ in ihren Posteingängen.

Die führenden Bug-Bounty-Plattformen wie HackerOne und Bugcrowd haben ebenfalls einen Anstieg von KI-generierten Berichten festgestellt. Michiel Prins von HackerOne berichtet, dass diese Berichte oft falsche positive Ergebnisse enthalten, die den Eindruck erwecken, echte Sicherheitslücken zu sein, jedoch keinen realen Einfluss haben. Diese Berichte werden als Spam behandelt, um die Effizienz der Sicherheitsprogramme nicht zu untergraben.

Casey Ellis, Gründer von Bugcrowd, bestätigt, dass viele Forscher KI nutzen, um Sicherheitslücken zu finden und Berichte zu erstellen. Obwohl die Anzahl der eingereichten Berichte gestiegen ist, hat dies noch nicht zu einem signifikanten Anstieg von minderwertigen Berichten geführt. Ellis betont, dass das Team von Bugcrowd die Berichte manuell überprüft, unterstützt durch maschinelles Lernen und KI.

Um der Flut von KI-generierten Berichten entgegenzuwirken, investiert HackerOne in ein neues System namens Hai Triage, das Menschen und KI kombiniert, um Berichte zu filtern und echte Bedrohungen zu priorisieren. Diese Entwicklung zeigt, dass die Branche zunehmend auf KI setzt, um die Herausforderungen zu bewältigen, die durch die gleiche Technologie entstehen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!