SAN FRANCISCO / LONDON (IT BOLTWISE) – Googles KI-gestützter Bugjäger hat kürzlich seine ersten Sicherheitslücken gemeldet.
Googles KI-gestützter Bugjäger hat kürzlich seine ersten Sicherheitslücken gemeldet. Heather Adkins, Vizepräsidentin für Sicherheit bei Google, verkündete, dass der LLM-basierte Schwachstellenforscher Big Sleep 20 Schwachstellen in verschiedenen populären Open-Source-Softwareprojekten entdeckt hat. Diese Entdeckung unterstreicht die wachsende Bedeutung von KI-Tools in der Sicherheitsforschung.
Big Sleep, entwickelt von DeepMind und dem Elite-Hackerteam Project Zero, identifizierte Schwachstellen in Open-Source-Software wie der Audio- und Videobibliothek FFmpeg und der Bildbearbeitungssuite ImageMagick. Obwohl die Details der Schwachstellen noch nicht veröffentlicht wurden, da sie noch nicht behoben sind, zeigt die Entdeckung das Potenzial von KI in der automatisierten Schwachstellenerkennung.
Kimberly Samra, eine Sprecherin von Google, erklärte, dass zur Sicherstellung qualitativ hochwertiger und umsetzbarer Berichte ein menschlicher Experte die Ergebnisse überprüft, jedoch jede Schwachstelle vom KI-Agenten ohne menschliches Eingreifen gefunden und reproduziert wurde. Dies hebt die Fähigkeit von Big Sleep hervor, eigenständig Sicherheitslücken zu identifizieren.
Royal Hansen, Vizepräsident für Engineering bei Google, betonte auf X, dass diese Entdeckungen eine neue Ära in der automatisierten Schwachstellenerkennung einläuten. Neben Big Sleep gibt es bereits andere KI-gestützte Tools wie RunSybil und XBOW, die ebenfalls in der Lage sind, Sicherheitslücken zu finden.
XBOW hat kürzlich Schlagzeilen gemacht, nachdem es die Spitze einer der US-amerikanischen Bestenlisten auf der Bug-Bounty-Plattform HackerOne erreicht hat. In den meisten Fällen wird ein menschlicher Experte hinzugezogen, um zu bestätigen, dass die von der KI gefundenen Schwachstellen legitim sind, ähnlich wie bei Big Sleep.
Vlad Ionescu, Mitbegründer und CTO von RunSybil, einem Startup, das KI-gestützte Bugjäger entwickelt, bezeichnete Big Sleep als ein legitimes Projekt, da es über ein gutes Design verfügt und von erfahrenen Experten unterstützt wird. Die Kombination aus der Erfahrung von Project Zero und der Rechenleistung von DeepMind verleiht dem Projekt eine starke Basis.
Obwohl diese Tools vielversprechend sind, gibt es auch Herausforderungen. Einige Softwareentwickler haben sich über Fehlalarme beschwert, die von KI-Tools gemeldet wurden, und diese als das Äquivalent von KI-Müll bezeichnet. Dies zeigt, dass trotz der Fortschritte noch Raum für Verbesserungen besteht.


- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote

Doktorand*in für Promotion im Bereich UX/UI für Agentic AI gesteuerte multimodale, adaptive Interaktionskonzepte im Fahrzeug

Senior Consultant Banking AI (all genders)

Junior Projektmanager Frontend & KI-Lösungen (m/w/d)

(Senior) AI Engineer (m/w/d)

- Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
- Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
- Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
- Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Google’s KI-gestützter Bugjäger entdeckt Sicherheitslücken in Open-Source-Software" für unsere Leser?
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Google’s KI-gestützter Bugjäger entdeckt Sicherheitslücken in Open-Source-Software" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Google’s KI-gestützter Bugjäger entdeckt Sicherheitslücken in Open-Source-Software« bei Google Deutschland suchen, bei Bing oder Google News!