Sicherheitslücke bei KI-Modellen: Pickle-Format ermöglicht Umgehung von Erkennungssystemen

MÜNCHEN (IT BOLTWISE) – In der Welt der Künstlichen Intelligenz sind Sicherheitslücken ein wachsendes Problem. Jüngste Entdeckungen von Sicherheitsforschern haben gezeigt, dass bösartige KI-Modelle auf Plattformen wie Hugging Face durch das Ausnutzen des Pickle-Formats Sicherheitsmechanismen umgehen können.

Die Entdeckung von bösartigen KI-Modellen auf der Plattform Hugging Face hat die Sicherheitsgemeinschaft alarmiert. Diese Modelle nutzen ein ungewöhnliches Verfahren, um bestehende Erkennungssysteme zu umgehen: das sogenannte ‘gebrochene’ Pickle-Format. Laut Berichten von Sicherheitsexperten bei ReversingLabs wurde in den PyTorch-Archiven bösartiger Python-Code am Anfang der Pickle-Dateien gefunden.

Das Pickle-Format, das häufig zur Verteilung von KI-Modellen verwendet wird, birgt ein erhebliches Sicherheitsrisiko, da es die Ausführung beliebigen Codes ermöglicht, sobald die Dateien geladen und deserialisiert werden. Die entdeckten Modelle, die im PyTorch-Format gespeichert sind, nutzen das 7z-Kompressionsformat, was es ihnen ermöglicht, unbemerkt zu bleiben und nicht als bösartig markiert zu werden.

Die Methode, die als nullifAI bezeichnet wird, zeigt klare Versuche, bestehende Sicherheitsvorkehrungen zu umgehen. Die betroffenen Modelle sind eher als Proof-of-Concept zu verstehen denn als aktive Bedrohung für die Lieferkette. Dennoch unterstreicht diese Entdeckung die Notwendigkeit, die Sicherheitsmaßnahmen für KI-Modelle zu verstärken.

Interessanterweise bricht die Objektserialisierung der Pickle-Dateien kurz nach der Ausführung der bösartigen Nutzlast ab, was zur Folge hat, dass die Deserialisierung des Objekts fehlschlägt. Trotz dieser Fehlernachricht wird der bösartige Code dennoch ausgeführt, da die Deserialisierung von Pickle-Dateien sequentiell erfolgt und die Ausführung der Opcodes nicht gestoppt wird, bis ein Fehler auftritt.

Die Open-Source-Utility Picklescan, die von Hugging Face zur Erkennung verdächtiger Pickle-Dateien eingesetzt wird, wurde inzwischen aktualisiert, um diesen Fehler zu beheben. Diese Anpassung zeigt, wie wichtig es ist, Sicherheitswerkzeuge kontinuierlich zu verbessern, um mit den sich ständig weiterentwickelnden Bedrohungen Schritt zu halten.

Die Entdeckung dieser Sicherheitslücke wirft auch Fragen zur zukünftigen Entwicklung von Sicherheitsmaßnahmen in der KI-Entwicklung auf. Da KI-Modelle zunehmend in kritischen Anwendungen eingesetzt werden, ist es unerlässlich, dass Entwickler und Plattformen wie Hugging Face proaktive Maßnahmen ergreifen, um die Integrität und Sicherheit ihrer Systeme zu gewährleisten.

Bestseller Nr. 1 - «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2 - «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 - «KI Gadgets»

PLAUD Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 - «KI Gadgets»

KI-Sprachrekorder, PLAUD NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 - «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

79,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!