Generative KI verschärft Risiken in der Software-Lieferkette

LONDON (IT BOLTWISE) – Die zunehmende Nutzung generativer Künstlicher Intelligenz (KI) in der Softwareentwicklung birgt erhebliche Risiken für die Sicherheit von Software-Lieferketten. Während KI-Modelle wie große Sprachmodelle (LLMs) in der Lage sind, plausible Texte zu generieren, neigen sie auch zu sogenannten ‘Halluzinationen’, bei denen sie nicht existierende Softwarekomponenten vorschlagen. Diese Schwäche wird von böswilligen Akteuren ausgenutzt, um Malware zu verbreiten.

Generative Künstliche Intelligenz (KI) hat das Potenzial, die Effizienz in der Softwareentwicklung erheblich zu steigern. Doch diese Technologie birgt auch erhebliche Risiken, insbesondere für die Sicherheit von Software-Lieferketten. Ein zentrales Problem ist die Neigung von KI-Modellen, sogenannte ‘Halluzinationen’ zu erzeugen, bei denen sie nicht existierende Softwarekomponenten vorschlagen. Diese Schwäche wird von böswilligen Akteuren ausgenutzt, um Malware zu verbreiten.

Eine aktuelle Studie von Universitätsforschern hat gezeigt, dass 16 verschiedene große Sprachmodelle (LLMs) mit hoher Sicherheit Softwarekomponenten vorschlagen, die nicht existieren. Diese Halluzinationen bieten böswilligen Akteuren eine einfache Möglichkeit, Malware zu verbreiten. Sie registrieren Softwarepakete mit den von der KI vorgeschlagenen Namen in öffentlichen Repositories. Entwickler, die auf die KI-Vorschläge vertrauen, laden diese Pakete herunter, ohne deren Authentizität zu überprüfen, und setzen sich so der Gefahr von Malware aus.

Die Abhängigkeit von KI-gestützten Tools in der Softwareentwicklung nimmt zu. Entwickler verlassen sich zunehmend auf KI-Assistenten, um ihre Arbeitsabläufe zu optimieren. Doch oft wird die Überprüfung der von der KI vorgeschlagenen Tools gegen die offizielle Dokumentation der Open-Source-Tools vernachlässigt. Dies erhöht das Risiko, dass schädliche Software in die Entwicklungsumgebung gelangt.

Die Sicherheitsrisiken werden durch die mangelnde Transparenz in der Software-Lieferkette weiter verschärft. Nur 20% der Organisationen nutzen Software-Stücklisten (SBOMs), um die Komponenten ihrer Software aufzulisten. Ohne eine solche ‘Zutatenliste’ haben Organisationen nur begrenzte Einblicke in die Zusammensetzung und Sicherheit ihrer Software. Dies macht es böswilligen Akteuren leicht, Schwachstellen auszunutzen.

Um diese Risiken zu mindern, sind klare Anforderungen an die Transparenz von KI-Modellen erforderlich. Ein dediziertes Rahmenwerk zur Offenlegung von Risiken sollte entwickelt werden, das wichtige Attribute wie die Quellen der Trainingsdaten, Modellversionen, bekannte Einschränkungen und Sicherheitsmerkmale dokumentiert. Die bestehenden Richtlinien des National Institute of Standards and Technology (NIST) zur Risikomanagement in der Lieferkette und zur sicheren Softwareentwicklung bieten ein wertvolles Modell, das zur Schaffung neuer Standards für KI-Provenienz, Rückverfolgbarkeit und Manipulationssicherheit herangezogen werden kann.

Ein weiterer Ansatz zur Verbesserung der Sicherheit besteht darin, die Entwicklung selbstregulierender KI-Modelle zu fördern. Diese Modelle könnten in der Lage sein, ihre eigenen fehlerhaften Ausgaben zu identifizieren und herauszufiltern. In Kombination mit strengen Transparenzstandards könnte dies dazu beitragen, das Vertrauen in KI-Systeme wiederherzustellen und die Sicherheit von Software-Lieferketten zu gewährleisten.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!