Sicherheitslücken bei KI-gestützter Softwareentwicklung: Amazon als jüngstes Beispiel

LONDON (IT BOLTWISE) – Die jüngsten Ereignisse bei Amazon werfen ein Schlaglicht auf die Sicherheitsrisiken, die mit der Nutzung von KI-gestützten Tools in der Softwareentwicklung einhergehen.

Die zunehmende Integration von Künstlicher Intelligenz in die Softwareentwicklung hat viele Vorteile, birgt jedoch auch erhebliche Sicherheitsrisiken. Jüngst wurde Amazon Opfer eines Hacks, der eine Schwachstelle in einem KI-gestützten Plugin für das hauseigene Codierungstool ausnutzte. Ein Hacker konnte das System infiltrieren und es dazu bringen, Dateien von den betroffenen Computern zu löschen. Diese Vorfälle verdeutlichen die potenziellen Gefahren, die mit der Nutzung von generativer KI in der Softwareentwicklung verbunden sind.

Der Vorfall bei Amazon zeigt, wie einfach es für Hacker sein kann, KI-Tools zu manipulieren. Durch einen scheinbar harmlosen Pull-Request auf der öffentlichen Github-Plattform, wo Amazon den Code für seine Q Developer-Software verwaltet, konnte der Angreifer bösartige Anweisungen einschleusen. Diese Anweisungen führten dazu, dass das System die Computer der Nutzer auf den ursprünglichen Zustand zurücksetzte. Glücklicherweise hielt der Hacker das Risiko für die Endnutzer gering, um die Sicherheitslücke aufzuzeigen, und Amazon konnte das Problem schnell beheben.

Die Nutzung von KI in der Softwareentwicklung ist weit verbreitet, doch viele Unternehmen sind sich der damit verbundenen Risiken nicht bewusst. Laut dem 2025 State of Application Risk Report von Legit Security verwenden mehr als zwei Drittel der Organisationen KI-Modelle zur Softwareentwicklung, wobei 46 Prozent diese Modelle auf riskante Weise einsetzen. Die Einführung von KI-Tools beschleunigt zwar den Entwicklungsprozess, führt jedoch auch zu neuen Sicherheitslücken.

Ein weiteres Beispiel für Sicherheitsprobleme bei KI-gestützten Tools ist das schwedische Startup Lovable, das kürzlich aufgrund fehlender Schutzmaßnahmen in seinen Datenbanken in die Schlagzeilen geriet. Diese Sicherheitslücke wurde von einem Konkurrenten entdeckt, was zeigt, dass selbst die prominentesten Akteure der Branche nicht vor solchen Problemen gefeit sind.

Um die Sicherheit zu erhöhen, könnten Entwickler KI-Modelle anweisen, Sicherheitsaspekte in den generierten Code zu integrieren. Eine weitere Möglichkeit besteht darin, dass alle von KI generierten Codes vor der Implementierung von einem Menschen überprüft werden. Dies könnte jedoch die erhofften Effizienzgewinne schmälern, da die dynamische Entwicklung von KI-Tools die Bemühungen, diese sicher zu halten, überholt.

Die sogenannte Vibe-Coding-Revolution verspricht eine Zukunft, in der jeder Software entwickeln kann. Doch diese Entwicklung bringt auch eine Vielzahl potenzieller Sicherheitsprobleme mit sich, die es zu bewältigen gilt, um die Vorteile der KI-gestützten Softwareentwicklung voll ausschöpfen zu können.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!