GitLab Duo: Sicherheitslücke ermöglicht Code-Diebstahl durch versteckte Eingaben

MÜNCHEN (IT BOLTWISE) – Eine kürzlich entdeckte Sicherheitslücke in GitLabs KI-gestütztem Assistenten Duo hat die Technologiebranche alarmiert. Diese Schwachstelle hätte es Angreifern ermöglichen können, vertraulichen Quellcode zu stehlen und schädliche HTML-Inhalte in die Antworten des Systems einzuschleusen.

GitLab Duo, ein KI-gestützter Assistent, der Entwicklern beim Schreiben, Überprüfen und Bearbeiten von Code hilft, wurde im Juni 2023 eingeführt. Doch schon bald entdeckten Sicherheitsforscher von Legit Security eine indirekte Eingabeaufforderungsschwachstelle, die es Angreifern ermöglichte, Quellcode aus privaten Projekten zu stehlen und die Vorschläge des Assistenten zu manipulieren. Diese Art von Schwachstelle, bekannt als Prompt Injection, ist in KI-Systemen weit verbreitet und ermöglicht es Bedrohungsakteuren, große Sprachmodelle zu manipulieren.

Indirekte Eingabeaufforderungen sind besonders tückisch, da die schädlichen Anweisungen nicht direkt, sondern in einem anderen Kontext wie einem Dokument oder einer Webseite eingebettet sind. Dies macht es schwieriger, sie zu erkennen und zu verhindern. Studien zeigen, dass große Sprachmodelle auch anfällig für sogenannte Jailbreak-Techniken sind, die es ermöglichen, die ethischen und sicherheitsrelevanten Barrieren der KI zu umgehen.

Die Sicherheitslücke in GitLab Duo erlaubte es, versteckte Kommentare in Merge-Requests, Commit-Nachrichten oder Quellcode zu platzieren, die dann sensible Daten leaken oder HTML-Inhalte injizieren konnten. Diese Eingaben konnten durch Techniken wie Base16-Codierung oder Unicode-Schmuggel weiter verschleiert werden. Die fehlende Eingabesäuberung und die unzureichende Behandlung dieser Szenarien durch GitLab ermöglichten es Angreifern, die Schwachstelle auszunutzen.

Omer Mayraz, ein Sicherheitsforscher, erklärte, dass Duo den gesamten Kontext einer Seite analysiert, einschließlich Kommentaren und Quellcode, was es anfällig für versteckte Anweisungen macht. Ein Angreifer könnte das System dazu bringen, ein bösartiges JavaScript-Paket in einen Code einzufügen oder eine schädliche URL als sicher darzustellen, was zu Phishing-Angriffen führen könnte.

Die Schwachstelle wurde nach verantwortungsvoller Offenlegung am 12. Februar 2025 von GitLab behoben. Diese Entdeckung unterstreicht die Risiken, die mit der tiefen Integration von KI-Assistenten in Entwicklungsprozesse verbunden sind. Während sie die Effizienz steigern können, übernehmen sie auch die Risiken der Umgebung, in der sie eingesetzt werden.

Parallel dazu wurde bekannt, dass Microsofts Copilot für SharePoint ebenfalls anfällig für Angriffe ist, die es lokalen Angreifern ermöglichen könnten, auf sensible Daten zuzugreifen. Diese Entwicklungen werfen ein Licht auf die Herausforderungen, die mit der Sicherheit von KI-gestützten Systemen verbunden sind, insbesondere in Bezug auf den Schutz sensibler Informationen und die Einhaltung von Datenschutzbestimmungen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!