MÜNCHEN (IT BOLTWISE) – Eine kürzlich entdeckte Sicherheitslücke in GitLabs KI-gestütztem Assistenten Duo hat die Technologiebranche alarmiert. Diese Schwachstelle hätte es Angreifern ermöglichen können, vertraulichen Quellcode zu stehlen und schädliche HTML-Inhalte in die Antworten des Systems einzuschleusen.
GitLab Duo, ein KI-gestützter Assistent, der Entwicklern beim Schreiben, Überprüfen und Bearbeiten von Code hilft, wurde im Juni 2023 eingeführt. Doch schon bald entdeckten Sicherheitsforscher von Legit Security eine indirekte Eingabeaufforderungsschwachstelle, die es Angreifern ermöglichte, Quellcode aus privaten Projekten zu stehlen und die Vorschläge des Assistenten zu manipulieren. Diese Art von Schwachstelle, bekannt als Prompt Injection, ist in KI-Systemen weit verbreitet und ermöglicht es Bedrohungsakteuren, große Sprachmodelle zu manipulieren.
Indirekte Eingabeaufforderungen sind besonders tückisch, da die schädlichen Anweisungen nicht direkt, sondern in einem anderen Kontext wie einem Dokument oder einer Webseite eingebettet sind. Dies macht es schwieriger, sie zu erkennen und zu verhindern. Studien zeigen, dass große Sprachmodelle auch anfällig für sogenannte Jailbreak-Techniken sind, die es ermöglichen, die ethischen und sicherheitsrelevanten Barrieren der KI zu umgehen.
Die Sicherheitslücke in GitLab Duo erlaubte es, versteckte Kommentare in Merge-Requests, Commit-Nachrichten oder Quellcode zu platzieren, die dann sensible Daten leaken oder HTML-Inhalte injizieren konnten. Diese Eingaben konnten durch Techniken wie Base16-Codierung oder Unicode-Schmuggel weiter verschleiert werden. Die fehlende Eingabesäuberung und die unzureichende Behandlung dieser Szenarien durch GitLab ermöglichten es Angreifern, die Schwachstelle auszunutzen.
Omer Mayraz, ein Sicherheitsforscher, erklärte, dass Duo den gesamten Kontext einer Seite analysiert, einschließlich Kommentaren und Quellcode, was es anfällig für versteckte Anweisungen macht. Ein Angreifer könnte das System dazu bringen, ein bösartiges JavaScript-Paket in einen Code einzufügen oder eine schädliche URL als sicher darzustellen, was zu Phishing-Angriffen führen könnte.
Die Schwachstelle wurde nach verantwortungsvoller Offenlegung am 12. Februar 2025 von GitLab behoben. Diese Entdeckung unterstreicht die Risiken, die mit der tiefen Integration von KI-Assistenten in Entwicklungsprozesse verbunden sind. Während sie die Effizienz steigern können, übernehmen sie auch die Risiken der Umgebung, in der sie eingesetzt werden.
Parallel dazu wurde bekannt, dass Microsofts Copilot für SharePoint ebenfalls anfällig für Angriffe ist, die es lokalen Angreifern ermöglichen könnten, auf sensible Daten zuzugreifen. Diese Entwicklungen werfen ein Licht auf die Herausforderungen, die mit der Sicherheit von KI-gestützten Systemen verbunden sind, insbesondere in Bezug auf den Schutz sensibler Informationen und die Einhaltung von Datenschutzbestimmungen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "GitLab Duo: Sicherheitslücke ermöglicht Code-Diebstahl durch versteckte Eingaben" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "GitLab Duo: Sicherheitslücke ermöglicht Code-Diebstahl durch versteckte Eingaben" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »GitLab Duo: Sicherheitslücke ermöglicht Code-Diebstahl durch versteckte Eingaben« bei Google Deutschland suchen, bei Bing oder Google News!