Neue Sicherheitslücke bei KI-Codetools bedroht Entwickler

SAN FRANCISCO / LONDON (IT BOLTWISE) – Eine neue Sicherheitslücke in KI-gestützten Codetools hat die Entwicklergemeinschaft alarmiert. Besonders betroffen ist das Tool Cursor, das von Coinbase-Ingenieuren genutzt wird. Die Schwachstelle ermöglicht es Angreifern, versteckte Anweisungen in Lizenzdateien einzuschleusen, die sich unbemerkt im gesamten Code verbreiten können.

Eine neue Sicherheitslücke in KI-gestützten Codetools hat die Entwicklergemeinschaft alarmiert. Besonders betroffen ist das Tool Cursor, das von Coinbase-Ingenieuren genutzt wird. Die Schwachstelle ermöglicht es Angreifern, versteckte Anweisungen in Lizenzdateien einzuschleusen, die sich unbemerkt im gesamten Code verbreiten können. Diese Methode, bekannt als ‘CopyPasta License Attack’, nutzt die Tatsache aus, dass KI-Codetools Lizenzdateien als autoritative Anweisungen behandeln.

Durch das Einfügen von schädlichem Code in versteckte Markdown-Kommentare innerhalb von Dateien wie LICENSE.txt wird das KI-Modell dazu gebracht, diese Anweisungen als legitim zu akzeptieren und automatisch in neue oder bearbeitete Dateien zu übertragen. Dies ermöglicht eine Ausbreitung des schädlichen Codes ohne direkte Benutzereingaben und umgeht traditionelle Malware-Erkennungsmethoden, da die bösartigen Befehle als harmlose Dokumentation getarnt sind.

Coinbase-CEO Brian Armstrong erklärte, dass bis zu 40 % des Codes bei Coinbase von KI geschrieben werden, mit dem Ziel, diesen Anteil bis Oktober auf über 50 % zu erhöhen. Armstrong betonte jedoch, dass KI-gestütztes Codieren hauptsächlich in Benutzeroberflächen und nicht-sensiblen Backends eingesetzt wird, während komplexe und systemkritische Systeme langsamer adaptiert werden.

Die Sicherheitslücke hat die Kritik an der Verwendung von KI-Codetools in der Industrie verstärkt. Während KI-Prompt-Injektionen nicht neu sind, erweitert die CopyPasta-Methode das Bedrohungsmodell, indem sie eine semi-autonome Verbreitung ermöglicht. Infizierte Dateien werden zu Vektoren, die jeden anderen KI-Agenten kompromittieren, der sie liest, und eine Kettenreaktion über Repositories hinweg auslösen.

Sicherheitsteams fordern nun Organisationen auf, Dateien auf versteckte Kommentare zu scannen und alle KI-generierten Änderungen manuell zu überprüfen. HiddenLayer, das Unternehmen, das die Schwachstelle aufgedeckt hat, warnt davor, dass alle untrusted Daten, die in LLM-Kontexte gelangen, als potenziell bösartig behandelt werden sollten, um die Skalierung von promptbasierten Angriffen zu verhindern.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,90 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

75,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!