Unsichtbare Prompt-Injektionen: Eine neue Bedrohung für KI-Agenten

LONDON (IT BOLTWISE) – Eine neue Form von Angriffen bedroht Browser mit integrierten KI-Assistenten. Forscher haben herausgefunden, dass scheinbar harmlose Screenshots und Webseiten versteckte Anweisungen enthalten können, die das Verhalten der KI-Agenten kapern. Diese Angriffe nutzen unsichtbare Texte, die von der KI als Benutzerbefehle interpretiert werden, um unbemerkt Aktionen auszulösen.

In der Welt der Cybersicherheit sind neue Bedrohungen oft nur einen Schritt entfernt. Eine solche Bedrohung, die derzeit die Aufmerksamkeit von Forschern und Sicherheitsexperten auf sich zieht, sind sogenannte ‘unsichtbare Prompt-Injektionen’. Diese Angriffe zielen auf Browser mit integrierten KI-Assistenten ab und nutzen die Fähigkeit dieser Assistenten, Text aus Bildern zu extrahieren, um versteckte Anweisungen auszuführen.

Die Forscher von Brave haben entdeckt, dass Angreifer unsichtbare oder kaum sichtbare Texte in Screenshots oder Webseiten einbetten können. Diese Texte werden von der optischen Zeichenerkennung (OCR) der KI-Assistenten als legitime Benutzeranfragen interpretiert. Dadurch können Angreifer die KI dazu bringen, sensible Aktionen wie das Navigieren zu geschützten Seiten oder das Herunterladen von Dateien auszuführen, ohne dass der Benutzer dies bemerkt.

Diese Art von Angriff stellt eine erhebliche Herausforderung für traditionelle Sicherheitsmaßnahmen dar. Standardprotokolle wie die Same-Origin-Policy (SOP) oder Content-Security-Policy (CSP) gehen davon aus, dass der Browser nur Inhalte rendert und nicht als Proxy für KI-Anweisungen fungiert. Da die versteckten Anweisungen in Bildern oder Webseiten-Elementen eingebettet sind, die visuell nicht erkennbar sind, entgehen sie den Augen der Benutzer, während die KI sie als legitime Befehle behandelt.

Für Unternehmen, die KI-fähige Browser oder Agenten einsetzen, bedeutet dies ein neues Risikofeld: den Prompt-Verarbeitungskanal. Während Phishing-Angriffe über Links oder Anhänge weiterhin verbreitet sind, können Injektionen im Prompt-Stream selbst vertrauenswürdige Downloads oder interne Screenshots in Waffen verwandeln. Um dieser Bedrohung zu begegnen, empfehlen die Forscher von Brave eine Reihe von Verteidigungsmaßnahmen, darunter die Überwachung von Assistentenaktionen und die Einschränkung von Screenshot-Uploads auf vertrauenswürdige Benutzer.

Da immer mehr Browser KI-Assistenten integrieren, könnten Angriffe wie die von Brave beschriebenen zunehmen. Angreifer müssen keine Schwachstelle im Browser mehr ausnutzen; sie nutzen die Logik der Eingabeverarbeitung der Assistenten aus. Dies verschiebt den Fokus der Angreifer von Malware und Exploits hin zu Vertrauens- und Kontextvergiftungen, indem sie Befehle dort einbetten, wo die Assistenten sie automatisch interpretieren.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen Weiß

37,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen/Business Schwarz

35,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI Übersetzer Kopfhörer, Bluetooth 5.4 Kopfhörer Übersetzer mit 164 Sprachen kopfhörer übersetzer echtzeit mit 7 Modi, ENC Rauschunterdrückung AI-Assistent 56H Laufzeit für Business, Reisen und Lernen

29,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen Roségold

35,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!