Neue Bedrohung durch KI-Browser: PromptFix-Exploit enthüllt

LONDON (IT BOLTWISE) – Eine neue Sicherheitslücke namens PromptFix zeigt, wie KI-Browser durch versteckte Eingabeaufforderungen manipuliert werden können, um schädliche Aktionen auszuführen.

In der sich schnell entwickelnden Welt der Künstlichen Intelligenz (KI) haben Forscher eine neue Schwachstelle entdeckt, die als PromptFix bekannt ist. Diese Technik nutzt KI-gesteuerte Browser aus, indem sie schädliche Anweisungen in gefälschte CAPTCHA-Überprüfungen einbettet. Diese Methode zeigt, wie leicht generative KI-Modelle getäuscht werden können, um ungewollte Aktionen auszuführen, ohne dass der menschliche Benutzer davon Kenntnis hat.

Guardio Labs beschreibt diesen Angriff als eine moderne Variante des ClickFix-Betrugs, bei dem KI-Browser wie Perplexitys Comet dazu verleitet werden, mit Phishing-Seiten oder gefälschten Online-Shops zu interagieren. Diese Browser sind darauf ausgelegt, alltägliche Aufgaben wie das Einkaufen oder das Verwalten von E-Mails zu automatisieren, was sie zu einem attraktiven Ziel für Cyberkriminelle macht.

Die Forscher Nati Tal und Shaked Chen von Guardio betonen, dass PromptFix nicht darauf abzielt, das Modell zu überlisten, sondern es mit Techniken aus dem Bereich des Social Engineering zu täuschen. Diese Angriffe nutzen die grundlegende Designphilosophie der KI aus, die darauf abzielt, dem Benutzer schnell und effizient zu helfen. Dies führt zu einer neuen Realität, die als Scamlexity bezeichnet wird, in der autonome KI-Systeme Betrugsversuche auf ein neues Niveau heben.

Ein weiteres Beispiel für die Verwundbarkeit von KI-Systemen ist die Anfälligkeit von KI-gestützten Programmierassistenten wie Lovable für Techniken wie VibeScamming. Angreifer können diese Modelle dazu bringen, sensible Informationen preiszugeben oder Einkäufe auf gefälschten Websites zu tätigen. Diese Angriffe werden oft durch einfache Anweisungen ausgelöst, die den Benutzer auf eine betrügerische Website locken.

Die Sicherheitsfirma Guardio hat festgestellt, dass der Comet-Browser in mehreren Tests Produkte in den Warenkorb legte und die gespeicherten Adress- und Kreditkartendaten des Benutzers auf einer gefälschten Einkaufsseite automatisch ausfüllte. In ähnlicher Weise kann Comet dazu gebracht werden, Spam-E-Mails zu analysieren und auf eingebettete Links zu klicken, wodurch Anmeldedaten auf gefälschten Login-Seiten eingegeben werden.

Diese Entwicklungen unterstreichen die Notwendigkeit, dass KI-Systeme proaktive Sicherheitsmaßnahmen implementieren, um solche Angriffe zu erkennen und zu neutralisieren. Dazu gehören robuste Schutzmechanismen zur Erkennung von Phishing, Überprüfung der URL-Reputation und Erkennung von Domain-Spoofing. Die zunehmende Nutzung von GenAI-Plattformen durch Angreifer zur Erstellung realistischer Phishing-Inhalte und zur Automatisierung groß angelegter Angriffe stellt eine erhebliche Bedrohung dar.

Bestseller Nr. 1 - «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2 - «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 - «KI Gadgets»

PLAUD Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 - «KI Gadgets»

KI-Sprachrekorder, PLAUD NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 - «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

79,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!