Sicherheitslücke in Google Gemini: Phishing-Angriffe durch E-Mail-Zusammenfassungen

LONDON (IT BOLTWISE) – Eine kürzlich entdeckte Sicherheitslücke in Google Gemini für Workspace ermöglicht es Angreifern, E-Mail-Zusammenfassungen zu manipulieren, um Phishing-Angriffe durchzuführen. Diese Schwachstelle nutzt indirekte Prompt-Injektionen, die in E-Mails versteckt sind und von Gemini bei der Erstellung von Nachrichtenübersichten befolgt werden.

Die Sicherheitslücke in Google Gemini für Workspace stellt eine ernsthafte Bedrohung dar, da sie es Angreifern ermöglicht, E-Mail-Zusammenfassungen zu manipulieren, um Phishing-Angriffe durchzuführen. Diese Schwachstelle nutzt indirekte Prompt-Injektionen, die in E-Mails versteckt sind und von Gemini bei der Erstellung von Nachrichtenübersichten befolgt werden. Trotz der Implementierung von Sicherheitsmaßnahmen bleibt diese Technik erfolgreich, was die Dringlichkeit verstärkter Schutzmaßnahmen unterstreicht.

Ein solcher Angriff wurde durch das 0din-Programm von Mozilla aufgedeckt, das sich auf die Sicherheit von generativen KI-Tools konzentriert. Der Forscher Marco Figueroa, Manager des GenAI Bug Bounty Programs bei Mozilla, hat die Schwachstelle offengelegt. Der Angriff erfolgt, indem eine E-Mail mit einer unsichtbaren Anweisung für Gemini erstellt wird. Diese Anweisung wird im Nachrichtentext versteckt, indem HTML und CSS verwendet werden, um die Schriftgröße auf null zu setzen und die Farbe auf weiß zu ändern.

Da die bösartige Anweisung in Gmail nicht angezeigt wird und keine Anhänge oder Links vorhanden sind, ist die Wahrscheinlichkeit hoch, dass die Nachricht das Postfach des potenziellen Opfers erreicht. Wenn der Empfänger die E-Mail öffnet und Gemini bittet, eine Zusammenfassung zu erstellen, wird die unsichtbare Anweisung von Googles KI-Tool verarbeitet und befolgt. Ein von Figueroa bereitgestelltes Beispiel zeigt, dass Gemini der versteckten Anweisung folgt und eine Sicherheitswarnung über ein angeblich kompromittiertes Gmail-Passwort sowie eine Support-Telefonnummer enthält.

Da viele Nutzer den Ausgaben von Gemini als Teil der Google Workspace-Funktionalität vertrauen, besteht eine hohe Wahrscheinlichkeit, dass diese Warnung als legitime Benachrichtigung angesehen wird, anstatt als bösartige Injektion. Figueroa bietet einige Erkennungs- und Abhilfemethoden an, die Sicherheitsteams anwenden können, um solche Angriffe zu verhindern. Eine Möglichkeit besteht darin, Inhalte zu entfernen, zu neutralisieren oder zu ignorieren, die im Nachrichtentext versteckt sind.

Eine weitere Methode ist die Implementierung eines Nachbearbeitungsfilters, der die Ausgaben von Gemini auf dringende Nachrichten, URLs oder Telefonnummern scannt und die Nachricht zur weiteren Überprüfung kennzeichnet. Nutzer sollten sich auch bewusst sein, dass Gemini-Zusammenfassungen nicht als autoritativ in Bezug auf Sicherheitswarnungen angesehen werden sollten. Google hat auf Anfrage erklärt, dass sie keine Beweise für Vorfälle gesehen haben, die Gemini auf die in Figueroas Bericht beschriebene Weise manipulieren.

Während Cloud-Angriffe immer ausgeklügelter werden, erzielen Angreifer weiterhin Erfolge mit überraschend einfachen Techniken. Dies zeigt, dass trotz fortschrittlicher Sicherheitsmaßnahmen grundlegende Schwachstellen ausgenutzt werden können, was die Notwendigkeit kontinuierlicher Verbesserungen und Anpassungen der Sicherheitsstrategien unterstreicht.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!