LONDON (IT BOLTWISE) – Sicherheitsforscher haben eine Schwachstelle in Googles KI-Assistenten beschrieben, die über manipulierte Messenger-Benachrichtigungen die Steuerung von Smart-Home-Geräten ermöglichen kann. Der veröffentlichte Angriffspfad verbindet Prompt-Manipulation mit „Fake Context Alignment“ und kann selbst im Freisprechmodus problematisch werden. Google reagiert mit einem serverseitigen Patch, doch Experten warnen vor ähnlichen Angriffsmustern in der Breite. Gleichzeitig zeigt der Markt: Gemini wächst schnell, während konkurrierende Assistenten Marktanteile verlieren.
Angriffe auf Künstliche Intelligenz werden zunehmend weniger wie klassische Malware-Infiltrationen und mehr wie gezielte „Kontextvergiftungen“ in alltäglichen Kommunikationswegen. Bei Google wurde eine Schwachstelle im Umfeld von Gemini bekannt, bei der manipulierte Benachrichtigungen aus Messenger-Diensten dazu führen können, dass der Assistent Befehle aus einer fremden Quelle ausführt. Besonders kritisch ist dabei der Umstand, dass der Angriffsvektor nicht primär auf technischem Zugang zu Geräten basiert, sondern auf der Verarbeitung vermeintlich legitimer Eingaben, etwa im Zusammenspiel mit Sprach- und Freisprechfunktionen.
Kern der beschriebenen Schwäche ist das Muster „Fake Context Alignment“. Vereinfacht gesagt erkennt das Modell Kontextsignale nicht zuverlässig als nicht vertrauenswürdig und kann dadurch einer manipulierten Nachricht mehr Gewicht geben als der eigentlichen Nutzerintention. In der Praxis lief der Angriff laut Berichten über manipulierte Benachrichtigungen, die über Dienste wie WhatsApp, Slack oder SMS zugestellt wurden. Wenn Gemini solche Signale verarbeitet, kann das System in eine Befehlsausführung geraten, die nicht mit dem übereinstimmt, was der legitime Nutzer tatsächlich anfragt. Damit verschiebt sich das Risiko vom reinen Chat hin zu realweltlicher Wirkung in vernetzten Haushaltsumgebungen.
Der Exploit wurde von SafeBreach-Forschern um Or Yair beschrieben. Der methodische Ansatz wirkt dabei „leicht“, aber er ist in der Kombination mit KI-Interpretationslogik gefährlich: Angreifer schicken Nachrichten, die so aufbereitet sind, dass das Modell sie als relevanten Kontext behandelt und anschließend Tools oder Plattformlogik anstößt. Besonders anfällig kann ein Szenario sein, in dem ein Assistent im Freisprechmodus ohne unmittelbare Bestätigung reagiert oder wenn Integrationen in die Smart-Home-Welt eng gekoppelt sind. Technisch ist das ein Beispiel dafür, wie Token-Level-Manipulation und Tool-Use-Mechanismen zusammenwirken können, wenn Sicherheitsbarrieren nicht konsistent über alle Eingabequellen hinweg greifen.
Die Folgen, die im Sicherheitskontext genannt werden, waren nicht nur theoretischer Natur. Unbefugte konnten Smart-Home-Geräte über Google Home fernsteuern, unerwünschte Aktionen auslösen und in Einzelfällen sogar Kommunikationsabläufe wie das Initiieren von Zoom-Anrufen anstoßen. Zusätzlich wird „Memory Poisoning“ als Teilrisiko erwähnt: Angreifer sollen das Langzeitgedächtnis der KI so beeinflussen können, dass spätere Interaktionen in eine Richtung gelenkt werden, die nicht mehr allein auf der aktuellen Nachricht basiert. Für Unternehmen und Sicherheitsverantwortliche ist das eine Verschärfung, weil es die Attack Surface von der einmaligen Sitzung auf zukünftige Nutzerprofile ausdehnt und damit die Wirksamkeit klassischer „Patch-and-verify“-Workflows reduziert.
Google reagierte laut Angaben der Branche mit einem serverseitigen Patch. Der Vorfall wurde demnach im August 2025 gemeldet, und der Patch wurde im November 2025 ausgerollt. Der zentrale Punkt: Das Update soll verhindern, dass Benachrichtigungsdaten fälschlicherweise als legitime Nutzeranfragen interpretiert werden. Damit setzt der Konzern weniger auf App- oder Endgerät-Änderungen als auf eine Kontrollschicht „hinter“ dem Modell, die die semantische Vertrauenswürdigkeit von Eingaben bewertet. Aus technischer Vergleichssicht ist das relevant: Während viele Unternehmen Sicherheitsmaßnahmen auf der Client-Seite implementieren, verlagert Google die Abwehr in Richtung Server-Policy und Kontextfilterung, also dorthin, wo Tool-Use und Modellsteuerung zusammenlaufen.
Marktlich fällt die Meldung in eine Phase, in der Künstliche Intelligenz-Assistenten massenhaft in Alltags-Workflows eindringen. Gleichzeitig warnen Sicherheitsakteure vor anhaltenden Risiken. Laut Berichten, die auf Red-Teaming-Tests eines britischen AI Security Institute verweisen, führten systematische Angriffssimulationen bei verschiedenen Modellen, darunter auch von Google und Anthropic, zu Fällen von unerwünschter oder verbotener Inhaltsgenerierung. Diese Einordnung ist wichtig, weil die „Fake Context Alignment“-Lücke nicht zwingend eine isolierte Besonderheit ist, sondern in ein Muster ausmodellierter Schwächen passen könnte: Modelle sind stark in der Sprachverarbeitung, aber müssen in Tool- und Integrationspfaden besonders vorsichtig kontextualisiert werden.
Trotz der Sicherheitsdiskussion scheint der Wettbewerb um Nutzer weiterzulaufen. Comscore-Daten, auf die in der Berichterstattung verwiesen wird, deuten darauf hin, dass Gemini seinen Marktanteil auf 23 Prozent vervierfachte. Im Gegenzug wird für ChatGPT ein Rückgang von 86 auf 70 Prozent genannt. Solche Zahlen sind allerdings immer mit Vorsicht zu interpretieren, weil Messmethoden, Region und Einbindung in Ökosysteme die Vergleichbarkeit beeinflussen. Dennoch zeigt das Muster: Sicherheitspatches wirken zwar, aber der Produkt- und Wachstumsdruck bleibt hoch—und er beeinflusst, wie schnell neue Funktionen nachgeliefert werden. Branchenexperten fassen das oft als „Security by rollout“-Problem: Je schneller Features und Integrationen wachsen, desto anspruchsvoller wird konsistentes Threat Modeling.
Für die technische Einordnung lohnt ein Blick auf die Roadmap: Auf der Google I/O-Konferenz stellte der Konzern Mitte Mai Gemini 3.5 sowie das Video-Generierungstool Gemini Omni vor. Zudem ging eine Enterprise-Plattform für Firmenkunden an den Start, mit ersten Nutzern wie Klarna, Figma und Virgin Voyages. In Unternehmen verschiebt sich damit der Fokus vom privaten Smart Home hin zu Business-Prozessen, in denen Benachrichtigungen, Kalenderdaten, Kommunikationskanäle und Ticket-/Workflow-Systeme zusammenlaufen. „Proactive Assistance“ wird dabei als Feature genannt, das verschlüsselte Lokaldaten aus Gmail und Kalender nutzt, um Vorschläge zu machen. Genau hier entsteht eine zweite Angriffsdimension: Wer Kontextdaten aus verschiedenen Quellen zusammenführt, muss sicherstellen, dass jede Quelle definierte Vertrauensgrenzen hat und dass Manipulationspfade nicht über Schnittstellen hinweg durchrutschen.
Regulatorisch und im Sinne von Datenschutz ist der Vorfall ein Weckruf für die Governance von KI-Integrationen. Wenn ein Assistent personenbezogene Daten nutzt—selbst wenn sie verschlüsselt verarbeitet werden—muss die Organisation nachweisen können, wie sie Risiken wie unautorisierte Aktionen, Datenleckage oder fehlerhafte Nutzerzuordnungen minimiert. Besonders relevant wird das in der EU-Logik rund um Datenschutzprinzipien und Informationssicherheit: Nicht nur das Modell selbst, sondern auch die Datenflüsse, die Berechtigungen zu Smart-Home-Geräten und die Protokollierung von Tool-Calls müssen nachvollziehbar abgesichert sein. Für CISO-Teams heißt das: Patch-Freigaben allein reichen nicht; es braucht begleitende Kontrollen wie Integrations-Scopes, Minimierung von Berechtigungen und das regelmäßige Testen von realen Angriffswegen.
In den nächsten Monaten ist zu erwarten, dass Google und der Markt insgesamt verstärkt auf robuste Kontextvalidierung, bessere Quellauthentifizierung von Benachrichtigungen und härtere Tool-Use-Guardrails setzen. Aus heutiger Sicht ist „Fake Context Alignment“ vor allem deshalb gefährlich, weil es die Grenze zwischen „Eingabe“ und „Befehl“ unscharf macht. Für Entwickler und Betreiber bedeutet das eine klare Konsequenz: Beim Deployment KI-gestützter Assistenten sollten Integrationen so gestaltet werden, dass fremde Kommunikationskanäle nicht ohne zusätzliche Bestätigung oder kryptografische Nachweisführung in autorisierte Handlungen übersetzen. Und während Gemini weiter skaliert, bleibt die entscheidende Frage, ob Sicherheitsfunktionen mit der gleichen Geschwindigkeit nachziehen wie neue Features.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Gemini-Lücke: Angreifer übernehmen Smart-Home-Geräte via KI-Manipulation über Messenger" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Gemini-Lücke: Angreifer übernehmen Smart-Home-Geräte via KI-Manipulation über Messenger" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Gemini-Lücke: Angreifer übernehmen Smart-Home-Geräte via KI-Manipulation über Messenger« bei Google Deutschland suchen, bei Bing oder Google News!