WASHINGTON / LONDON (IT BOLTWISE) – Forschende zeigen, wie manipulierte Nachrichten die KI-Assistenten von Google Gemini über Messenger wie WhatsApp, Slack oder SMS fehlleiten. Mit „Fake Context Alignment“ lassen sich KI-Modelle dazu bringen, scheinbar legitime Befehle auszuführen und damit unbefugt Smart-Home-Geräte zu steuern. Parallel warnt das BSI vor mehreren Schwachstellen in Microsoft-Cloud-Diensten mit CVSS bis 10,0 und mögliche Privilegieneskalationen. Während US-Gesetzgeber strengere Cybersicherheitsanforderungen an KI planen, bleibt für Unternehmen vor allem die Absicherung von Integrationen und Token-Flows entscheidend.
Der Angriff sitzt nicht im Netzwerk und nicht im klassischen Passwort-Dialog, sondern in der Art, wie eine KI den „Kontext“ einer Nachricht interpretiert. In den aktuellen Forschungsergebnissen wird beschrieben, dass Angreifer Googles KI-Assistent Gemini über gängige Messenger gezielt austricksen können, indem sie Nachrichten so formatieren, dass die KI Befehle als vom legitimen Nutzer stammend behandelt. Für Unternehmen und Betreiber vernetzter Umgebungen ist das besonders heikel: Ein scheinbar harmloser Chat kann damit zum Startpunkt für unbefugte Aktionen werden, von der Steuerung von Kameras bis zum Auslösen von Videokonferenzen. Damit verschiebt sich das Bedrohungsmodell von „Gerät kompromittiert“ zu „Kommunikation kompromittiert“.
Im Kern geht es um Fake-Context-Angriffe, bei denen der Angreifer die Kontextverarbeitung ausnutzt, statt technische Exploits auf niedriger Ebene zu suchen. Die Sicherheitsfirma SafeBreach beschreibt, dass bereits „ausgesprochen“ bzw. zugeschnittene Eingaben genügen können, damit Gemini ausführt, was wie eine korrekte Nutzeranweisung wirkt. Diese Logik hängt an der Art, wie KI-Systeme Nachrichten entpacken, Rollen ableiten und Funktionsaufrufe triggern. Technisch betrachtet ähnelt das weniger einem einzelnen Buffer-Overflow-Problem als einem Angriffsvektor auf semantische Steuerung: Modelle und Agenten sollen helfen, interpretieren aber gleichzeitig mehr Bedeutung, als der Nutzer beabsichtigt. Damit steigt die Relevanz von Guardrails, Prompt-/Tool-Berechtigungen und striktem Kontext-Sanitizing.
Der Zeitverlauf zeigt zudem, wie wichtig sichere Veröffentlichungsprozesse und Betriebsvorbereitung sind. Berichten zufolge erfuhr Google bereits im August 2024 von der Problematik und veröffentlichte im November 2025 ein Sicherheitsupdate; die detaillierten Ergebnisse wurden anschließend erst später öffentlich gemacht. Für Security-Teams ist das ein klassischer Hinweis auf zwei Dinge: Erstens müssen Einsätze von „KI-Funktionen“ im Betrieb genauso patchgetrieben sein wie bekannte CVE-Landschaften, obwohl die Angriffslogik häufig im Modell- und Integrationslayer sitzt. Zweitens führt verzögerte Transparenz nicht automatisch zu weniger Risiko, sondern verlagert das Risiko in die Betriebsphase, in der Systeme noch nicht vollständig abgesichert sind. Genau an dieser Stelle wird die KI-Sicherheitsstrategie zur operativen Disziplin.
Betroffen sind dabei nicht nur einzelne Assistenten. Das BSI weist zeitgleich auf mehrere Schwachstellen in Microsoft-Cloud-Diensten hin, die mit dem maximalen Risikowert von CVSS 10,0 bewertet wurden. Genannt werden unter anderem KI-Integrationen rund um 365 Copilot sowie Copilot Chat in Edge, außerdem Azure- und Exchange-nahe Komponenten. Sicherheitsrelevanz entsteht hier weniger durch semantische Prompt-Manipulation, sondern durch potenziell missbrauchbare Schwachstellen, die Privilegieneskalation sowie Schadcodeausführung ermöglichen können. Der Wettbewerb zwischen Plattformen verschiebt folglich das Risiko nicht weg, sondern überträgt es auf die gesamte Integrationskette: Chat, Suche, Collaboration und Cloud-APIs sind längst verbunden. Unternehmen müssen daher „KI-Feature-Schnittstellen“ wie kritische Systeme behandeln.
Parallel dazu beobachten Analysten auch eine Verstärkung generativer KI in offensiven Kampagnen. Wie aus Analysen von Mandiant hervorgeht, nutzt die Gruppierung UTA0388 unter anderem ChatGPT, um Phishing-Inhalte zu erstellen und damit Zielgruppen in Nordamerika, Asien und Europa effektiver zu adressieren. Das Spannende aus Markt- und Angreifersicht ist die Kombination: Während Fake-Context-Angriffe die KI-Funktionalität direkt missbrauchen, erleichtert generative KI die Erstellung von täuschend echten Social-Engineering-Nachrichten, die wiederum die KI-Anwendung „füttern“. Ein Sicherheitsexperte fasst diese Kopplung sinngemäß so zusammen: „KI macht die Kommunikation präziser und die Angriffe skalierbarer, während KI-Assistenten den nächsten Schritt automatisieren.“ Diese Verzahnung ist derzeit einer der wichtigsten Gründe, warum Security-Roadmaps neu gedacht werden.
Vor diesem Hintergrund ist die politische Reaktion absehbar, weil die bisherigen IT-Standards die neuen Angriffsflächen nur teilweise abdecken. Im Juni 2026 haben US-Politiker laut Berichten einen parteiübergreifenden Gesetzentwurf vorgestellt, der unter dem „Great American AI Act“ Anforderungen an Cybersicherheitspläne und externe Audits für fortschrittliche KI-Modelle festschreiben soll. Ergänzend ist ein spezielles Zentrum beim National Institute of Standards and Technology (NIST) geplant, finanziert mit rund 300 Millionen US-Dollar. Auch wenn die konkrete Umsetzung von Details abhängt, adressiert der Regulierungsansatz ein reales Problem: Unternehmen brauchen überprüfbare Sicherheitsnachweise, nicht nur „Best Effort“-Statements der Modellanbieter. Für den Mittelstand bedeutet das künftig mehr Dokumentationsaufwand, aber auch eine bessere Vergleichbarkeit von Risiken zwischen Lösungen.
Gleichzeitig treiben Technologiekonzerne die KI-Integration weiter, was die Lage nicht automatisch entschärft. Google kündigte auf seiner Entwicklerkonferenz I/O die „Agentic Gemini Era“ an und positioniert KI-Informationsagenten als zentrale Komponente für Suche sowie mobile Endgeräte. Solche agentischen Systeme gehen über reine Ausgaben im Chat hinaus: Sie sollen Tools nutzen, Aktionen anstoßen und Informationen strukturierter wiederverwenden. Genau deshalb wächst die Angriffsrelevanz von Kontext und Berechtigung. Im Vergleich zu reinem „Chatbot-Gespräch“ bedeutet Tool-Nutzung, dass ein semantischer Fehler unmittelbar operative Folgen hat. Aus Wettbewerbssicht ist das verständlich, aus Security-Sicht aber eine direkte Herausforderung für Sandboxen, Least-Privilege-Modellierung und robuste Zustimmungskaskaden.
Für Unternehmen entsteht daraus eine klare, umsetzungsnahe Priorisierung. Erstens sollten KI-Assistenten in Messenger-Umgebungen nicht ohne strikte Sicherheitslogik betrieben werden, insbesondere wenn der Assistent Aktionen in Drittsystemen ausführen darf. Zweitens lohnt sich ein Architekturvergleich: „on-device“ oder „isolierte Ausführungsumgebung“ reduziert die Angriffsoberfläche, während „cloud-first“ zwar skaliert, aber stärker auf sichere API-Policies und Auditierbarkeit angewiesen ist. Drittens sollten Sicherheitsmaßnahmen nicht nur Modellregeln umfassen, sondern auch Integrationslayer, Token-Rechte, Logging und Incident-Response. Experten werden in den nächsten Monaten stärker auf messbare Guardrail-Standards und externe Prüfpfade setzen, weil sich die Angriffe zunehmend auf reale Workflows konzentrieren. Der Ausblick ist damit ambivalent: KI wird produktiver, aber Security wird noch stärker zum Treiber für Marktdurchdringung.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Fake-Context-Angriffe kapern KI-Assistenten und steuern Smart-Home" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Fake-Context-Angriffe kapern KI-Assistenten und steuern Smart-Home" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Fake-Context-Angriffe kapern KI-Assistenten und steuern Smart-Home« bei Google Deutschland suchen, bei Bing oder Google News!