LONDON (IT BOLTWISE) – Sicherheitsforscher zeigen, wie sich KI-Assistenten über manipulierte Messenger-Nachrichten steuern lassen. In dem Fall mit Googles Gemini reicht bereits der falsche Kontext: Der Assistent interpretiert Anweisungen als legitime Befehle, statt sie als potenziell bösartig zu erkennen. Betroffen sind insbesondere Nutzer, die ihren Assistenten mit Apps und Smart-Home-Geräten stark verknüpfen. Parallel nimmt die Professionalisierung von Malware und KI-gestütztem Phishing zu, was die Sicherheits- und Regulierungsdebatte weiter anheizt.
Wenn KI-Assistenten in Messenger-Apps eingebettet werden, verschiebt sich das Bedrohungsmodell grundlegend: Nicht nur die KI selbst ist das Ziel, sondern auch die Nachrichtenkette, über die sie Informationen erhält. Im jüngsten Fall rund um Googles Gemini beschreibt die Sicherheitsforschung eine Angriffsmethode, bei der manipulierte Nachrichten aus gängigen Kommunikationskanälen wie WhatsApp, Slack oder SMS so aufbereitet werden, dass der Assistent den Kontext falsch einordnet. Google schloss die Schwachstelle laut Berichten bereits im November 2025. Für Unternehmen bleibt die Kernfrage jedoch: Wie verhindert man, dass ein KI-System aus einer unsicheren Eingabe eine autorisierte Handlung ableitet?
Technisch setzt der Angriffspunkt dort an, wo viele Assistenten heute besonders leistungsfähig sein sollen: beim Verständnis von Absicht und Kontext in natürlicher Sprache. Die in der Branche als „Fake Context Alignment“ bezeichnete Methode nutzt aus, dass das Modell eingehende Signale als Hinweis auf eine legitime Nutzeranweisung interpretiert. In Tests konnten Forscher dadurch Funktionen anstoßen, die über das reine Textverstehen hinausgehen, etwa das Steuern von Smart-Home-Geräten, das Starten von Videokonferenzen oder das Erzeugen verfälschter Nachrichten im Namen des Opfers. Entscheidend ist dabei nicht nur, dass die Nachricht „überzeugend“ wirkt, sondern dass die KI-Kontextzuordnung zu wenig gegen Verwechslung und Prompt-Manipulation abgesichert ist.
Vergleicht man das mit älteren Sicherheitsmustern, wird die neue Relevanz deutlich: Klassische Social-Engineering-Angriffe zielen meist auf den Menschen, während hier die KI als „Entscheidungsschicht“ missbraucht wird. Moderne Produkte bei Wettbewerbern setzen zwar ebenfalls auf Guardrails, Authentifizierung und Freigabeprozesse, doch die Angriffsfläche entsteht vor allem an Integrationsschnittstellen wie „Assistant kann mit anderen Apps handeln“. Branchenexperten berichten, dass gerade dort häufig Annahmen über Vertrauenswürdigkeit gemacht werden, die in der Praxis bei getarnten oder zeitlich getakteten Nachrichten nicht mehr gelten. SafeBreach und andere Akteure zeigen zudem, dass sich solche Angriffe in realistische Testumgebungen überführen lassen, wenn Berechtigungen granular, aber nicht ausreichend kontextsensitiv vergeben sind.
Die Marktrelevanz geht allerdings über den konkreten Gemini-Fall hinaus. Parallel zur Schwachstellenlage beobachten Security-Teams eine Professionalisierung der Malware-Verbreitung, unter anderem bei Loader-Angriffen: Ein Quartalsbericht von ANY.RUN nennt einen Anstieg um 98,3 Prozent, während auch JavaScript-Angriffe deutlich zulegen. Auffällig ist zudem die Zeitachse: Schädliche Prozesse werden teils nur etwa 16 Sekunden nach Systemstart aktiv, Persistenz wird im Mittel nach rund 21 Sekunden erreicht. Diese Geschwindigkeit reduziert den Spielraum für manuelle Reaktion und erhöht den Druck auf EDR/SIEM-Korrelationen. Hinzu kommt KI-gestütztes Social Engineering, das Phishing-Inhalte sprachlich und stilistisch verbessert, sodass klassische Filter häufiger zu spät greifen. Aus Sicht der Verteidigung ist das ein Wechsel von „Erkennen“ zu „Verhindern“—also der Aufbau stärkerer Kontroll- und Validierungsmechanismen in der gesamten Kommunikations- und Ausführungskette.
Auch die Angriffsseite zeigt kreative Strategien, die Unternehmen unmittelbar betreffen. Laut Berichten nutzen gruppenbezogene Kampagnen generative KI für mehrsprachige Phishing-Varianten, etwa in Englisch, Chinesisch und Japanisch. Der Zusatznutzen liegt weniger in der reinen Textqualität als in der Skalierbarkeit: KI-Modelle helfen, sprachliche Barrieren zu überwinden und Formulierungen so zu variieren, dass Erkennungssysteme weniger zuverlässig greifen. Gleichzeitig wird der Weg in die Lieferkette und in Entwicklungsumgebungen attraktiver: Eine weitere Gruppe kontaktiert gezielt Entwickler über Plattformen wie LinkedIn und versucht, schädliche Komponenten in Pipeline- und Prozessabläufe einzuschleusen. Damit rückt die Schnittstelle zwischen „Konversation“ und „Engineering-Werk“ stärker in den Fokus, weil kompromittierte Inputs später automatisierte Workflows auslösen können.
Vor diesem Hintergrund gewinnt die regulatorische Debatte an Substanz. In den USA wurde der „Great American AI Act“ vorgestellt, der leistungsstarke KI-Systeme zu mehr Transparenz und nachvollziehbaren Sicherheitsanforderungen verpflichten soll. Solche Ansätze sind gerade deshalb wichtig, weil KI-Assistenten zunehmend als Steuerungsinstanz über Tools und Daten fungieren und damit faktisch „Handlungsrechte“ erhalten. Auf der politischen Ebene spiegelt sich zudem der Druck, Missbrauch über neue Domänen zu verhindern. In einem offenen Brief fordern führende KI-CEOs wie die von OpenAI, Anthropic und Microsoft strengere Sicherheitsvorkehrungen; als Beispiel wird ein verpflichtendes Screening für Anbieter synthetischer DNA genannt, um den Missbrauch in Richtung biologischer Waffen zu erschweren. Für Unternehmen heißt das übersetzt: Security wird nicht nur eine technische Aufgabe, sondern auch eine Governance- und Auditierbarkeitsthematik.
Für die Praxis ergibt sich ein klares Bild: Wer KI-Assistenten produktiv nutzt, muss deren Integrationen wie sicherheitskritische Komponenten behandeln. Dazu gehört, Berechtigungen konsequent zu minimieren, Aktionen mit hohem Risiko an klare Identitäts- und Zustandsprüfungen zu koppeln und Eingaben aus Messenger- oder SMS-Kanälen stärker zu validieren, bevor sie in Handlungen münden. Der Gemini-Fall zeigt dabei, dass ein reines Modell-„Verstehen“ nicht genügt, wenn Kontextzuordnung und Autorisierung nicht eng verzahnt sind. Gleichzeitig sollten Unternehmen ihre Security-Baselines mit Blick auf schnelle Malware-Aktivierung, botgetriebenen Traffic und KI-gestütztes Phishing schärfen. Wie aus Auswertungen von Cloudflare Radar hervorgeht, stammen bereits 57,4 Prozent des Internet-Traffics aus automatisierten Bots und KI-Agenten—damit steigt die Notwendigkeit robuster Security-Architekturen. In der nächsten Ausbaustufe werden sich daher viele Teams stärker auf verifizierbare Entscheidungsgrenzen, mehrstufige Freigaben und auditierbare Sicherheitskontrollen stützen, um KI nicht nur „intelligent“, sondern auch zuverlässig kontrollierbar zu machen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Gemini-Lücke: KI-Assistenten lassen sich per Messenger manipulieren" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Gemini-Lücke: KI-Assistenten lassen sich per Messenger manipulieren" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Gemini-Lücke: KI-Assistenten lassen sich per Messenger manipulieren« bei Google Deutschland suchen, bei Bing oder Google News!