LONDON (IT BOLTWISE) – Sicherheitsforscher zeigen, wie Angreifer Copilot in einem bereits kompromittierten E-Mail-Konto missbrauchen können. In einem Proof-of-Concept gelang die Eskalation vom Mitarbeiter- zum Geschäftsführungskonto und die Simulation eines Überweisungsauftrags über 247.500 US-Dollar. Der Kern liegt in KI-gestützter Reconnaissance, Stil-Imitation für Phishing sowie dem systematischen Umgehen von Schutzmechanismen. Gleichzeitig kündigt Microsoft eine Verteidigung gegen Prompt-Injection in Defender for Office 365 an.
In vielen Unternehmen gilt Künstliche Intelligenz bereits als Produktivitätsmotor für Recherche, Textentwürfe und die schnelle Auswertung von E-Mails. Genau in diesem Komfort liegt das Risiko der nun beschriebenen Angriffsidee: Ein bereits kompromittiertes E-Mail-Konto dient als „Startpunkt“, um mit Hilfe von Microsoft Copilot weitere Aktionen zu beschleunigen. Das Proof-of-Concept von Barracuda Networks zeigt dabei keinen exotischen Exploit, sondern eine Vorgehensweise, die vorhandene, legitime Werkzeuge nutzt – klassisch als Living-off-the-Land beschrieben. So entsteht ein Angriffspfad, der im Betrieb weniger nach „neuer Malware“ aussieht, sondern eher wie normale Arbeitsabläufe.
Besonders deutlich wird der Nutzen der KI in der Phase, in der Angreifer Informationen sammeln und Entscheidungen treffen: Nach Angaben der Sicherheitsforscher unterstützt Copilot schon bei der Reconnaissance. Die KI kann große Mengen interner Korrespondenz analysieren, um Hierarchien und Geschäftsprozesse zu verstehen. Aus dieser Kontextarbeit entsteht im nächsten Schritt KI-gestützter Copy-Content, der den individuellen Schreibstil des jeweiligen Kontoinhabers nachahmt. Dadurch sinkt die Signalqualität für Empfänger, weil eine Phishing-E-Mail nicht nur inhaltlich passt, sondern auch sprachlich wie „aus der eigenen Hand“ wirkt – ein Effekt, der besonders dann schwerer zu erkennen ist, wenn Empfänger ohnehin unter Zeitdruck arbeiten.
Der Sprung von Wissen zu Wirkung erfolgt im beschriebenen Szenario über eine Rechteausweitung und eine Eskalationskette innerhalb derselben E-Mail-Domäne. Im Testlauf gelang es den Forschern, einen Angriff von einem niedrigrangigen Mitarbeiterkonto bis zum Konto des Geschäftsführers zu eskalieren. Anschließend simulierten sie einen betrügerischen Überweisungsauftrag über 247.500 US-Dollar – in einem Szenario, das sich auf einen Vertrag im Lackawanna County bezog. Wichtig ist: Die Nachrichten wurden direkt aus dem echten Konto erstellt und im gewohnten Stil des Absenders verfasst. Damit reduziert sich die Wahrscheinlichkeit, dass Nutzer den Vorgang als Anomalie markieren, selbst wenn sie grundsätzlich „aufpassen“.
Technisch liegt die kritische Komponente in der Umgehung der Multi-Faktor-Authentifizierung (MFA), zumindest für den beschriebenen Angriffsweg. Laut den Ergebnissen reicht es oft nicht aus, dass ein Konto einmal Zugriff bekommt; entscheidend ist, was danach im Postfach passieren kann. Sobald ein Angreifer initialen Zugriff hat, kann er Copilot dazu anweisen, Posteingangsregeln zu erstellen, die Aktivitäten verschleiern. Solche Stealth-Regeln sorgen dafür, dass Bestätigungs-E-Mails oder Warnmeldungen gelöscht oder verschoben werden, bevor die betroffene Person überhaupt reagieren kann. In der Praxis wird der Angriff dadurch zu einem „leisen“ Prozess: Das eigentliche Ereignis läuft durch, aber Warnsignale werden unterdrückt.
Neben der technischen Umsetzung spielt nach Darstellung der Forscher auch die psychologische Manipulation moderner Angriffe eine Rolle. Die Sicherheitsforscherin Merium Khalid bezeichnete die Durchführung solcher Angriffe im Kontext des Proof-of-Concept als trivial. Ihr Schwerpunkt lag dabei darauf, dass die KI nicht nur bösartige Inhalte erzeugen kann, sondern auch beim Bereinigen von Beweisspuren nach einem erfolgreichen Zugriff helfen soll. Auf dieser Grundlage fordert sie einen zentralen Kill-Switch für KI-Assistenten in E-Mail-Systemen, um im Notfall die Funktion deaktivieren zu können. Ergänzend gab Barracuda an, dass Sicherheitslösungen wie das hauseigene XDR-System oder ein Email-Gateway-Defense-Ansatz Anomalien erkennen können – allerdings ist die Wirksamkeit immer abhängig davon, ob die Erkennung bereits auf typische Muster solcher Regeländerungen und KI-gestützter Inhalte trainiert ist.
Auch Microsoft reagiert auf die wachsende Palette KI-gestützter Angriffsvarianten. Für den Defender for Office 365 kündigte das Unternehmen eine Schutzfunktion gegen Prompt-Injection-Angriffe an, die zunächst in eine öffentliche Testphase (Public Preview) überführt wurde. Der Ansatz: E-Mails, die schädliche Befehle für KI-Modelle enthalten, sollen als hochgradig verdächtiges Phishing identifiziert und blockiert werden. Parallel wird die Verfügbarkeit dieser Schutzmaßnahme für Anfang September 2026 in Aussicht gestellt; standardmäßig soll sie in Paketen des Defender for Office 365 Plan 2 integriert sein. Das zielt in der Praxis auf einen konkreten Missbrauchspfad: externe Eingaben sollen den Copilot nicht unbemerkt in missbräuchliche Aktionen treiben können.
Für IT-Leitung und Security-Teams bedeutet das vor allem eins: KI in Office-Workflows ist nicht automatisch „sicher“, nur weil sie produktiv ist. Unternehmen sollten den beschriebenen Angriff eher als Blaupause für die Angriffslogik betrachten – Reconnaissance mit Stil-Imitation, Eskalation über Konto-Rechte und Verschleierung über Postfachregeln. Die angekündigte Kombination aus Prompt-Injection-Schutz und bestehenden Data-Loss-Prevention-Regeln (DLP) ist ein wichtiger Schritt, ersetzt aber nicht die Notwendigkeit, Postfachänderungen, Regelwerke und MFA-Resilienz eng zu überwachen. Wer jetzt in der Lage ist, zentrale Deaktivierungen (Kill-Switch-Konzepte), Anomalieerkennung und Incident-Playbooks für KI-gestützte Phishing-Wellen zusammenzuführen, kann die Geschwindigkeit solcher Social-Engineering-Angriffe zumindest bremsen.
Weil sich KI-gestützte Angriffs- und Verteidigungsmechanismen gleichzeitig entwickeln, rückt zudem die Governance ins Blickfeld. In der Quelle wird auf eine EU-KI-Verordnung verwiesen, inklusive Pflichten, Risikoklassen und Zeitachsen. Selbst wenn solche regulatorischen Themen den Security-Alltag nicht unmittelbar „lösen“, schaffen sie einen Rahmen für Risikoanalysen, Kontrollkonzepte und Dokumentation. Für Verantwortliche ist das keine Büroübung, sondern eine Möglichkeit, technische Schutzmaßnahmen planbar zu machen: Wer die KI-Nutzung in Kollaborationstools klar inventarisiert und die Risiken anhand realer Angriffsmuster einordnet, findet schneller belastbare Entscheidungen für Schutzstufen, Nutzerrollen und Notfallverfahren. Genau solche Muster liefert der nun beschriebene Copilot-Exploit als praktischen Prüfstein.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Copilot-Exploit: KI hilft beim Living-off-the-Land-Betrug bis 247.500 US-Dollar" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Copilot-Exploit: KI hilft beim Living-off-the-Land-Betrug bis 247.500 US-Dollar" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Copilot-Exploit: KI hilft beim Living-off-the-Land-Betrug bis 247.500 US-Dollar« bei Google Deutschland suchen, bei Bing oder Google News!