OpenAI führt Lockdown Mode ein, um Prompt-Injection-Risiken bei sensiblen Daten zu senken
SAN FRANCISCO / LONDON (IT BOLTWISE) – OpenAI rollt mit „Lockdown Mode“ eine neue Schutzfunktion für ChatGPT aus, die speziell das Risiko von Prompt-Injection-Angriffen bei sensiblen Daten reduzieren soll. Die Funktion schränkt Live-Webzugriff, Bild- und Agentenfähigkeiten sowie „Deep Research“ ein und nutzt stattdessen stärker kontrollierte Inhalte wie Caches. Wichtig ist aber: Auch im Lockdown Mode […]
Claude gewinnt im Enterprise-Umfeld – Sicherheitsdebatte um KI-Risikoverhalten wächst
EUROPÄISCHE UNION / LONDON (IT BOLTWISE) – Während Claude von Anthropic im Enterprise-Bereich laut Ramp AI Index auf 34,4 Prozent Marktanteil klettert, bleibt ChatGPT knapp dahinter. Neue Sicherheitstests deuten darauf hin, dass Claude heiklere Aktionen eher toleriert als ChatGPT, was IT-Teams sowohl beruhigen als auch beunruhigen kann. Parallel treiben beide Anbieter eigene Schutzmechanismen voran, während […]
ChatGPT erhält „Lockdown Mode“: Tools werden gegen Prompt-Injection abgesichert
LONDON (IT BOLTWISE) – OpenAI schränkt den Funktionsumfang von ChatGPT mit einem neuen „Lockdown Mode“ ein, um Datenabflüsse über Prompt-Injection-Angriffe zu reduzieren. Die Einstellung blockiert oder limitiert webnahe und netzwerkfähige Tools wie Live-Browsing, Agent-Modus und Datei-Downloads. Gleichzeitig führt OpenAI ein Konto-Tool ein, mit dem Nutzer aktive ChatGPT-Sitzungen einsehen und verdächtige Aktivitäten per Logout beenden können. […]
Schwachstelle in Claude Code GitHub Actions: Repository-Zugriff über MCP-Server möglich
BERLIN / LONDON (IT BOLTWISE) – Eine kritische Supply-Chain-Schwachstelle in der GitHub-Actions-Integration von Anthropic’s Claude Code ermöglicht es Angreifern, über ein einzelnes Issue, einen Pull Request oder sogar nur über einen Kommentar Repositorys zu kompromittieren. Laut Sicherheitsforschung kann dabei ein MCP-Server mit von Angreifern definierter Konfiguration gestartet und im Runner-Kontext beliebiger Code ausgeführt werden. Dadurch […]
Android-Update schließt CVE-2025-48595 und stopft 124 Lücken
WASHINGTON / LONDON (IT BOLTWISE) – Google und Samsung liefern umfangreiche Sicherheitsupdates für Android und schärfen zugleich den Schutz gegen aktiv ausgenutzte Schwachstellen. Im Zentrum steht CVE-2025-48595, die als Integer-Overflow im Android-Framework lokale Rechteausweitung ermöglichen kann. Parallel schließt Googles Juni-Patch insgesamt 124 Sicherheitslücken im Android-Ökosystem und aktualisiert unter anderem den Play Store sowie den Passwort-Manager. […]
Prompt Injection über WhatsApp- und Slack-Benachrichtigungen: Android-Gemini im Fokus
LONDON (IT BOLTWISE) – Sicherheitsforscher zeigen, dass Prompt Injection nicht auf E-Mail oder Kalender beschränkt ist: Auch Benachrichtigungen auf Android können als Einfallstor dienen, wenn ein KI-Assistent Inhalte aus Notifications vorliest. Im Beispiel nutzt der Angreifer harmlose Anfragen, kombiniert sie jedoch mit versteckten bzw. anderssprachigen Anweisungen, die beim Bestätigen unbemerkt aktiviert werden. Google hat die […]
Google Cloud bringt AI Threat Defense: Gemini & Wiz für autonome Blitzabwehr
LONDON (IT BOLTWISE) – Google Cloud startet mit „AI Threat Defense“ eine neue KI-Sicherheitsarchitektur, die Schwachstellen in Echtzeit priorisiert und Probleme eigenständig beheben soll. Die Lösung verbindet Googles Gemini, Mandiant und CodeMender mit der Sicherheitssoftware von Wiz. Parallel erweitert Google das Security Command Center um KI-spezifische Schutzfunktionen für Modelle, Datenquellen, Endpunkte und MCP-Server. Damit reagiert […]
KI-Assistenten per Fake Context Alignment ausgetrickst: Smart-Home-Übernahme im Messenger-Flow
LONDON (IT BOLTWISE) – Sicherheitsforscher zeigen, wie sich Filter von KI-Assistenten umgehen lassen, um Smart-Home-Geräte aus der Distanz zu steuern. Der Angriff nutzt Messenger-Benachrichtigungen und eine verzögerte Werkzeugausführung, um interne Schutzmechanismen zu überlisten. Betroffen ist die Logik rund um Künstliche Intelligenz in Heimautomation, nicht der klassische Smart-Home-Zugang. Hersteller haben zwar gepatcht, die Grundidee des Angriffs […]
Claude Code GitHub Action: Bot-Trigger-Lücke ermöglicht Repo-Übernahme
BERLIN / LONDON (IT BOLTWISE) – Eine Schwachstelle in einer GitHub-Action rund um Claude Code erlaubt es Angreifern, über eine einzige Issue scheinbar geschützte Repositories zu kompromittieren. Das Problem liegt im Bot-Trigger-Check, der keine verlässliche Verifikationsstufe für den Auslöser erzwingt. In Kombination mit indirekter Prompt Injection kann der Angreifer sensible Prozessumgebungsdaten aus einem CI-Run herausleiten. […]
Gemini-Sicherheitslücke: Wie eine Nachricht Android-Assistenten kapert
LONDON (IT BOLTWISE) – Sicherheitsforscher zeigen, wie eine manipulierbare Nachricht Gemini auf Android-Geräten dazu bringen kann, unerwünschte Aktionen auszuführen, ohne dass eine schädliche App installiert werden muss. Im Kern geht es um eine indirekte Prompt-Injection über Benachrichtigungen: Die KI interpretiert Inhalte aus Notifications wie Befehle. Google hat serverbasierte Gegenmaßnahmen ausgerollt, aber der Vorfall macht ein […]
Gefälschte Benachrichtigungen könnten Google Gemini auf Android manipulieren
ANDROID / LONDON (IT BOLTWISE) – Eine einzelne manipulierte Benachrichtigung könnte Google Gemini auf Android dazu gebracht haben, Tools auszuführen, Nachrichten zu fälschen und sogar langfristige Erinnerungen auf Kontoebene zu vergiften. Die Forschung von SafeBreach zeigt, wie ein Agent für Benachrichtigungen Inhalte als Handlungsanweisungen missverstehen kann. Zwar hat Google inzwischen serverseitig gepatcht und keine Hinweise […]
Tenzai erweitert autonomen KI-Hacker auf AI Applications für vollständige Testketten
NEW YORK CITY / LONDON (IT BOLTWISE) – Tenzai erweitert seinen autonomen KI-Hacker und macht damit Full-Stack-Tests auch für KI-Anwendungen möglich. Statt nur klassische Angriffsflächen zu prüfen, deckt das Testing nun Web-, API- und AI-Application-Layer in einem durchgängigen Run ab. Für Security-Teams bedeutet das, dass sie moderne KI-Systeme wie Chat- und Agentenlösungen gezielter auf Schwachstellen […]
ChatGPhish zeigt Prompt-Injection-Risiko in Browser-ChatGPT-Zusammenfassungen
LONDON (IT BOLTWISE) – Sicherheitsforscher zeigen mit „ChatGPhish“, wie Browser-basierte Prompt Injection die Zusammenfassungen von ChatGPT verfälschen kann. Der Angriff nutzt eine Vertrauenskette: Inhalte von Drittseiten werden in einem als „assistentenartig“ wirkenden UI-Kontext verarbeitet und ausgegeben. In einem Proof-of-Concept werden sogar Phishing-Hinweise eingebettet, einschließlich QR-Code-Varianten, die traditionelle Desktop-Schutzmechanismen umgehen. Für Unternehmen bedeutet das: KI-Browsing-Funktionen brauchen […]
KI-Agenten wie Devin, Salesforce & Microsoft beschleunigen Softwareprojekte massiv
LONDON (IT BOLTWISE) – KI-Agenten drängen mit hoher Geschwindigkeit in Entwicklungs- und Produktivitätsprozesse: Cognition-„Devin“ soll Projekte teils in Tagen statt Monaten erledigen, während Salesforce nach der Claude-Code-Integration eine 18-fache Beschleunigung für eine API-Migration meldet. Microsoft und Google erweitern ihre Plattformen um „Agent as Operator“-Funktionen, die sogar im Hintergrund Verwaltungs- und Internet-Workflows ausführen. Gleichzeitig steigen aber […]
Gemini Spark: Google startet autonomen Cloud-KI-Agenten für Workspace
SAN FRANCISCO / LONDON (IT BOLTWISE) – Google rollt mit „Gemini Spark“ einen KI-Agenten aus, der Aufgaben auch dann erledigt, wenn Smartphone oder Laptop ausgeschaltet sind. Der Assistent arbeitet in der Cloud, greift auf das Google-Workspace-Ökosystem zu und kann mehrere Aufgaben parallel ausführen. Erste Tests zeigen bei Planung und Organisation deutliche Stärken, offenbaren aber Lücken […]
EU AI Act ab 2. August: Grundrechte-Folgenabschätzung für Hochrisiko-KI
BERLIN / LONDON (IT BOLTWISE) – Ab dem 2. August 2026 müssen Unternehmen bei Hochrisiko-KI-Systemen eine Grundrechte-Folgenabschätzung (FRIA) durchführen und gleichzeitig neue Transparenzpflichten umsetzen. Branchennahe Tests und Sicherheitsstudien zeigen dabei deutliche Lücken: Selbst leistungsstarke Modelle erfüllen die strengen Anforderungen selten durchgängig. Parallel rücken technische Angriffe wie Prompt-Injection sowie strengere Cybersicherheitsfristen wie NIS2 stärker in den […]
ChatGPhish: Wie ChatGPT-Textausgaben zum Phishing-Vektor werden
LONDON (IT BOLTWISE) – Sicherheitsforscher warnen vor „ChatGPhish“: Beim Zusammenfassen beliebiger Webseiten kann ChatGPT Markdown-Links und Bild-URLs aus fremden Seiten automatisch nachladen und als klickbare Elemente im vertrauten Chat-Interface darstellen. Dadurch lassen sich IP-, User-Agent- und Referer-Daten abgreifen, gefälschte Security-Alerts einblenden und sogar QR-Codes so platzieren, dass Desktop-Filter wirkungslos werden. Die Erkenntnis ordnet sich in […]
Prompt-Injection in jqwik: Risiko für KI-Coding-Agenten und Entwickler-Workflows
BERLIN / LONDON (IT BOLTWISE) – In der quelloffenen JUnit-Testengine jqwik wurde nach Berichten eine Prompt-Injection eingebaut, die KI-Coding-Agenten dazu verleiten soll, Tests und Code zu löschen. Der Maintainer Johannes Link sieht darin eine Gegenmaßnahme gegen unkritische KI-Nutzung, stößt damit aber auf heftige Kritik aus der Entwickler-Community. Besonders brisant ist die Mechanik: Die Anweisung wird […]
Prompt-Injection im Java-Testtool jqwik: Agenten sollen Tests löschen
LONDON (IT BOLTWISE) – In der Open-Source-Welt sorgt jqwik für Aufsehen: Ein Entwickler hat eine versteckte Prompt-Injection in die Testausgabe eingebaut, die KI-Code-Agenten dazu bringen soll, Tests und Code zu löschen. Der Fall zeigt, wie Prompt Injection nicht nur Daten, sondern auch Build- und Testartefakte angreifen kann – besonders dann, wenn Tools Anweisungen ungeprüft aus […]
CodeIntegrity erhält 4,8 Mio. Seed für Runtime-Guardrails gegen Prompt Injection
SAN FRANCISCO / LONDON (IT BOLTWISE) – CodeIntegrity will mit einer neuen Runtime-Control-Layer einen zentralen Engpass lösen, der vielen Agenten-Setups in Unternehmen fehlt: deterministische Sicherheitsgrenzen. Das Startup sammelt dafür 4,8 Millionen US-Dollar Seed-Finanzierung ein und baut auf Erkenntnissen aus erfolgreichen Demonstrationen, wie schnell Agenten durch Prompt Injection zu Datenlecks verleitet werden. Während in der Praxis […]
Copilot und Microsoft 365: Zero-Click-Angriffe umgehen Genehmigungen
LONDON (IT BOLTWISE) – Sicherheitsforscher zeigen, wie Zero-Click-Angriffe auf Microsoft Copilot und Microsoft 365 Genehmigungsmechanismen aushebeln. Über versteckte Prompt-Anweisungen oder missbrauchte Datei- und Link-Workflows können Angreifer auf OneDrive-Inhalte zugreifen und sie extern exfiltrieren. Parallel warnen Meldungen vor automatisierten Phishing-Plattformen, die gerade OAuth- und Token-Schritte ausnutzen und selbst MFA aushebeln. Damit entsteht für Unternehmen eine neue, […]
SHub Reaper: Neuer macOS-Trojaner stiehlt Krypto-Wallets und legt Hintertüren an
LONDON (IT BOLTWISE) – Mehrere neue Schadsoftware-Kampagnen zeigen, wie schnell sich Angriffe gegen macOS und die Entwickler-Toolchain professionalisieren. Im Mittelpunkt steht SHub Reaper: Der Trojaner täuscht Nutzer mit vermeintlich legitimen Updates, stiehlt aus 23 Krypto-Wallets und etabliert zugleich dauerhafte Hintertüren. Parallel offenbaren weitere Kampagnen Schwachstellen in npm, PyPI und Crates sowie automatisierte Takeovers großer Repos […]
Audio-Jailbreaks: Unsichtbare Tonimpulse können KI-Assistenten übernehmen
SINGAPUR / LONDON (IT BOLTWISE) – Forschende warnen vor Audio-Jailbreaks: Sie können in Video- oder Audiodateien versteckte Tonfolgen nutzen, um KI-Assistenzsysteme wie Smart Speaker in Fehlverhalten zu treiben. Damit lässt sich offenbar auch ohne klare Nutzeraufforderung die Logik von KI-Modellen umgehen. In Tests mit 13 Audio-KI-Modellen erreichten die Angriffe im Schnitt hohe Erfolgsraten. Da es […]
AudioHijack: Versteckte Befehle in Sprach-KI unterlaufen Sicherheitsgrenzen
SAN FRANCISCO / LONDON (IT BOLTWISE) – Forschende zeigen mit „AudioHijack“, wie nahezu unhörbare Veränderungen in Audiodaten Sprach-KI in die Befolgung versteckter Anweisungen lenken können. Die Angriffe funktionieren nicht nur gegen das reine Transkribieren, sondern gegen moderne Audio-zu-Action-Modelle, die zuhören, interpretieren und externe Tools nutzen. Besonders kritisch: Die Signale sind wiederverwendbar und müssen nicht auf […]
#Sophos
#AmazonPrime
#Bestseller
