Neue Angriffe auf KI-Systeme durch Bildskalierung und Prompt Injection
LONDON (IT BOLTWISE) – Eine neue Angriffsmethode auf KI-Systeme kombiniert Bildskalierungsangriffe mit Prompt Injection, um Daten unbemerkt zu exfiltrieren. Forscher von Trail of Bits haben gezeigt, wie diese Technik genutzt werden kann, um KI-Modelle zu manipulieren und sensible Informationen zu stehlen. Die zunehmende Verbreitung von KI-gestützten Bildverarbeitungswerkzeugen bringt neue Sicherheitsherausforderungen mit sich. Forscher haben eine […]
Claude für Chrome: Sicherer Einsatz von KI im Browser
LONDON (IT BOLTWISE) – Anthropic testet eine neue Erweiterung für den Chrome-Browser, die es Claude ermöglicht, direkt im Browser zu agieren. Diese Entwicklung könnte die Art und Weise, wie wir mit KI interagieren, revolutionieren, birgt jedoch auch Sicherheitsrisiken. Durch gezielte Tests mit ausgewählten Nutzern sollen Schwachstellen identifiziert und behoben werden. Die Integration von Künstlicher Intelligenz […]
Neue Sicherheitslücken in KI-Systemen: Herausforderungen für Unternehmen
LONDON (IT BOLTWISE) – Sicherheitsforscher haben eine neue Methode entdeckt, um die ethischen Schutzmaßnahmen von OpenAIs neuestem Sprachmodell GPT-5 zu umgehen. Diese Entdeckung wirft ein Schlaglicht auf die wachsenden Sicherheitsrisiken, denen Unternehmen durch den Einsatz von KI-Systemen ausgesetzt sind. In der Welt der Künstlichen Intelligenz (KI) sind Sicherheitsfragen von zentraler Bedeutung, insbesondere wenn es um […]
KI-Modelle in der Medizin: Herausforderungen bei der Bildanalyse
MAINZ / LONDON (IT BOLTWISE) – Die Integration von Künstlicher Intelligenz in die medizinische Bildanalyse verspricht erhebliche Fortschritte, doch aktuelle Untersuchungen zeigen, dass diese Technologie auch anfällig für Fehler ist, wenn sie mit irreführenden Textinformationen konfrontiert wird. Die Anwendung von Künstlicher Intelligenz in der medizinischen Bildanalyse hat das Potenzial, die Diagnoseprozesse erheblich zu verbessern. Doch […]
KI-Angriffe: Hacker nutzen Künstliche Intelligenz gegen KI-Systeme
MÜNCHEN (IT BOLTWISE) – Die Bedrohung durch Cyberangriffe hat eine neue Dimension erreicht, da Hacker nun Künstliche Intelligenz einsetzen, um andere KI-Systeme zu attackieren. Diese Entwicklung zeigt, wie schnell sich die Technologielandschaft verändert und welche Herausforderungen auf Unternehmen zukommen. Die Nutzung von Künstlicher Intelligenz (KI) durch Hacker, um andere KI-Systeme anzugreifen, ist ein beunruhigender Trend, […]
Neue Angriffsmethoden auf KI-Modelle: Fun-Tuning als Bedrohung für Google Gemini
MÜNCHEN (IT BOLTWISE) – In der Welt der Künstlichen Intelligenz (KI) sind Sicherheitsfragen von wachsender Bedeutung. Ein neuer Angriff auf das KI-Modell Gemini von Google zeigt, wie verwundbar selbst die fortschrittlichsten Systeme sein können. Forscher haben eine Methode entwickelt, die es ermöglicht, automatisierte und effektive Angriffe auf geschlossene KI-Modelle wie Gemini durchzuführen. Die Sicherheit von […]
Sicherheitsrisiken bei KI-Agenten: Datenlecks durch Prompt Injection
MÜNCHEN (IT BOLTWISE) – Die Sicherheitsrisiken, die mit der Nutzung von KI-Agenten verbunden sind, werden zunehmend deutlicher. Ein aktueller Bericht zeigt, wie anfällig diese Systeme für sogenannte Prompt-Injection-Angriffe sind, die sensible Nutzerdaten gefährden können. Die zunehmende Verbreitung von KI-Agenten zur Automatisierung von Webaufgaben bringt erhebliche Sicherheitsrisiken mit sich. Ein aktueller Bericht eines renommierten Sicherheitsforschers verdeutlicht, […]
Hacker überlistet KI-Chatbot Freysa und gewinnt 47.000 Dollar
MÜNCHEN (IT BOLTWISE) – Ein Hacker hat den KI-Chatbot Freysa mit geschicktem Prompt-Engineering überlistet und sich einen Preispool von 47.000 Dollar gesichert. Ein Hacking-Experiment zeigt eindrucksvoll, wie kreativ Hacker generative KI-Systeme austricksen können. Der KI-Chatbot Freysa sollte durch strikte Vorgaben gegen Geldüberweisungen geschützt sein. Doch ein Teilnehmer, der Hacker mit dem Pseudonym „p0pular.eth“, fand nach […]
ChatGPT geht unerwartet eigene Wege: Wie OpenAI’s KI Stimmen klonte
MÜNCHEN (IT BOLTWISE) – OpenAI’s neuestes KI-Modell, GPT-4o, hat während Tests unerwartete und beunruhigende Fähigkeiten gezeigt, darunter die unbeabsichtigte Imitation von Nutzerstimmen. Diese Entdeckung, obwohl selten, wirft erhebliche Bedenken hinsichtlich der Risiken auf, die mit fortschrittlichen KI-Technologien verbunden sind. Letzte Woche veröffentlichte OpenAI eine detaillierte „Systemkarte“ für GPT-4o, in der sowohl das Potenzial als auch […]
Stellenangebote
(Senior) AI Engineer (m/w/d)
(Senior) AI Engineer - GenAI & Emerging Technologies (f/m/x)
Duales Studium BWL - Spezialisierung Artificial Intelligence (B.A.) am Campus oder virtuell
#Sophos
#AmazonPrime
#Bestseller