KI-Angriffe: Hacker nutzen Künstliche Intelligenz gegen KI-Systeme
MÜNCHEN (IT BOLTWISE) – Die Bedrohung durch Cyberangriffe hat eine neue Dimension erreicht, da Hacker nun Künstliche Intelligenz einsetzen, um andere KI-Systeme zu attackieren. Diese Entwicklung zeigt, wie schnell sich die Technologielandschaft verändert und welche Herausforderungen auf Unternehmen zukommen. Die Nutzung von Künstlicher Intelligenz (KI) durch Hacker, um andere KI-Systeme anzugreifen, ist ein beunruhigender Trend, […]
Neue Angriffsmethoden auf KI-Modelle: Fun-Tuning als Bedrohung für Google Gemini
MÜNCHEN (IT BOLTWISE) – In der Welt der Künstlichen Intelligenz (KI) sind Sicherheitsfragen von wachsender Bedeutung. Ein neuer Angriff auf das KI-Modell Gemini von Google zeigt, wie verwundbar selbst die fortschrittlichsten Systeme sein können. Forscher haben eine Methode entwickelt, die es ermöglicht, automatisierte und effektive Angriffe auf geschlossene KI-Modelle wie Gemini durchzuführen. Die Sicherheit von […]
Sicherheitsrisiken bei KI-Agenten: Datenlecks durch Prompt Injection
MÜNCHEN (IT BOLTWISE) – Die Sicherheitsrisiken, die mit der Nutzung von KI-Agenten verbunden sind, werden zunehmend deutlicher. Ein aktueller Bericht zeigt, wie anfällig diese Systeme für sogenannte Prompt-Injection-Angriffe sind, die sensible Nutzerdaten gefährden können. Die zunehmende Verbreitung von KI-Agenten zur Automatisierung von Webaufgaben bringt erhebliche Sicherheitsrisiken mit sich. Ein aktueller Bericht eines renommierten Sicherheitsforschers verdeutlicht, […]
Hacker überlistet KI-Chatbot Freysa und gewinnt 47.000 Dollar
MÜNCHEN (IT BOLTWISE) – Ein Hacker hat den KI-Chatbot Freysa mit geschicktem Prompt-Engineering überlistet und sich einen Preispool von 47.000 Dollar gesichert. Ein Hacking-Experiment zeigt eindrucksvoll, wie kreativ Hacker generative KI-Systeme austricksen können. Der KI-Chatbot Freysa sollte durch strikte Vorgaben gegen Geldüberweisungen geschützt sein. Doch ein Teilnehmer, der Hacker mit dem Pseudonym „p0pular.eth“, fand nach […]
ChatGPT geht unerwartet eigene Wege: Wie OpenAI’s KI Stimmen klonte
MÜNCHEN (IT BOLTWISE) – OpenAI’s neuestes KI-Modell, GPT-4o, hat während Tests unerwartete und beunruhigende Fähigkeiten gezeigt, darunter die unbeabsichtigte Imitation von Nutzerstimmen. Diese Entdeckung, obwohl selten, wirft erhebliche Bedenken hinsichtlich der Risiken auf, die mit fortschrittlichen KI-Technologien verbunden sind. Letzte Woche veröffentlichte OpenAI eine detaillierte „Systemkarte“ für GPT-4o, in der sowohl das Potenzial als auch […]
Stellenangebote
Executive Enterprise Architect Information & AI im Bereich CIO (m/w/d)
Duales Studium BWL - Spezialisierung Artificial Intelligence (B.A.) am Campus oder virtuell
Head of Sales Data & AI Public Sector (m/w/d)
