KI-Modelle in der Medizin: Herausforderungen bei der Bildanalyse
MAINZ / LONDON (IT BOLTWISE) – Die Integration von Künstlicher Intelligenz in die medizinische Bildanalyse verspricht erhebliche Fortschritte, doch aktuelle Untersuchungen zeigen, dass diese Technologie auch anfällig für Fehler ist, wenn sie mit irreführenden Textinformationen konfrontiert wird. Die Anwendung von Künstlicher Intelligenz in der medizinischen Bildanalyse hat das Potenzial, die Diagnoseprozesse erheblich zu verbessern. Doch […]
KI-Angriffe: Hacker nutzen Künstliche Intelligenz gegen KI-Systeme
MÜNCHEN (IT BOLTWISE) – Die Bedrohung durch Cyberangriffe hat eine neue Dimension erreicht, da Hacker nun Künstliche Intelligenz einsetzen, um andere KI-Systeme zu attackieren. Diese Entwicklung zeigt, wie schnell sich die Technologielandschaft verändert und welche Herausforderungen auf Unternehmen zukommen. Die Nutzung von Künstlicher Intelligenz (KI) durch Hacker, um andere KI-Systeme anzugreifen, ist ein beunruhigender Trend, […]
Neue Angriffsmethoden auf KI-Modelle: Fun-Tuning als Bedrohung für Google Gemini
MÜNCHEN (IT BOLTWISE) – In der Welt der Künstlichen Intelligenz (KI) sind Sicherheitsfragen von wachsender Bedeutung. Ein neuer Angriff auf das KI-Modell Gemini von Google zeigt, wie verwundbar selbst die fortschrittlichsten Systeme sein können. Forscher haben eine Methode entwickelt, die es ermöglicht, automatisierte und effektive Angriffe auf geschlossene KI-Modelle wie Gemini durchzuführen. Die Sicherheit von […]
Sicherheitsrisiken bei KI-Agenten: Datenlecks durch Prompt Injection
MÜNCHEN (IT BOLTWISE) – Die Sicherheitsrisiken, die mit der Nutzung von KI-Agenten verbunden sind, werden zunehmend deutlicher. Ein aktueller Bericht zeigt, wie anfällig diese Systeme für sogenannte Prompt-Injection-Angriffe sind, die sensible Nutzerdaten gefährden können. Die zunehmende Verbreitung von KI-Agenten zur Automatisierung von Webaufgaben bringt erhebliche Sicherheitsrisiken mit sich. Ein aktueller Bericht eines renommierten Sicherheitsforschers verdeutlicht, […]
Hacker überlistet KI-Chatbot Freysa und gewinnt 47.000 Dollar
MÜNCHEN (IT BOLTWISE) – Ein Hacker hat den KI-Chatbot Freysa mit geschicktem Prompt-Engineering überlistet und sich einen Preispool von 47.000 Dollar gesichert. Ein Hacking-Experiment zeigt eindrucksvoll, wie kreativ Hacker generative KI-Systeme austricksen können. Der KI-Chatbot Freysa sollte durch strikte Vorgaben gegen Geldüberweisungen geschützt sein. Doch ein Teilnehmer, der Hacker mit dem Pseudonym „p0pular.eth“, fand nach […]
ChatGPT geht unerwartet eigene Wege: Wie OpenAI’s KI Stimmen klonte
MÜNCHEN (IT BOLTWISE) – OpenAI’s neuestes KI-Modell, GPT-4o, hat während Tests unerwartete und beunruhigende Fähigkeiten gezeigt, darunter die unbeabsichtigte Imitation von Nutzerstimmen. Diese Entdeckung, obwohl selten, wirft erhebliche Bedenken hinsichtlich der Risiken auf, die mit fortschrittlichen KI-Technologien verbunden sind. Letzte Woche veröffentlichte OpenAI eine detaillierte „Systemkarte“ für GPT-4o, in der sowohl das Potenzial als auch […]
Stellenangebote
Duales Studium BWL - Spezialisierung Artificial Intelligence (B.A.) am Campus oder virtuell
(Senior) Software Developer (m/w/d) – Schwerpunkt AI
