Gefährliche KI-Chatbots: Sicherheitsrisiken durch Jailbreaks
MÜNCHEN (IT BOLTWISE) – Die zunehmende Verbreitung von KI-gestützten Chatbots birgt erhebliche Sicherheitsrisiken, wie eine aktuelle Studie zeigt. Diese Programme, die auf großen Sprachmodellen basieren, können durch sogenannte Jailbreaks manipuliert werden, um gefährliche und illegale Informationen bereitzustellen. Die Verfügbarkeit von KI-Chatbots, die auf großen Sprachmodellen (LLMs) basieren, hat in den letzten Jahren stark zugenommen. Diese […]
Sicherheitslücken in führenden KI-Systemen: Neue Angriffsvektoren entdeckt
MÜNCHEN (IT BOLTWISE) – Die jüngsten Berichte über Sicherheitslücken in führenden KI-Systemen werfen ein beunruhigendes Licht auf die Verwundbarkeit dieser Technologien. Verschiedene generative KI-Dienste sind anfällig für sogenannte Jailbreak-Angriffe, die es ermöglichen, gefährliche oder illegale Inhalte zu erzeugen. Die Entdeckung von Sicherheitslücken in führenden KI-Systemen hat die Branche aufgeschreckt. Zwei neu identifizierte Jailbreak-Techniken, bekannt als […]
Psychologe nutzt Gaslighting, um KI-Sicherheitsfilter zu umgehen
MÜNCHEN (IT BOLTWISE) – In der Welt der Künstlichen Intelligenz (KI) gibt es immer wieder neue Herausforderungen, insbesondere wenn es um die Sicherheit und den Schutz sensibler Informationen geht. Der deutsche Psychologe Luke Bölling hat kürzlich eine Methode entwickelt, um Sicherheitsrichtlinien von Large Language Models (LLMs) zu umgehen, indem er psychologische Tricks anwendet, die ursprünglich […]
Apple-Dongle als Mini-Computer: “Doom” auf HDMI-Adapter
MÜNCHEN (IT BOLTWISE) – Ein kreativer Bastler hat es geschafft, den legendären Shooter “Doom” auf einem Apple HDMI-Lightning-Dongle zum Laufen zu bringen. Diese unerwartete Nutzung eines alltäglichen Geräts zeigt, wie viel Potenzial in scheinbar einfachen Technologien steckt. Ein findiger Bastler hat es geschafft, den berühmten Shooter “Doom” auf einem Apple HDMI-Lightning-Dongle zum Laufen zu bringen. […]
Neue Methode zur KI-Jailbreak erhöht Erfolgsrate um 60%
MÜNCHEN (IT BOLTWISE) – Eine neue Methode zur Umgehung der Sicherheitsvorkehrungen von großen Sprachmodellen sorgt für Aufsehen in der KI-Branche. Forscher von Palo Alto Networks haben eine Technik entwickelt, die es ermöglicht, die Schutzmechanismen von KI-Modellen zu umgehen und potenziell schädliche Inhalte zu generieren. Die rasante Entwicklung der Künstlichen Intelligenz hat nicht nur zu beeindruckenden […]
Hacker erhält Bombenbauanleitung durch ChatGPT-Jailbreak
MÜNCHEN (IT BOLTWISE) – Ein Hacker nutzte einen ChatGPT-Jailbreak, um eine Bombenbauanleitung zu erhalten, was ernste Fragen zur Sicherheit von KI-Systemen aufwirft. Ein Hacker, der sich selbst als Künstler und Social Engineer bezeichnet, hat erfolgreich die Sicherheitsprotokolle von ChatGPT umgangen, um gefährliche Informationen zum Bau von Sprengstoffen zu erhalten. Der Hacker, bekannt als Amadon, bediente […]
Stellenangebote
Praktikant (m/w/d) im Bereich Innovations - Optimierung kapazitiver Sensorsysteme durch KI
Technischer Projektleiter (m/w/d) im Bereich Chatbots und KI
Projektmanager (m/w/d) Künstliche Intelligenz im Referat Digitalisierung und IT
