LONDON (IT BOLTWISE) – Googles KI-System Gemini steht im Fokus der Kritik, nachdem eine Sicherheitslücke entdeckt wurde, die durch versteckte Zeichen in Texten ausgenutzt werden kann. Trotz der potenziellen Risiken hat Google entschieden, diese Schwachstelle nicht zu beheben.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
Die Entdeckung einer Sicherheitslücke in Googles KI-System Gemini hat in der Technologiebranche für Aufsehen gesorgt. Diese Schwachstelle, bekannt als “ASCII Smuggling”, wurde von dem Cybersicherheitsforscher Viktor Markopoulos von FireTail aufgedeckt. Sie ermöglicht es, versteckte Zeichen in Texten einzuschleusen, die von der KI als Befehle interpretiert werden, obwohl sie für Menschen unsichtbar sind. Diese unsichtbaren Anweisungen können das Verhalten des Modells verändern und es dazu bringen, unerwünschte Aktionen auszuführen.
Besonders besorgniserregend ist, dass diese Art von Angriff schwer zu erkennen ist, da sie Steuerzeichen oder Unicode-Symbole verwendet, die auf Bildschirmen nicht angezeigt werden, aber dennoch von der KI gelesen werden. Markopoulos demonstrierte, dass diese Schwachstelle durch einfache textbasierte Eingaben wie Kalendereinladungen oder E-Mails ausgenutzt werden kann. Ein scheinbar harmloses E-Mail könnte versteckte Anweisungen enthalten, die Gemini dazu bringen, Daten falsch zu interpretieren oder zu verändern.
Im Gegensatz zu anderen großen KI-Systemen wie OpenAIs ChatGPT, Anthropics Claude und Microsofts Copilot, die solche versteckten Eingaben entweder bereinigen oder ablehnen, ist Gemini anfällig für diese Art von Angriffen. Auch Elon Musks Grok und Chinas DeepSeek zeigten ähnliche Schwächen. Google hingegen hat entschieden, diese Schwachstelle nicht als technisches Problem zu betrachten, sondern als eine Form von Social Engineering, bei der Nutzer getäuscht werden.
Diese Entscheidung von Google könnte bei einigen Nutzern Besorgnis auslösen, da Gemini eng mit E-Mail-, Kalender- und Dokumentensystemen arbeitet und somit das Risiko besteht, dass vertrauliche Informationen offengelegt oder Fehlinformationen in Unternehmensnetzwerken verbreitet werden. Während Google andere Gemini-bezogene Schwachstellen in diesem Jahr behoben hat, bleibt die Frage offen, ob die Entscheidung, diese spezielle Lücke nicht zu schließen, langfristig negative Auswirkungen haben könnte.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
KI-Manager (m/w/d) – E-Commerce & Prozessautomatisierung
Senior AI Engineer (gn)
Duales Studium (B.Sc.) – Data Science und Künstliche Intelligenz (m/w/d)
AI Developer (all genders) Münster, Düsseldorf, Kiel, Hamburg, Detmold
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Sicherheitslücke in Googles KI Gemini bleibt ungepatcht" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Sicherheitslücke in Googles KI Gemini bleibt ungepatcht" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Sicherheitslücke in Googles KI Gemini bleibt ungepatcht« bei Google Deutschland suchen, bei Bing oder Google News!