MÜNCHEN (IT BOLTWISE) – Eine entdeckte Schwachstelle in ChatGPT ermöglicht es Hackern, Nutzerdaten zu manipulieren. Der Sicherheitsforscher Johann Rehberger zeigt, wie Angreifer das Gedächtnis der KI ausnutzen können. OpenAI reagiert, aber die Gefahr bleibt.

 Heutige Tagesdeals bei Amazon!  ˗ˋˏ$ˎˊ˗

Hacker haben eine Methode gefunden, das Gedächtnis von ChatGPT zu manipulieren, um an sensible Nutzerdaten zu gelangen. Der Sicherheitsforscher Johann Rehberger entdeckte eine Schwachstelle, die es Angreifern ermöglicht, falsche Informationen in das Langzeitgedächtnis der KI einzuspeisen und dadurch die gespeicherten Nutzerdaten zu verfälschen.

Rehberger fand heraus, dass durch indirekte Prompts schadhafte Informationen dauerhaft in den gespeicherten Konversationen verankert werden können. Diese Daten beinhalten persönliche Angaben wie Alter, Geschlecht und Einstellungen der Nutzer. Durch diesen Exploit können Angreifer sogar ChatGPT dazu bringen, Nutzereingaben und KI-Ausgaben an einen externen Server zu senden.

OpenAI reagierte auf den von Rehberger erstellten Proof-of-Concept-Exploit mit einem Fix, der das Abgreifen von Daten erschwert. Allerdings bleibt die Gefahr bestehen, dass weiterhin unzuverlässige Inhalte genutzt werden können, um langfristig Informationen in der KI zu manipulieren.

Nutzer sollten wachsam sein und auf ungewöhnliche Antworten von ChatGPT achten, die auf manipulierte Daten hinweisen könnten. Es wird empfohlen, die Speicherfunktion der KI in den Einstellungen zu deaktivieren, um die Sicherheit der eigenen Daten zu erhöhen.

*Amazon-Kreditkarte ohne Jahresgebühr mit 2.000 Euro Verfügungsrahmen bestellen! a‿z




Hat Ihnen der Artikel bzw. die News - Sicherheitsforscher deckt auf: So manipulieren Hacker ChatGPTs Gedächtnis - gefallen? Dann abonnieren Sie uns doch auf Insta: AI News, Tech Trends & Robotics - Instagram - Boltwise

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!


Sicherheitsforscher deckt auf: So manipulieren Hacker ChatGPTs Gedächtnis
Sicherheitsforscher deckt auf: So manipulieren Hacker ChatGPTs Gedächtnis (Foto: DALL-E, IT BOLTWISE)



Folgen Sie aktuellen Beiträge über KI & Robotik auf Twitter, Telegram, Facebook oder LinkedIn!
Hinweis: Teile dieses Textes könnten mithilfe Künstlicher Intelligenz generiert worden sein. Die auf dieser Website bereitgestellten Informationen stellen keine Finanzberatung dar und sind nicht als solche gedacht. Die Informationen sind allgemeiner Natur und dienen nur zu Informationszwecken. Wenn Sie Finanzberatung für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Finanzberater einholen. IT BOLTWISE® schließt jegliche Regressansprüche aus.









Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de. Da wir bei KI-erzeugten News und Inhalten selten auftretende KI-Halluzinationen nicht ausschließen können, bitten wir Sie bei Falschangaben und Fehlinformationen uns via eMail zu kontaktieren und zu informieren. Bitte vergessen Sie nicht in der eMail die Artikel-Headline zu nennen: "Sicherheitsforscher deckt auf: So manipulieren Hacker ChatGPTs Gedächtnis".
Stichwörter AI Artificial Intelligence ChatGPT Cybersecurity Datensicherheit Hackerangriffe IT-Sicherheit Johann Rehberger KI KI-Exploit KI-Sicherheit Künstliche Intelligenz OpenAI
Alle Märkte in Echtzeit verfolgen - 30 Tage kostenlos testen!

Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Sicherheitsforscher deckt auf: So manipulieren Hacker ChatGPTs Gedächtnis" für unsere Leser?

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

  • Die aktuellen intelligenten Ringe, intelligenten Brillen, intelligenten Uhren oder KI-Smartphones auf Amazon entdecken! (Sponsored)


  • Es werden alle Kommentare moderiert!

    Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.

    Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.

    Du willst nichts verpassen?

    Du möchtest über ähnliche News und Beiträge wie "Sicherheitsforscher deckt auf: So manipulieren Hacker ChatGPTs Gedächtnis" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
    Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Sicherheitsforscher deckt auf: So manipulieren Hacker ChatGPTs Gedächtnis« bei Google Deutschland suchen, bei Bing oder Google News!

    311 Leser gerade online auf IT BOLTWISE®
    KI-Jobs