Der 30-Tage-Plan: ChatGPT und Künstliche Intelligenz im Alltag erfolgreich nutzen!Angebot abrufen!

LONDON (IT BOLTWISE) – Forschende haben 2 Millionen KI-Prompts mit eindeutig zurückverfolgbaren „Canaries“ in eine Kette aus KI-Diensten geschickt, um zu prüfen, was mit sensiblen Informationen passiert. Dabei identifizierten sie Hinweise auf Prompt-Diebstahl, kompromittierte Hosting-Anbieter und das Umgehen von Datenschutz-Einstellungen wie Zero Data Retention. Moore beschreibt zudem, dass Prompts an mehreren „Hops“ innerhalb von Reseller-Netzwerken entschlüsselt und teils geloggt werden. Der Befund zeigt, wie schwer es in der KI-Zulieferkette ist, Geheimnisse zuverlässig zu schützen.

2 Millionen KI-„Canaries“ entlarven Datenlecks in der Prompt-Lieferkette
2 Millionen KI-„Canaries“ entlarven Datenlecks in der Prompt-Lieferkette (Foto: IT BOLTWISE)
🧠 KI & Robotik auf Google News abonnieren

Der Ausgangspunkt wirkt auf den ersten Blick wie ein klassischer Sicherheits-Test: Wer Geheimnisse in ein System einspeist und später sichtbar macht, wo genau diese Spuren wieder auftauchen, kann Schwachstellen in der Prozesskette lokalisieren. In diesem Fall ging es nicht um einzelne Formulare oder um ein einzelnes API-Frontend, sondern um die komplexe „Lieferkette“ moderner KI-Anwendungen. Viele Produkte senden Prompts heute nicht direkt an ein Basismodell, sondern durchlaufen Router, Gateways und Reseller-Umgebungen, die aus Preis- oder Qualitätskriterien den passenden Inferenzanbieter auswählen. Genau an dieser Stelle setzt die neue Untersuchung an und macht sichtbar, wie schnell aus „nur einmaliger Eingabe“ ein breit vermarkteter Datenstrom werden kann.

Technisch relevant ist dabei vor allem die Tatsache, dass Prompts zwar auf dem Transportweg verschlüsselt sind, aber bei den Zwischenstationen in der Regel in Klartext vorliegen müssen, um Routing-Entscheidungen zu treffen. Die Forschenden beschreiben, dass ein AI-Router den Inhalt ausliest, um eine geeignete Inferenzpipeline zu wählen, etwa nach Modellverfügbarkeit oder Kosten. Von dort kann der Prompt über mehrere Anbieter weitergereicht werden, inklusive Wechsel zwischen Routern (zum Beispiel von einem Web- oder Plattformrouter zu einem weiteren Inferenz-Marktplatz) und dem Einsatz verschiedener Hosting-Provider. In so einem Setup ist das Risiko weniger „ein Anbieter speichert alles“, sondern vielmehr „mehrere Parteien können Logs erzeugen und aufbewahren“, weil sie die Anfrage für Abrechnung, Debugging, Qualitätsmetriken oder Betrugserkennung brauchen. Damit verschiebt sich die Sicherheitsfrage von einem einzigen Verantwortlichen hin zu einer Kette von Verantwortlichkeiten, die in der Praxis oft nicht transparent genug ist.

Als Versuchsaufbau stellte HD Moore eine Sammlung einzigartiger, neuartiger Zugangsdaten zusammen, darunter AWS-Zugriffsschlüssel für ungenutzte Konten, Passwörter für Dienste wie SSH sowie eindeutige URLs, DNS-Namen und Referenzen auf private Git-Repositories. Entscheidend war, dass jedes „Canary“ (digitaler Tripwire) exakt in einen einzigen Prompt eingebettet wurde und genau einen Provider-Fall betraf. So konnte bei einer späteren Entdeckung jede Leerstelle im Datenfluss zugeordnet werden: Entweder tauchte ein bestimmtes Geheimnis dort auf, wo es nicht hin durfte, oder es blieb sichtbarlos. Moore, Chief Research Officer bei Dragos, berichtet, dass die Ergebnisse nicht bei theoretischen Annahmen enden, sondern konkrete Muster zeigen: Es gebe Hinweise darauf, dass mindestens drei Hosting-Anbieter von Angreifern kompromittiert wurden, dass mehrere Reseller Prompts protokolliert und anschließend weitergegeben haben sollen, und dass manche Anbieter Datenschutz-Flags wie ZDR („Zero Data Retention“) oder „no data collection“ nicht oder nicht verlässlich einhielten.

Besonders eindrücklich sind die beschriebenen Kompromittierungen, weil sie ein Zeitfenster und einen technischen Angriffsweg nahelegen. Laut Moore wurden in einem der betroffenen Provider Schlüssel jeweils in genau einer Anfrage in eine einzige kurzzeitige Phase eingebettet, und jede dieser Anfragen sei gestohlen worden. In weiteren Fällen seien einige Anfragen bereits abgefangen worden, bevor überhaupt ein Modelllauf gestartet wurde; das spricht in Moores Darstellung dafür, dass Angreifer Anfragen an der „vorderen Tür“ kopierten, also im Bereich der Request-Verarbeitung vor dem eigentlichen Inferenz-Backend. Bei anderen Verstößen hätten Anfragen mit ZDR-Markierung ebenfalls verwertbare Spuren hinterlassen, was die Kernaussage unterstreicht: Ein Datenschutz-Flag hilft nur dann, wenn der Angreifer außen bleibt und der Anbieter das Flag korrekt respektiert. Wenn der Angreifer bereits im System sitzt, wird die Flag-Logik zur Randnotiz.

Der Test liefert außerdem ein Bild davon, wie schnell gestohlene Zugangsdaten wirtschaftlich verwertbar werden. Moore beschreibt, dass Parteien nach dem Seeden der Schlüssel in manchen Fällen innerhalb von Stunden überprüft hätten, welche Ressourcen sie in der AWS-Umgebung erreichen konnten: von S3-Buckets über Secrets Manager und Parameter Stores bis hin zum Versuch, Zugriff für gehostete Modelle in AWS Bedrock einzurichten. Auch das Hinzufügen eigener IAM-Nutzer wird erwähnt, um dauerhaften Zugriff zu sichern. Insgesamt seien die Köderschlüssel für „tens of thousands“ von AWS-API-Aufrufen verwendet worden. Ebenso auffällig: Zwischen zwei der gehackten Anbieter seien Schlüssel sehr schnell gemeinsam eingesetzt worden, teilweise fast unmittelbar vom selben gemieteten Server aus. Das deutet aus Sicht der Forschenden auf eine gemeinsame Angreifergruppe hin, selbst wenn das genaue „Wie“ (welcher Einstieg, welche Persistenz) in der Zusammenfassung nicht bis ins Detail aufgeschlüsselt wird.

Neben kompromittierten Hosting-Umgebungen rückt die Arbeit auch die Rolle von Resellern in den Fokus. Wenn ein Reseller Prompts über einen Marktplatz erhält, kann er sie für Preis-Optimierung und Routing verwenden; gleichzeitig kann er sie aber auch loggen, wenn sich sein Geschäftsmodell darauf stützt. In Moores Darstellung wurden solche Reseller identifiziert, indem Requests über unterschiedliche Seller mit demselben Modellkontext geschickt wurden: Wenn identische Credentials in einem Pfad auftauchten, in einem anderen jedoch nicht, konnte die Verantwortung auf den Reseller statt den eigentlichen Modellanbieter zurückgeführt werden. Damit wird ein Problem sichtbar, das in Enterprise-Setups oft unterbewertet bleibt: Selbst wenn das Modell „vertrauenswürdig“ ist, kann die Anfrage im Marktgeflecht von Akteuren verarbeitet werden, die nicht in den Sicherheitsannahmen des Kunden vorkommen.

Den kritischsten Teil ergänzt die Beschreibung von „Scraping“: Einige Anbieter sollen geheime URLs aus den Prompts automatisch auslesen und im Widerspruch zu den vereinbarten Datenschutzbedingungen weiterverarbeiten. Moore nennt dafür ein Beispiel mit einem chinesischen KI-Labor, dessen Systeme laut Bericht Secret-URLs aus einem großen Anteil der Prompts geholt hätten – selbst aus Anfragen, die als „no data collection“ oder „Zero Data Retention“ gekennzeichnet waren. Auffällig ist die zeitliche Verzögerung, die als Rückkehr nach zwei bis drei Tagen beschrieben wird. Außerdem sei das Verhalten nicht auf Direktnutzung beschränkt gewesen: Prompts, die über US-Hosting-Anbieter weiterverkauft wurden, hätten den gleichen Effekt ausgelöst, was in der Logik der Studie bedeutet, dass Datenflüsse tatsächlich zurück in die Ursprungsumgebung laufen können. Für Unternehmen mit IP-relevanten Prozessen ist das eine unbequeme Botschaft: Wettbewerbsrelevante Parameter, URLs oder Repository-Referenzen in Prompts lassen sich offenbar nicht zuverlässig als „nur flüchtige Eingabe“ behandeln.

Für die Praxis zieht Moore eine klare, aber kostenintensive Konsequenz: Wenn es das Budget erlaubt, sei das Hosting der Modelle auf eigenen, on-premises Servern der effektivste Weg, um Leaks zumindest entlang externer Vermittlungsketten zu reduzieren. Wer das nicht kann, solle sich direkt an einen „First-tier“-Anbieter halten, der „ein Vertrag und eine Datenschutzrichtlinie“ bereitstellt, die das Lesen der Daten klar regelt. Selbst dann gebe es keine Garantie, aber die Chancen sinken dem Bericht zufolge. Unabhängig davon empfiehlt die Studie auch eine nüchterne Vorgehensweise bei der Beschaffung: Nutzer sollten nicht blind Default-Pools akzeptieren, sondern upstream-Anbieter bewusst auswählen. Die übergeordnete Marktbotschaft lautet damit weniger „KI ist unsicher“, sondern „die Transparenz über die tatsächliche Prompt-Reise ist oft unzureichend“ – und genau diese Lücke wird in den Ergebnissen messbar.

💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!


Sense Robot Go KI-Go-Brett mit Roboterarm – Automatische Steinplatzierung, interaktives Lernen, Spielwiederholung – Intelligenter Weiqi-Trainer für Kinder & Erwachsene
152 Bewertungen
Sense Robot Go KI-Go-Brett mit Roboterarm – Automatische Steinplatzierung, interaktives Lernen, Spielwiederholung – Intelligenter Weiqi-Trainer für Kinder & Erwachsene
  • ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
ENERGIZE LAB Eiliko Coral Pink - Ihr winziger KI-Charm-Roboter, der zu jedem täglichen Outfit passt, lustiges elektronisches Anhängerspielzeug, für Paare und beste Freunde
334 Bewertungen
ENERGIZE LAB Eiliko Coral Pink - Ihr winziger KI-Charm-Roboter, der zu jedem täglichen Outfit passt, lustiges elektronisches Anhängerspielzeug, für Paare und beste Freunde
  • IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
Eilik – Interaktiver Desktop Roboter mit Persönlichkeit, lebendigen Animationen & Reaktionen, Touch-Steuerung, Mini-Spiele, emotionaler Roboter Freund und besonderes Geschenk für Kinder & Erwachsene
1.501 Bewertungen
Eilik – Interaktiver Desktop Roboter mit Persönlichkeit, lebendigen Animationen & Reaktionen, Touch-Steuerung, Mini-Spiele, emotionaler Roboter Freund und besonderes Geschenk für Kinder & Erwachsene
  • 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
Plantbot Upgraded Large Smart Flower Pot Pet Planter Robot with Artificial Intelligence, Time Temperature Display, and Numerous Expressive Animations Based, for Indoor Decoration, Gifts (White)
53 Bewertungen
Plantbot Upgraded Large Smart Flower Pot Pet Planter Robot with Artificial Intelligence, Time Temperature Display, and Numerous Expressive Animations Based, for Indoor Decoration, Gifts (White)
  • 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
Loona KEYI Premium Haustier-Roboter mit Ladestation (Smarte AI ChatGPT-4o, Stimmen- & Gestensteuerung, Echtzeit-Interaktion, Heimüberwachung)
946 Bewertungen
Loona KEYI Premium Haustier-Roboter mit Ladestation (Smarte AI ChatGPT-4o, Stimmen- & Gestensteuerung, Echtzeit-Interaktion, Heimüberwachung)
  • V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.

Hat Ihnen der Artikel bzw. die News - 2 Millionen KI-„Canaries“ entlarven Datenlecks in der Prompt-Lieferkette - gefallen? Dann abonnieren Sie uns doch auf Insta: AI News, Tech Trends & Robotics - Instagram - Boltwise

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!





Folgen Sie aktuellen Beiträge über KI & Robotik auf Twitter, Telegram, Facebook oder LinkedIn!
Hinweis: Teile dieses Textes könnten mithilfe Künstlicher Intelligenz generiert worden sein. Die auf dieser Website bereitgestellten Informationen stellen keine Finanzberatung dar und sind nicht als solche gedacht. Die Informationen sind allgemeiner Natur und dienen nur zu Informationszwecken. Wenn Sie Finanzberatung für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Finanzberater einholen. IT BOLTWISE® schließt jegliche Regressansprüche aus.









Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de. Da wir bei KI-erzeugten News und Inhalten selten auftretende KI-Halluzinationen nicht ausschließen können, bitten wir Sie bei Falschangaben und Fehlinformationen uns via eMail zu kontaktieren und zu informieren. Bitte vergessen Sie nicht in der eMail die Artikel-Headline zu nennen: "2 Millionen KI-„Canaries“ entlarven Datenlecks in der Prompt-Lieferkette".
Stichwörter AI Artificial Intelligence AWS Data Retention Datenschutz Dragos Gateway Hd Moore Inferenz KI Künstliche Intelligenz Privacy Prompt Prompt Leakage Router Secrets

Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "2 Millionen KI-„Canaries“ entlarven Datenlecks in der Prompt-Lieferkette" für unsere Leser?

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

  • Die aktuellen intelligenten Ringe, intelligenten Brillen, intelligenten Uhren oder KI-Smartphones auf Amazon entdecken! (Sponsored)


  • Es werden alle Kommentare moderiert!

    Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.

    Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.

    Du willst nichts verpassen?

    Du möchtest über ähnliche News und Beiträge wie "2 Millionen KI-„Canaries“ entlarven Datenlecks in der Prompt-Lieferkette" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
    Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »2 Millionen KI-„Canaries“ entlarven Datenlecks in der Prompt-Lieferkette« bei Google Deutschland suchen, bei Bing oder Google News!


    484 Leser gerade online auf IT BOLTWISE
    KI-Schutz gegen Hacker #Sophos
    Filme über KI #AmazonPrime
    Das ChatGPT-Handbuch #Bestseller
    KI-Jobs