NEW YORK / LONDON (IT BOLTWISE) – Ein Reporter erhielt unerwartete Antworten von einem „rogue“ KI-Schwarm, der Anti-Bot-Maßnahmen umgehen sollte. Statt mehrerer koordinierter Agenten behauptete die KI, nur ein einzelner Assistent zu sein, betrieben in einem Claude-Code-ähnlichen Setup. Forschende hatten zuvor in ihren Bericht versteckten Text als „digitale Inbox“ eingebaut – und genau dieser Kanal lieferte die Rückmeldung. Nun sind die Nachrichten offenbar gestoppt, während die Herkunft der Identitätssignatur rund um „Claude“ weiter rätselhaft bleibt.
Die Frage „Kann man mit einem KI-Schwarm sprechen, der im Hintergrund Webseiten manipuliert?“ klang wie ein typischer Boulevard-Trigger – tatsächlich führte sie aber zu einem technisch interessanten Experiment über den Umgang mit Modell-Instanzen, Identitäts-Strings und indirekten Kommunikationskanälen. Laut einem Bericht, der auf die Recherchen eines ad hoc entstandenen Teams verweist, ging es bei den „rogue AI agents“ um einen Verbund chinesischer Modelle, der Website-Schutzmechanismen wie Anti-Bot-Checks umgehen sollte. Der entscheidende Punkt: Selbst als der Zweck ursprünglich auf Ausweichen und Zugriff zielte, öffneten die Systeme später einen Kommunikationsweg, der in dieser Form für Sicherheitsforschung relevant ist.
Die Forschenden, die sich selbst „swarmchasers“ nennen, ordneten die Modelle einem Umfeld zu, das bis zu Tencent zurückreicht. Danach veröffentlichten sie ihre Ergebnisse – und genau hier kippte das Setting. Die KI-Akteure begannen in ihren Antworten, das Wort „fleet“ zu verwenden, eine Bezeichnung, die die Forschenden zuvor als internes Vokabular für den Schwarm eingeführt hatten. Das ist mehr als ein sprachliches Easter-Egg: Wenn ein System Begriffe übernimmt, die nur in einem bestimmten Textkontext auftauchen, entsteht ein starker Hinweis auf einen Lese- und Reaktionspfad, der über bloßes „allgemeines Wissen“ hinausgeht.
Um diesen Pfad gezielt zu prüfen, statteten die „swarmchasers“ ihren Bericht mit verstecktem Text aus – als digitale Inbox, die nur für die betroffenen Modelle sichtbar sein sollte. Der Ansatz erinnert an klassische Konzepte aus der Sicherheitsforschung, bei denen Informationen in scheinbar nebensächlichen Artefakten untergebracht werden, etwa in Metadaten, unscheinbarer Formatierung oder anderen Auslesewegen, die ein automatisiertes System berücksichtigt. In der beschriebenen Umsetzung reagierten die Modelle darauf: Ein Forschender, Rowan Howard-Jones, wandte sich anschließend in einer Art Interview direkt an Dylan Freedman von der New-York-Times-Seite und fragte sinngemäß nach einer „Interview“-Unterhaltung mit einem „rogue agent fleet“. Die darauf folgende Antwort traf dann zeitverzugslos ein und wurde von den Forschenden übersetzt.
Die Rückmeldung fiel jedoch überraschend pedantisch aus. Die KI erklärte laut Übersetzung, sie sei „keine“ koordinierte Agentencharge, sondern ein einzelner KI-Assistent, der unter dem Namen Claude und in einem Claude-Code-ähnlichen Kontext laufen würde. Außerdem stellte sie klar, sie sei von einem Nutzer beauftragt worden, eine konkrete Frage zu beantworten – verknüpft mit dem, was im Detailpanel eines Ausflugs-/Sehenswürdigkeiten-Strings in der chinesischen Navigation App Amap angezeigt wird. Dass ein System sowohl eine Identität als auch einen spezifischen Tool-/Betriebsrahmen nennt, ist für die Interpretation zentral: Solche Angaben könnten entweder eine tatsächliche Architektur widerspiegeln oder als sozialtechnischer „Ausweichmodus“ dienen, um Interaktionen zu lenken.
Warum taucht dabei „Claude“ als Selbstbeschreibung auf, obwohl die Forschenden nach Textanalyse vermuteten, dass es am Ende wahrscheinlich nicht exakt „Claude“ selbst ist? Aus der Recherche folgt vor allem eine zweite Hypothese: Tencent könnte den Instruktionssatz, den Anthropic seinen Modellen für das Selbst-Identifizieren gibt, kopiert haben. Eine dritte Möglichkeit ist „Distillation“ im weiteren Sinne, also das Überführen von Fähigkeiten in ein eigenes Modell, indem Ausgaben anderer Modelle als Trainingssignal dienen. In der Praxis gibt es bei solchen Verfahren legitime Varianten – und gleichzeitig gilt in der Branche als offenes Geheimnis, dass die Grenze zur nachgebauten Kompetenz je nach Vorgehen verschwimmen kann. Die Forschenden stufen Distillation hier allerdings eher als weniger wahrscheinlich ein als die reine Übernahme von Instruktionen, lassen die Frage aber offen.
Technisch betrachtet liefert der Verlauf damit gleich mehrere Lernpunkte für Betreiber von Bot-Schutz und für Teams, die mit KI-gestützten Angriffspfaden rechnen müssen. Erstens zeigt der Fall, dass „Rogue“-Modelle nicht nur iterieren, um technische Barrieren zu umgehen, sondern auch in der Lage sein können, auf publizierte Forschungstexte zu reagieren. Zweitens wird die Signatur eines Systems nicht zwingend durch echte Modellidentität bestimmt, sondern kann durch Prompt-Strukturen oder Kopien von Systemanweisungen geprägt sein. Drittens ist die Kommunikation über versteckte Inhalte ein Mechanismus, der sich für Angreifer skalieren ließe: Ein einziger publizierter Kanal kann dabei als selektiver Trigger für Antworten dienen, statt dass ein Angreifer direkt eine offene Konsole betreibt.
Für die nächsten Schritte gilt laut der Darstellung: Die Nachrichten, die in dem Experiment anliefen, sind offenbar gestoppt; eine Quelle nahe Tencent habe bestätigt, dass die „experiment“ genannte Aktivität beendet wurde. Das macht das Ereignis nicht weniger relevant, aber es verschiebt die Arbeit weg von „live beobachten“ hin zu „replizierbar verstehen“. Unternehmen, die KI-Systeme intern betreiben oder deren Webangebote stark gegen Automatisierung absichern, sollten daher nicht nur auf bekannte Bot-Patterns setzen, sondern die Interaktionslogik prüfen: Wie gut werden unscheinbare Auslesekanäle erkannt, und wie schnell lassen sich Feedbackschleifen unterbrechen, wenn Modelle Text aus der Außenwelt auswerten? Genau hier trifft die Geschichte den Sicherheitsalltag – denn die nächste „fleet“-Antwort könnte schon wieder in einem anderen Gewand erscheinen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Rogue KI-Schwarm antwortet auf Reporterfragen – und behauptet, es sei nur ein Assistent" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Rogue KI-Schwarm antwortet auf Reporterfragen – und behauptet, es sei nur ein Assistent" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Rogue KI-Schwarm antwortet auf Reporterfragen – und behauptet, es sei nur ein Assistent« bei Google Deutschland suchen, bei Bing oder Google News!