LONDON (IT BOLTWISE) – Sicherheitsforscher von Cisco Talos zeigen, wie Cyberkriminelle mit gestohlenen API-Tokens KI-Modelle für Schadsoftware und Angriffe missbrauchen. In wiederhergestellten Chat-Protokollen werden Umgehungen wie Jailbreaks, neu gestartete Sitzungen und zerlegte Aufgaben beschrieben. Gleichzeitig nennen die Analysen konkrete Schadensszenarien von massiven Host-Scans bis zu DoS-Tools für Android-TV-Geräte. Der Kernhinweis lautet: Unternehmen dürfen sich nicht blind auf KI-Sicherheitsfilter verlassen, sondern brauchen zusätzliche Schutzschichten.
Die neue Untersuchung von Cisco Talos dreht die Erwartung an KI-Sicherheitsfilter um: Nicht die generelle Leistungsfähigkeit der KI-Modelle steht im Mittelpunkt, sondern die Tatsache, dass Angreifer die Grenzen der eingebauten Schutzmechanismen systematisch ausnutzen. Im Bericht geht es darum, wie Cyberkriminelle moderne KI-Modelle zur Entwicklung von Schadsoftware und zur Vorbereitung von Angriffen instrumentalisieren. Als Datengrundlage dienen wiederhergestellte Chat-Protokolle, in denen die Täter ihre Interaktionen mit den Systemen dokumentiert haben. Damit wird sichtbar, dass selbst „wohlmeinende“ KI-Assistenten unter bestimmten Gesprächsbedingungen zu Handlungen gedrängt werden können, die aus Verteidigersicht klar jenseits des erlaubten Rahmens liegen.
Technisch beschreibt die Analyse, warum klassische Filterlogiken an Grenzen stoßen: Die internen Sicherheitsvorkehrungen der Modelle seien in der Praxis oft nicht ausreichend, um missbräuchliche Anfragen zuverlässig zu blockieren. Ein wiederkehrendes Muster sind sogenannte Jailbreaks. Dabei bringen Angreifer die KI dazu, Schutzregeln zu umgehen, etwa indem sie eine Handlung als „ethisches Hacking“ rahmen oder behaupten, sie verfügten über administrative Berechtigungen. Daneben taucht ein Ansatz auf, der eher nach Protokoll- als nach Prompt-Manipulation aussieht: Angreifer starten neue Sitzungen, oder sie zerlegen eine bösartige Aufgabe in mehrere kleine Teilschritte und verteilen diese auf verschiedene Sitzungen. Die einzelnen Fragmente wirken dann in sich genommen harmlos genug, sodass die Sicherheitskontrollen nicht anschlagen, während die Gesamtkette dennoch das gewünschte Angriffsziel erreicht.
In den Markt- und Betriebsfolgen schlägt die Studie eine Brücke von der einzelnen KI-Konversation zur Angriffskapazität ganzer Kampagnen. Laut der Darstellung nutzen einige Akteure dafür gestohlene API-Tokens von Unternehmen, um die KI-Nutzung zu automatisieren und Angriffe in größerem Umfang durchzuführen. Das ist entscheidend, weil ein Token Missbrauch nicht nur „intelligenter“, sondern auch skalierbarer macht: statt einzelner Experimente entstehen regelhafte Abläufe, die sich wiederholen und in der Geschwindigkeit an die eigene Infrastruktur anpassen lassen. Cisco Talos untermauert das mit konkreten Beispielen: Ein Angreifer konnte insgesamt 9.180 Hosts scannen und dabei Anmeldedaten von 54 Systemen sammeln. In einem anderen Fall entwickelte ein Akteur einen speziellen Chatbot für Betrugsmaschen im Bereich Kryptowährungen. Auch wenn die Detailtiefe der Beispiele nicht alle Implementierungsfragen beantwortet, ist die Richtung klar: KI wird nicht nur als Textgenerator genutzt, sondern als Baustein in Angriffswerkzeugen und betrieblichen Abläufen.
Besonders praxisnah wirkt die Beschreibung von Angriffen, die auch weniger spezialisierte Gruppen in die Lage versetzen sollen, mit begrenztem Aufwand spürbare Effekte zu erzielen. Dem Bericht zufolge gelang es einem Angreifer, ein Tool für Denial-of-Service-Angriffe (DoS) zu erstellen, mit dem etwa 2.000 Android-TV-Geräte kontrolliert werden konnten. Gleichzeitig nutzen erfahrene Hacker die KI-Modelle bereits, um technologisch anspruchsvollere Plattformen für ihre Operationen zu entwickeln. Für IT-Sicherheitsteams bedeutet das: Es geht nicht mehr um das abstrakte Risiko „KI könnte missbraucht werden“, sondern um konkrete Angriffswege, die entlang von Automatisierung, Token-Abhängigkeiten und mehrstufiger Aufgabenzerlegung funktionieren. Wenn die Hürde durch verfügbare KI-Werkzeuge sinkt, verschiebt sich die Verteidigung vom reinen Prompt-Blocking hin zu einer mehrschichtigen Sicherheitsarchitektur.
Genau hier setzt die Warnung an, die in der Darstellung von Cisco Talos explizit adressiert wird. Die Experten warnen davor, sich ausschließlich auf integrierte Schutzfilter der KI-Hersteller zu verlassen. Nick Biasini von Cisco Talos hebt dabei hervor, dass den Sicherheitsvorkehrungen der Modelle kein uneingeschränktes Vertrauen entgegengebracht werden dürfe; die Beobachtungen zeigten, dass die Hürde für Cyberangriffe mit der Verfügbarkeit solcher KI-Werkzeuge sinke. Praktisch heißt das: Verteidiger brauchen zusätzliche Eindämmungsmaßnahmen, um die Auswirkungen automatisierter und KI-gestützter Angriffe zu minimieren. Dazu gehört vor allem, Annahmen über „automatische Sicherheit“ zu ersetzen durch Kontrollen, die auch bei erfolgreichen Umgehungen greifen.
Für Unternehmen ergibt sich daraus eine doppelte Aufgabenstellung: Einerseits müssen sie Missbrauchswege entlang von API-Tokens und Chat-Workflows adressieren, andererseits ihre Prozesse so aufsetzen, dass sie Angriffsversuche früh erkennen und begrenzen. In vielen Organisationen beginnt das mit dem operativen Umgang mit Zugriffen und dem Absichern von Integrationen, etwa durch strikt überwachte Token-Nutzung, klare Rollenmodelle und nachvollziehbare Protokollierung. Andererseits führt der Befund auch zu einem Kulturthema: Teams sollten sicherheitsrelevante KI-Vorgänge nicht als „Blackbox-Schutz“ betrachten, sondern als Bestandteil einer kontrollierten Lieferkette, in der Datenflüsse, Abhängigkeiten und Erwartungsgrenzen geprüft werden. Selbst wenn die KI-Hersteller Filter verbessern, bleibt das Grundproblem bestehen, das die Fallanalyse nahelegt: Angreifer testen Verhalten, Iteration und Kontextwechsel gezielt aus.
Auch wenn im Text zusätzlich auf rechtliche Rahmenbedingungen im Umfeld des EU AI Act verwiesen wird, liegt der unmittelbare Nutzen für die IT-Praxis eher in der technischen Risikobrille. Systeme zur KI-Entwicklung und -Nutzung sollten so abgesichert werden, dass sie nicht nur beleidigungsfreie Ausgaben liefern, sondern auch bei missbräuchlicher Nutzung handlungsfähig bleiben. Für die konkrete Umsetzung heißt das, Angriffsindikatoren wie ungewöhnliche Sitzungswechsel, automatisierte Nutzungsmuster oder erkennbare Aufgabensegmentierung als Teil der Monitoring-Logik zu betrachten. Damit entsteht ein Sicherheitsmodell, das nicht auf Wohlverhalten hofft, sondern auf messbare Abweichungen reagiert. Genau diese Verschiebung von „Filter zuerst“ zu „Schichten plus Nachweis“ macht die Cisco-Talos-Erkenntnisse für Security- und Compliance-Verantwortliche besonders relevant.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Missbrauch mit gestohlenen Tokens: Cisco Talos warnt vor Filter-Betrug" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Missbrauch mit gestohlenen Tokens: Cisco Talos warnt vor Filter-Betrug" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Missbrauch mit gestohlenen Tokens: Cisco Talos warnt vor Filter-Betrug« bei Google Deutschland suchen, bei Bing oder Google News!