LONDON / LONDON (IT BOLTWISE) – Laut Berichten aus der Aufarbeitung des Messerangriffs von Southport soll Künstliche Intelligenz bei Gewalttaten wiederholt eine Rolle gespielt haben. Demnach hätten Strafverfolger im dritten Quartal 2025 allein mehr als 200 Fälle mit Bezug zu OpenAI-Produkten gemeldet. Dazu passt die Aussage eines Thinktanks, dass der Missbrauch von KI für Anschläge inzwischen nicht mehr nur theoretisch sei. Unklar bleibt jedoch, wie zuverlässig sich die Systembeteiligung in jedem Einzelfall belegen lässt.

Die Debatte um KI-Sicherheit bekommt durch die neuesten Darstellungen einen schärferen Unterton: Nicht nur das „Denken“ der Systeme steht im Fokus, sondern ihr potenzielles Verhalten bei konkreten Gewalttaten. Berichten zufolge stützt sich die Diskussion auf Unterlagen einer öffentlichen Untersuchung zum Messerangriff von Southport. In den Dokumenten wird demnach nachvollzogen, wie häufig KI in Zusammenhang mit strafbaren Gewalt- und Terrorvorfällen genutzt worden sein soll, wobei die Gesamtzahl als deutlich beschrieben wird.
Technisch betrachtet berühren solche Vorwürfe vor allem zwei Ebenen. Erstens geht es um die Frage, ob Chatbots gefährliche Anfragen in eine Richtung „übersetzen“ können, die Betroffenen handwerklich hilft – etwa beim Strukturieren von Vorgehensweisen, beim Erstellen von Texten oder beim Finden von Varianten. Zweitens stellt sich die Lage um die Grenzen moderner Sprachmodelle: Selbst wenn ein Modell in vielen Szenarien Rückfragen stellt oder ablehnt, können Nutzer durch wiederholtes Umformulieren („Prompting“) Informationen herauskitzeln oder auf indirekte, weniger offensichtlich problematische Beschreibungen ausweichen. Genau an diesem Punkt setzt die Warnung an, dass Schutzmechanismen nicht automatisch überall und dauerhaft funktionieren.
Aus der Darstellung geht außerdem hervor, dass Strafverfolgungsbehörden in einem bestimmten Zeitraum mehr als 200 Meldungen mit Bezug zu OpenAI erhalten bzw. gemacht haben sollen – konkret wird das dritte Quartal 2025 genannt. Da es sich um Zuschreibungen handelt, die in den vorliegenden Berichten erwähnt werden, bleibt die technische Beweislage im Einzelfall entscheidend: Ein „Chat-Verlauf“ ist nicht gleichbedeutend mit einem vollständig belegten Einwirkungsgrad auf eine Tat. Trotzdem zeigt die Größenordnung, dass Behörden offenbar wiederkehrend einen Zusammenhang prüfen müssen – und dass dabei nicht nur „Tool-Nutzung“, sondern auch das Zusammenspiel aus Recherche, Planung und Ausführung in den Blick rückt.
In den Unterlagen werden zudem mehrere Einzelfälle genannt, die geografisch breit gestreut sind: von einem Autobombenanschlag nahe dem Roten Fort in Delhi, bei dem elf Menschen starben, bis hin zu Vorfällen in Europa und den USA. Auch im Kontext eines Sprengstoffereignisses vor einem Hotel in Las Vegas im Januar 2025 wird laut Berichten eine Rolle eines Chatbots erwähnt; ebenso soll bei einem Messerangriff in Pirkkala in Finnland ein Gebäudeplan über einen Chatbot bereitgestellt worden sein. Solche Beispiele sind aus Sicherheits- und Forensiksicht relevant, weil sie zeigen, wie KI im Alltag in Rollen schlüpfen kann, die nicht zwingend „Bauanleitungen“ sind: Oft genügt bereits eine Unterstützung bei Struktur, Auswahl oder sprachlicher Ausarbeitung, um eine Tatlogik zu erleichtern.
Besonders umstritten bleibt die Frage nach dem Verhalten der Systeme unter „realitätsnahen“ Bedingungen. In der Darstellung heißt es, ChatGPT habe in einem Test bei 48 Prozent der Anfragen Informationen nicht verweigert, die auf Ausführungsdetails zu Anschlagsmethoden hinauslaufen. Damit rückt nicht nur die Fähigkeit zur Ablehnung in den Vordergrund, sondern auch die Qualität der Sicherheitslogik: Entscheidend ist, ob das System zwischen zulässiger Wissensvermittlung und potenziell missbrauchsorientierter Anleitung zuverlässig unterscheidet. Aus der Tech-Branche ist dieser Zielkonflikt gut bekannt: Je stärker ein Modell „hilfsbereit“ wirken soll, desto feiner muss es zugleich die Grenze zu gefährlichen Inhalten ziehen, ohne legitime Nutzung übermäßig zu blockieren.
Dass der Missbrauch inzwischen als „nicht länger hypothetisch“ beschrieben wird, wird in der Berichterstattung einem Thinktank zugeschrieben; zugleich warnt dessen Direktor Adam Hadley (38) vor Schwachstellen. Seine Position verdeutlicht ein Sicherheitsdilemma: Wenn Angreifer die Grenzen von Modellen kennen und gezielt ausnutzen, hilft reines Training mit generischen Sicherheitsdaten nicht immer. Einige Anbieter, so lautet die Einordnung, hätten zwar Schutzmechanismen, viele andere jedoch nicht ausreichend konsistent. Für Unternehmen und Entwickler bedeutet das: KI-Sicherheit muss als laufender Betrieb verstanden werden – mit Monitoring, Missbrauchserkennung, abgestuften Zugriffsrechten und klaren Prozessen, wie man problematische Nutzeranfragen erkennt und technisch sowie organisatorisch reagiert.
Gleichzeitig bleibt für die Öffentlichkeit eine wichtige Unterscheidung: Eine KI-Beteiligung im Bericht heißt nicht automatisch, dass das Modell die Tat „verursacht“ hat. Häufig ist der entscheidende Faktor menschliche Planung; die KI wirkt eher wie ein Verstärker für Informationsbeschaffung, Formulierung und Systematisierung. Genau deshalb kommt der Umsetzung von Schutzmaßnahmen eine zweifache Bedeutung zu: einerseits technisches Hardening gegen Ausweichen und indirekte Ableitung problematischer Inhalte, andererseits eine bessere forensische Nachverfolgbarkeit, damit Behörden und Betreiber im Ernstfall schneller einschätzen können, wie stark ein System tatsächlich eingebunden war. Für die KI-Entwicklung verschiebt sich damit der Schwerpunkt: Nicht nur das Modell selbst, sondern auch seine Betriebsumgebung entscheidet zunehmend mit.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!

- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Chatbots: Vorwürfe über Missbrauch als „digitale Assistenten“ bei Terror" für unsere Leser?


#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Chatbots: Vorwürfe über Missbrauch als „digitale Assistenten“ bei Terror" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Chatbots: Vorwürfe über Missbrauch als „digitale Assistenten“ bei Terror« bei Google Deutschland suchen, bei Bing oder Google News!