KI als Waffe im Cyberkrieg: Einblicke von Rachel James

LONDON (IT BOLTWISE) – Die Cybersecurity-Welt steht vor einer neuen Herausforderung, bei der Künstliche Intelligenz sowohl als Schutzschild als auch als Waffe eingesetzt wird.

Die Cybersecurity-Branche befindet sich in einem neuen Wettlauf der Waffen, bei dem Künstliche Intelligenz (KI) sowohl als mächtiger Schutzschild für Verteidiger als auch als gefährliches Werkzeug für Angreifer dient. Diese komplexe Landschaft erfordert ein tiefes Verständnis der Technologie und der Menschen, die sie missbrauchen könnten. Rachel James, Principal AI ML Threat Intelligence Engineer bei AbbVie, gibt Einblicke in die Nutzung von KI zur Stärkung der Unternehmenssicherheit.

James und ihr Team setzen große Sprachmodelle ein, um eine Flut von Sicherheitswarnungen zu durchforsten, Muster zu erkennen, Duplikate zu identifizieren und gefährliche Lücken in den Verteidigungsmaßnahmen zu finden, bevor ein Angreifer dies tut. Diese Modelle helfen, Ähnlichkeiten und Duplikationen zu bestimmen und bieten eine Lückenanalyse. Der nächste Schritt besteht darin, externe Bedrohungsdaten zu integrieren, um die Sicherheitsmaßnahmen weiter zu verbessern.

Im Zentrum dieser Operation steht eine spezialisierte Bedrohungsintelligenzplattform namens OpenCTI, die dabei hilft, aus einem Meer digitaler Informationen ein einheitliches Bedrohungsbild zu erstellen. KI ist der Motor, der diese Cybersecurity-Bemühungen ermöglicht, indem sie große Mengen unstrukturierter Texte in ein standardisiertes Format umwandelt. Das Ziel ist es, Sprachmodelle zu nutzen, um diese Kernintelligenz mit allen anderen Bereichen der Sicherheitsoperationen zu verbinden, von der Schwachstellenverwaltung bis zum Drittanbieterrisiko.

Die Nutzung dieser Macht erfordert jedoch Vorsicht. James ist sich der Risiken bewusst, die mit der kreativen, aber oft unvorhersehbaren Natur der generativen KI verbunden sind. Sie weist auf drei grundlegende Kompromisse hin, denen sich Unternehmensleiter stellen müssen: das Risiko, das mit der kreativen, aber unvorhersehbaren Natur der generativen KI einhergeht, der Verlust der Transparenz bei der Entscheidungsfindung der KI und die Gefahr, den tatsächlichen Return on Investment eines KI-Projekts falsch einzuschätzen.

Um eine bessere Cybersecurity-Strategie im KI-Zeitalter zu entwickeln, muss man seinen Angreifer verstehen. James bringt hier ihre umfangreiche Erfahrung ein. Sie verfolgt aktiv die Kommunikation von Gegnern und die Entwicklung von Tools über Open-Source-Kanäle und ihre eigenen automatisierten Sammlungen aus dem Dark Web. Ihre Erkenntnisse teilt sie auf ihrem GitHub ‘cybershujin’.

Für die Zukunft der Branche sieht James eine klare Richtung. Sie hat eine faszinierende Parallele entdeckt: Der Lebenszyklus der Cyber-Bedrohungsintelligenz ist fast identisch mit dem Lebenszyklus der Datenwissenschaft, der für KI-ML-Systeme grundlegend ist. Diese Ausrichtung bietet eine enorme Chance für Verteidiger, die Macht der Intelligenzdaten und der KI zu nutzen.

Rachel James wird ihre Erkenntnisse auf der diesjährigen AI & Big Data Expo Europe in Amsterdam am 24.-25. September 2025 teilen. Ihre Präsentation am zweiten Tag trägt den Titel ‘Von Prinzipien zur Praxis – Einbettung von KI-Ethik im großen Maßstab’.

Bestseller Nr. 1 - «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2 - «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 - «KI Gadgets»

PLAUD Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 - «KI Gadgets»

KI-Sprachrekorder, PLAUD NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 - «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

79,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!