Sollten CISOs uneingeschränkt KI für Cybersicherheit nutzen dürfen?

LONDON (IT BOLTWISE) – Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat viele überrascht, und in der Cybersicherheitsbranche gibt es Bedenken, dass Regulierungen den Fortschritt behindern könnten.

Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat viele überrascht, und in der Cybersicherheitsbranche gibt es Bedenken, dass Regulierungen den Fortschritt behindern könnten. Brad Jones, CISO von Snowflake, betont, dass die Regierung nicht in der Lage sei, Gesetze oder Kontrollen zu erlassen, die mit dem Innovationszyklus der KI Schritt halten können. Eine frühere Version des 2025 Reconciliation Act sah ein zehnjähriges Moratorium für staatliche KI-Regulierungen vor, das jedoch entfernt wurde. Sicherheitsfachleute wie die Security Industry Association (SIA) hatten sich für Einschränkungen bei staatlichen KI-Regulierungen ausgesprochen, da KI die schnelle Analyse für Grenzsicherheit und digitale Beweiserkennung verbessern könnte.

Jones erklärt, dass Unternehmen auf Unternehmensebene möglicherweise am besten in der Lage sind, Leitlinien für den Einsatz von KI zu setzen. Er argumentiert, dass die Probleme, die durch KI aufgedeckt werden, oft bereits bestehende Datenprobleme sind, die durch KI nur offensichtlicher werden. Dies sei nicht umfassend reguliert, obwohl es regulatorische Fragen im Zusammenhang mit Datenschutz oder personenbezogenen Daten gibt, die auf KI anwendbar wären.

Die Entwicklung von KI-Modellen, insbesondere von großen Sprachmodellen, sollte in den USA nicht behindert werden, so Jones. Andere Länder könnten ohne solche Regulierungen schnell Fortschritte machen, während die USA dadurch behindert würden. Es sei wichtig, Sicherheitsfachleuten nicht die Möglichkeit zu nehmen, mit KI zu innovieren und Unternehmen die Nutzung dieser Technologie zu ermöglichen. KI-Agenten könnten repetitive Aufgaben übernehmen, um Menschen zu entlasten, was besonders in der Cybersicherheit von Vorteil wäre.

Ulf Lindqvist, Senior Technical Director im Computer Science Lab von SRI International, sieht in KI ein großes Potenzial als Werkzeug für Cybersicherheitsverteidiger. Angreifer nutzen KI bereits, um ihre Produktivität zu steigern und Angriffe zu automatisieren. KI kann bei der Datenanalyse eingesetzt werden, was ein wesentlicher Bestandteil der Cybersicherheitsverteidigung ist. Lindqvist betont, dass KI bei der Anomalieerkennung und der Erkennung von Malware eine Rolle spielen kann.

Dennoch ist eine gewisse Aufsicht erforderlich, um zu verhindern, dass KI unkontrolliert eingesetzt wird. Lindqvist warnt davor, KI die Kontrolle zu überlassen, insbesondere bei der Bewertung von Bewerbungen oder finanziellen Entscheidungen. Es gibt Berichte über Menschen, die Systeme täuschen, indem sie unsichtbaren Text in ihre Bewerbungen einfügen. Wenn ein vollständig automatisiertes System annimmt, dass alles in Ordnung ist, können problematische Elemente unbemerkt weitergegeben werden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!