KI: Eine neue Ära der Cyberkriminalität

LONDON (IT BOLTWISE) – Die Bedrohung durch Cyberkriminalität nimmt stetig zu, und die Fortschritte in der Künstlichen Intelligenz (KI) könnten diese Gefahr weiter verschärfen. Während Kryptowährungen und die Auslagerung von Datenspeicherung bereits als Katalysatoren für Cyberangriffe dienen, stellt die potenzielle Fehlanwendung von KI eine noch größere Bedrohung dar.

Die fortschreitende Entwicklung der Künstlichen Intelligenz (KI) könnte die Cyberkriminalität auf ein neues Niveau heben. Kryptowährungen haben bereits die Anonymität von Transaktionen erhöht, und die Auslagerung von Daten in die Cloud hat neue Angriffsflächen geschaffen. Doch die wahre Gefahr liegt in der möglichen Nutzung von KI durch Cyberkriminelle, die damit in der Lage wären, menschliches Verhalten online zu imitieren und so großangelegte Betrugs- und Desinformationskampagnen durchzuführen.

John Fokker, Leiter der Bedrohungsanalyse bei Trellix, einem führenden US-amerikanischen Cyber-Sicherheitsunternehmen, beschreibt die Dimension des Problems eindrücklich: Wäre Cyberkriminalität eine legale Industrie, wäre sie die drittgrößte Volkswirtschaft der Welt. Laut FBI und Internationalem Währungsfonds könnten Cyberkriminelle bis 2027 weltweit Schäden in Höhe von über 23 Billionen US-Dollar verursachen, mehr als die jährliche Wirtschaftsleistung Chinas.

In diesem Jahr gab es bereits mehrere hochkarätige Cyberangriffe auf bekannte Einzelhändler wie Marks and Spencer, die Co-op und Harrods. Der Angriff auf M&S führte Berichten zufolge zu einem Verlust von 600 Millionen Pfund an Marktkapitalisierung und einer erwarteten Reduzierung des Jahresgewinns um 300 Millionen Pfund.

Die Gefahr, die von KI ausgeht, ist nicht zu unterschätzen. Beispielsweise könnten KI-gestützte Phishing-E-Mails, die grammatikalisch einwandfrei sind, Spam-Filter umgehen. Auch die Entwicklung autonomer KI-Agenten, die wie Cyberkriminelle agieren, ist eine reale Bedrohung. Connor Leahy, Gründer des Londoner Startups Conjecture, äußerte 2023 seine Besorgnis darüber, dass wir in ernsthaften Schwierigkeiten stecken, wenn KI-Modelle immer mächtiger werden, ohne gleichzeitig besser kontrollierbar zu sein.

Ein weiteres Risiko ist das sogenannte Voice Phishing, bei dem KI realistische Stimmen erzeugt. Zudem gibt es bereits Hacker, die die Schutzmechanismen von KI-Modellen umgehen, um an geheime Informationen zu gelangen. Diese Praxis wird als “Jailbreaking” bezeichnet.

Um dieser Bedrohung zu begegnen, setzen viele Unternehmen auf KI-basierte Sicherheitslösungen. In den USA hat sich dieser Markt schneller entwickelt als in Europa. Unternehmen wie Alethea und Blackbird AI haben Millionenbeträge gesammelt, um gegen bösartige KI vorzugehen. Human.org aus San Francisco hat in diesem Jahr 7,3 Millionen US-Dollar aufgebracht und behauptet, das erste Unternehmen zu sein, das versucht, zu verifizieren, ob ein autonomer KI-Agent eine echte Person repräsentiert.

In Europa ist die Investition in diesen Bereich zwar geringer, aber es gibt vielversprechende Startups. Das in Mailand ansässige IdentifAI hat 2024 eine Seed-Finanzierung in Höhe von 2,2 Millionen Euro erhalten, um Bots zu identifizieren. Der Gründer Marco Ramilli betont, wie schwierig es geworden ist, zwischen Computer- und Menschenerzeugnissen zu unterscheiden.

Weitere europäische Startups wie das in Dublin ansässige Ceartas und das Londoner Unternehmen Refute arbeiten daran, urheberrechtlich geschützte Inhalte zu schützen und Desinformationen zu bekämpfen. DarkForest, ein weiteres Londoner Startup, entwickelt Lösungen, um Internetnutzern mehr Kontrolle darüber zu geben, wie KI-Bots auf ihre Inhalte zugreifen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!