Adversarielle KI: Die neue Herausforderung für die Finanzsicherheit

LONDON (IT BOLTWISE) – Die Finanzbranche steht an der Spitze technologischer Innovationen und hat sich als Vorreiter in der Nutzung von Künstlicher Intelligenz etabliert. Doch mit der Einführung von KI-Technologien entstehen auch neue Sicherheitsbedrohungen, die es zu bewältigen gilt.

Die Finanzdienstleistungsbranche hat sich stets durch ihre technologische Vorreiterrolle ausgezeichnet, sei es bei der Einführung von Geldautomaten oder dem Online-Banking. Nun führt sie auch die Entwicklung im Bereich der Künstlichen Intelligenz (KI) an. Laut einer Umfrage der Bank of England und der Financial Conduct Authority nutzen bereits 75 % der Finanzinstitute KI, während weitere 10 % planen, dies in den nächsten drei Jahren zu tun.

KI bietet zahlreiche Möglichkeiten, von der Betrugserkennung bis hin zur Datenanalyse. Dennoch ist sie als kommerzielle Technologie noch relativ neu, und nur ein Drittel der Finanzinstitute gibt an, sie vollständig zu verstehen. Diese Unternehmen müssen ihr Wissen über die Funktionsweise ihrer KI-Systeme erweitern, denn ihre Gegner tun dies bereits und nutzen die Technologie für ihre eigenen Zwecke.

Adversarielle KI-Angreifer manipulieren subtil KI-Algorithmen oder die Daten, die diese speisen. Dies verändert die Ausgabe der Algorithmen zugunsten der Angreifer, indem beispielsweise Marktprognosen manipuliert werden, um auf die Ergebnisse zu spekulieren, oder Algorithmen so geblendet werden, dass sie maßgeschneiderte betrügerische Transaktionen nicht erkennen. Dies stellt eine erhebliche Bedrohung für den Finanzsektor dar.

Diese Angriffe liegen außerhalb der traditionellen Cybersicherheitsmaßnahmen, die Finanzinstitute zum Schutz einsetzen, wie Firewalls, Malware-Erkennung und Zugangskontrollen. Sie erfordern einen flexibleren Ansatz zur Handhabung von Sicherheitsrisiken. Finanzinstitute müssen Konzepte wie Datenvergiftung, Angriffe zur Inferenzzeit, Modellkontamination und Risiken aus der KI-Lieferkette verstehen.

Auch die Regulierungsbehörden bemühen sich, diese Konzepte zu verstehen. Die Compliance-Anforderungen werden sich schließlich erweitern, um die Nuancen der Risiken durch adversarielle KI zu erfassen. Wenn dies geschieht, müssen Finanzdienstleister bereit sein.

QA verfügt über jahrelange Erfahrung in der Verfolgung und dem Verständnis von Entwicklungen in der KI-Technologie sowie deren Auswirkungen auf Sektoren wie die Finanzbranche. Wir sind Ihr Schulungspartner bei der Bewältigung dieser neuen Bedrohungen und auch Ihr Branchenvertreter. Unsere Arbeit umfasst die Sensibilisierung und das Eintreten für aktualisierte regulatorische Rahmenbedingungen mit Best Practices, die Finanzinstitute und ihre Kunden schützen.

Nicht alle Finanzinstitute verstehen heute KI, aber sie verstehen das Risiko. Und sie wissen, dass sie, wenn Angreifer diese mächtige neue Technologie beherrschen, dieses Risiko assimilieren und managen müssen. Ein starkes Schulungsprogramm kann Ihrem Finanzdienstleistungsunternehmen die Fähigkeiten vermitteln, die es benötigt, um die mächtigsten Anwendungsfälle der KI zu nutzen und gleichzeitig Gefahren abzuwehren.

Die KI ist bereits im Finanzdienstleistungssektor angekommen; jetzt ist es an der Zeit, sie zu sichern.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!