KI-gestützte Betrugsbekämpfung: Eine dringende Herausforderung

WASHINGTON D.C. / LONDON (IT BOLTWISE) – Die Bedrohung durch KI-gestützten Betrug ist keine Zukunftsvision mehr, sondern bereits Realität. Während Sam Altman, CEO von OpenAI, kürzlich vor einer bevorstehenden Krise warnte, zeigt sich in der Praxis, dass diese Krise längst begonnen hat.

Die Bedrohung durch KI-gestützten Betrug ist keine Zukunftsvision mehr, sondern bereits Realität. Während Sam Altman, CEO von OpenAI, kürzlich vor einer bevorstehenden Krise warnte, zeigt sich in der Praxis, dass diese Krise längst begonnen hat. Kriminelle Netzwerke nutzen bereits heute Deepfakes, synthetische Identitäten und große Sprachmodelle, um veraltete Betrugsabwehrsysteme zu überlisten. Diese Systeme, die oft auf leicht manipulierbaren, einlagigen Werkzeugen wie Gesichtserkennung basieren, sind den Herausforderungen nicht mehr gewachsen.

Ein Blick zurück auf die Pandemie zeigt, wie Betrugsringe Lücken in staatlichen Systemen ausnutzten, um Milliarden an Arbeitslosenunterstützung zu stehlen. Es ging nicht nur darum, Gesichtserkennung mit Masken zu umgehen, sondern auch um den Einsatz von KI-generierten Fake-Identitäten, Stimmenklonen und gefälschten Dokumenten, die Systeme überwältigten, die nicht für solche Angriffe ausgelegt waren. Heute sind diese Taktiken noch ausgefeilter und vollständig automatisiert.

Ich arbeite mit über 9.000 Behörden im ganzen Land zusammen und habe vor dem US-Repräsentantenhaus zweimal in diesem Jahr ausgesagt. Was wir im Feld sehen, ist eindeutig: Betrug ist schneller, kostengünstiger und skalierbarer als je zuvor. Organisierte Kriminalitätsgruppen, sowohl inländische als auch transnationale, nutzen generative KI, um Identitäten zu imitieren, synthetische Dokumentationen zu erstellen und unsere Systeme mit betrügerischen Ansprüchen zu überfluten. Sie stehlen nicht nur von der Regierung, sondern auch vom amerikanischen Volk.

Der Generalinspekteur der Small Business Administration schätzt nun, dass fast 200 Milliarden Dollar aus den Arbeitslosenversicherungsprogrammen der Pandemie gestohlen wurden, was es zu einem der größten Betrugsverluste in der Geschichte der USA macht. Medicaid, IRS, TANF, CHIP und Katastrophenhilfeprogramme sind ähnlich anfällig. Wir haben dies auch aus erster Hand in unserer Zusammenarbeit mit dem US-Geheimdienst zum Schutz des USDA-SNAP-Programms gesehen, das zu einem Buffet für Betrüger geworden ist, mit Milliarden, die jeden Monat landesweit gestohlen werden.

Wir haben einen Wendepunkt erreicht. Während sich die KI weiterentwickelt, wird das Ausmaß und die Raffinesse dieser Angriffe schnell zunehmen. So wie das Moore’sche Gesetz voraussagte, dass sich die Rechenleistung alle zwei Jahre verdoppeln würde, erleben wir jetzt eine neue Art von exponentiellem Wachstum. Gordon Moore, Mitbegründer von Intel, beschrieb diesen Trend ursprünglich 1965, und er hat Jahrzehnte der Innovation geleitet. Ich glaube, wir könnten bald ein ähnliches Prinzip für KI erkennen, das ich “Altmans Gesetz” nenne: Alle 180 Tage verdoppeln sich die KI-Fähigkeiten.

Wenn wir unsere Abwehr nicht mit dem gleichen Tempo wie die technologischen Fortschritte modernisieren, werden wir dauerhaft übertroffen. Was wir dringend brauchen, sind intelligentere Werkzeuge und Infrastrukturen, nicht mehr Bürokratie. Das bedeutet, fortschrittliche Identitätsüberprüfung zu schichten, nicht nur Gesichtsscans oder Passwörter. Es bedeutet, Echtzeitdaten, Verhaltensanalysen und übergreifende Werkzeuge zu nutzen, die Anomalien erkennen können, bevor Geld ausgezahlt wird.

KI ist ein Kraftmultiplikator, aber sie kann leichter als Waffe eingesetzt werden, als dass sie zum Schutz genutzt werden kann. Derzeit nutzen Kriminelle sie besser als wir. Bis sich das ändert, bleiben unsere verwundbarsten Systeme und die Menschen, die auf sie angewiesen sind, exponiert.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!