Google setzt KI zur Erkennung von Betrugstexten ein

MÜNCHEN (IT BOLTWISE) – In einer Welt, in der digitale Betrüger immer raffinierter werden, hat Google eine bedeutende Weiterentwicklung in der Sicherheitslandschaft angekündigt. Mit der Einführung von KI-gestützten Funktionen zur Erkennung von Betrugstexten auf Android-Geräten zielt das Unternehmen darauf ab, die Nutzer vor den finanziellen Schäden zu schützen, die durch betrügerische Nachrichten entstehen.

Die Bedrohung durch digitale Betrüger hat in den letzten Jahren erheblich zugenommen. Allein im vergangenen Jahr verloren Amerikaner 16,6 Milliarden US-Dollar durch Online-Betrug, wobei fast 200.000 Menschen der FBI Betrugsfälle wie Phishing und Spoofing meldeten. Besonders besorgniserregend ist der Anstieg von Betrügereien, die mit einer einfachen Textnachricht beginnen. Laut der Federal Trade Commission wurden im letzten Jahr mehr als 470 Millionen US-Dollar durch solche Textnachrichten gestohlen.

Als weltweit führender Hersteller von mobilen Betriebssystemen hat Google die Dringlichkeit erkannt, seine Nutzer besser zu schützen. Vor der Einführung von Android 16 hat das Unternehmen angekündigt, seine kürzlich eingeführte KI-Flagging-Funktion für die Google Messages App zu erweitern. Diese Funktion, bekannt als Scam Detection, soll Warnungen vor potenziell betrügerischen Nachrichten wie Kryptowährungsbetrug, finanzieller Imitation, Geschenkkarten- und Gewinnbetrug sowie technischen Support-Betrug bieten.

Die KI-gestützten Sicherheitsfunktionen von Google Messages laufen lokal auf den Geräten der Nutzer und teilen keine Daten oder Nachrichteninhalte mit dem Unternehmen. Diese Technologie erkennt derzeit etwa 2 Milliarden verdächtige Nachrichten pro Monat. Dave Kleidermacher, Vizepräsident der Ingenieurabteilung für Sicherheit und Datenschutz bei Android, betont, dass der finanzielle Betrug weltweit ein nahezu epidemisches Ausmaß erreicht hat.

Besonders chinesische Betrugsgruppen sind für Millionen von betrügerischen Nachrichten verantwortlich, die Zahlungen oder Informationen für angebliche Postzustellungen verlangen. Wenn Nutzer auf die Links klicken und ihre Daten eingeben, stehlen die Betrüger diese Informationen. Diese Art von Betrug ist oft formelhaft und potenziell leichter zu erkennen. Eine größere Herausforderung stellt die Erkennung komplexerer Betrugsmaschen dar, wie Investitions- oder Romantikbetrug, die sich über Monate hinweg entwickeln.

Durch die lokale KI auf den Geräten kann Google diese komplexeren Gespräche beobachten und schließlich die betrügerischen Absichten erkennen. Ein Beispiel für die Scam Detection-Funktion zeigt eine verschlüsselte RSC-Chatnachricht, die eine typische Betrugsnachricht darstellt, in der eine EZ Pass-Mautzahlung gefordert wird. Die Nachricht enthält einen Link zu einer bösartigen Zahlungswebsite, und die Scam Detection-Überlagerung warnt vor verdächtiger Aktivität.

Google ist nicht das einzige Unternehmen, das KI einsetzt, um Betrüger zu bekämpfen. Das britische Telekommunikationsunternehmen O2 hat eine „AI Granny“ entwickelt, die Betrüger am Telefon hält und ihre Zeit verschwendet. Gleichzeitig hat Meta, das Unternehmen hinter WhatsApp, Messenger und Instagram, begonnen, Pop-up-Warnungen einzuführen, wenn Nutzer in Chatnachrichten zu Zahlungen aufgefordert werden.

Die positiven Auswirkungen der KI-gestützten Systeme von Google zur Erkennung potenzieller Betrugsnachrichten sind bereits spürbar. Während sich der Schutz weiterentwickelt, könnte das zugrunde liegende System schließlich auch auf Drittanbieter-Kommunikationsplattformen ausgeweitet werden. Derzeit testet Google auch Möglichkeiten, die Betrugserkennung auf Telefonanrufe zu erweitern, obwohl diese Funktion noch nicht weit verbreitet ist.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!