KI-Modelle erfinden URLs: Eine neue Bedrohung für die Cybersicherheit

LONDON (IT BOLTWISE) – Die jüngsten Entwicklungen in der Künstlichen Intelligenz haben eine neue Herausforderung für die Cybersicherheit geschaffen. KI-Modelle, die darauf trainiert sind, Informationen zu generieren, anstatt sie abzurufen, erfinden zunehmend URLs, die auf unregistrierte Domains verweisen. Diese Entwicklung könnte sich als gefährlich erweisen, da Cyberkriminelle diese Domains registrieren und für Phishing-Angriffe nutzen könnten.

Die Fähigkeit von KI-Modellen, URLs zu erfinden, die auf unregistrierte Domains verweisen, hat eine neue Dimension der Bedrohung in der Cybersicherheit eröffnet. Experten warnen davor, dass diese Entwicklung Cyberkriminellen einen Fahrplan zu potenziellen Opfern bietet. Wenn ein KI-Modell eine URL generiert, die auf eine unregistrierte Domain verweist, können Angreifer diese Domain einfach registrieren und auf ahnungslose Nutzer warten, die den Link anklicken.

Besonders besorgniserregend sind die Ergebnisse einer Untersuchung von Netcraft, die zeigen, dass nationale Marken, insbesondere im Finanz- und Fintech-Sektor, besonders stark betroffen sind. Während globale Giganten besser geschützt sind, sind kleinere Marken, die weniger wahrscheinlich in den Trainingsdaten der KI-Modelle vorkommen, stark betroffen. Diese Marken sind anfälliger für die Erfindung von URLs durch KI-Modelle, was sie zu einem bevorzugten Ziel für Cyberkriminelle macht.

Nicole Carignan, Field CISO bei Darktrace, weist darauf hin, dass KI-Modelle Informationen generieren und nicht abrufen. Wenn Nutzer diese generierten Informationen als Fakten behandeln, öffnet dies die Tür für massive Ausbeutung. Ein struktureller Fehler liegt darin, dass Modelle darauf ausgelegt sind, hilfreich zu sein, nicht unbedingt genau. Solange KI-Antworten nicht auf validierten Daten basieren, werden sie weiterhin URLs erfinden, oft mit gefährlichen Konsequenzen.

Ein scheinbar naheliegender Lösungsansatz wäre, alle erfundenen Domains im Voraus zu registrieren. Doch Forscher betonen, dass dies nicht praktikabel ist, da die Variationen unendlich sind und KI-Modelle immer neue erfinden werden. Dies führt zu sogenannten Slopsquatting-Angriffen, bei denen Angreifer auf Tippfehler in URLs setzen, um Nutzer auf ihre bösartigen Seiten zu locken.

Die Bedrohung durch erfundene URLs ist nicht nur ein technisches Problem, sondern hat auch weitreichende Auswirkungen auf die Cybersicherheit. Unternehmen müssen ihre Sicherheitsstrategien überdenken und neue Maßnahmen ergreifen, um sich vor dieser Art von Angriffen zu schützen. Dazu gehört auch die Sensibilisierung der Nutzer für die Gefahren, die von generierten Inhalten ausgehen können.

In der Zukunft wird es entscheidend sein, dass KI-Modelle mit validierten und überprüfbaren Daten arbeiten, um die Erfindung von URLs zu minimieren. Gleichzeitig müssen Unternehmen und Sicherheitsanbieter zusammenarbeiten, um neue Technologien und Strategien zu entwickeln, die den Schutz vor solchen Bedrohungen verbessern.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!