Risiken der Nutzung chinesischer KI-Tools in Unternehmen

LONDON (IT BOLTWISE) – Die Nutzung von generativen KI-Tools aus China in Unternehmen der USA und Großbritannien nimmt zu, oft ohne die Zustimmung der Sicherheitsabteilungen.

In einer aktuellen Analyse von Unternehmensdaten wurde festgestellt, dass generative KI-Tools, die in China entwickelt wurden, zunehmend von Mitarbeitern in den USA und Großbritannien genutzt werden. Diese Nutzung erfolgt häufig ohne die Zustimmung oder das Wissen der Sicherheitsabteilungen, was erhebliche Risiken für die Datensicherheit und Compliance mit sich bringt. Die Untersuchung, durchgeführt von Harmonic Security, zeigt, dass in einem Zeitraum von 30 Tagen über 17 Megabyte an sensiblen Daten auf Plattformen hochgeladen wurden, die in China gehostet werden.

Die Studie von Harmonic Security umfasste die Aktivitäten von 14.000 Mitarbeitern aus verschiedenen Unternehmen. Dabei wurde festgestellt, dass fast 8 Prozent dieser Mitarbeiter China-basierte KI-Tools wie DeepSeek, Kimi Moonshot, Baidu Chat, Qwen von Alibaba und Manus nutzten. Diese Anwendungen sind zwar leistungsstark und leicht zugänglich, bieten jedoch in der Regel nur wenig Informationen darüber, wie die hochgeladenen Daten verarbeitet, gespeichert oder weiterverwendet werden.

Besonders besorgniserregend ist, dass in 535 separaten Vorfällen sensible Informationen hochgeladen wurden. Ein Drittel dieser Daten bestand aus Quellcode oder technischen Dokumentationen, während der Rest aus Dokumenten zu Fusionen und Übernahmen, Finanzberichten, personenbezogenen Daten, rechtlichen Verträgen und Kundenunterlagen bestand. DeepSeek wurde als das am häufigsten genutzte Tool identifiziert, das mit 85 Prozent der Vorfälle in Verbindung steht.

Die Untersuchung hebt eine wachsende Kluft zwischen der Einführung von KI und der Governance hervor, insbesondere in entwicklerlastigen Organisationen, in denen die Zeit bis zur Fertigstellung oft wichtiger ist als die Einhaltung von Richtlinien. Die permissiven oder undurchsichtigen Datenrichtlinien chinesischer KI-Dienste verschärfen das Problem, da sie in einigen Fällen die Nutzung hochgeladener Inhalte für das weitere Training von Modellen erlauben.

Harmonic Security hat Werkzeuge entwickelt, die Unternehmen helfen, die Kontrolle über die Nutzung von KI im Arbeitsumfeld zurückzugewinnen. Ihre Plattform überwacht KI-Aktivitäten in Echtzeit und erzwingt Richtlinien zum Zeitpunkt der Nutzung. Unternehmen können den Zugriff auf bestimmte Anwendungen basierend auf ihrem Standort einschränken, bestimmte Datentypen vom Hochladen ausschließen und Benutzer durch kontextbezogene Hinweise schulen.

Die unautorisierte Nutzung von generativen KI-Tools in Unternehmen ist keine hypothetische Bedrohung mehr. Harmonics Daten zeigen, dass fast jeder zwölfte Mitarbeiter bereits mit chinesischen KI-Plattformen interagiert, oft ohne sich der Risiken der Datenaufbewahrung oder der rechtlichen Konsequenzen bewusst zu sein. Die Ergebnisse legen nahe, dass bloßes Bewusstsein nicht ausreicht. Unternehmen benötigen aktive, durchgesetzte Kontrollen, um die Einführung von KI zu ermöglichen, ohne die Compliance oder Sicherheit zu gefährden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!