Chinesische Gruppen nutzen Künstliche Intelligenz für verdeckte Operationen

SAN FRANCISCO / LONDON (IT BOLTWISE) – OpenAI hat in einem kürzlich veröffentlichten Bericht darauf hingewiesen, dass immer mehr chinesische Gruppen ihre Künstliche Intelligenz-Technologie für verdeckte Operationen nutzen.

OpenAI, bekannt für seine fortschrittlichen KI-Entwicklungen, hat in einem aktuellen Bericht eine Zunahme von Aktivitäten chinesischer Gruppen festgestellt, die ihre Technologie für verdeckte Operationen einsetzen. Diese Gruppen nutzen die KI-Plattform, um gezielte Inhalte zu erstellen, die politische und geopolitische Themen betreffen. Obwohl die Reichweite dieser Operationen begrenzt ist, zeigt sich eine klare Tendenz zur Ausweitung der eingesetzten Taktiken.

Seit der Einführung von ChatGPT Ende 2022 gibt es Bedenken hinsichtlich der möglichen negativen Auswirkungen generativer KI-Technologien. Diese können schnell und einfach menschenähnliche Texte, Bilder und Audiodateien erzeugen, was sie zu einem potenziellen Werkzeug für Desinformation und Manipulation macht. OpenAI veröffentlicht regelmäßig Berichte über bösartige Aktivitäten auf ihrer Plattform, darunter die Erstellung und Fehlerbehebung von Malware oder das Generieren gefälschter Inhalte für Websites und soziale Medien.

Ein Beispiel für die Nutzung von ChatGPT durch chinesische Gruppen ist die Erstellung von Social-Media-Posts zu politischen Themen, die China betreffen. Dazu gehören unter anderem Kritik an einem Taiwan-zentrierten Videospiel und falsche Anschuldigungen gegen einen pakistanischen Aktivisten. Auch Inhalte, die sich mit der Schließung von USAID befassen, wurden generiert. Diese Aktivitäten zeigen, wie KI-Technologie zur Beeinflussung öffentlicher Meinungen eingesetzt werden kann.

Darüber hinaus haben China-verbundene Bedrohungsakteure KI genutzt, um verschiedene Phasen ihrer Cyber-Operationen zu unterstützen. Dazu gehören Open-Source-Recherche, Skriptmodifikation, Systemkonfigurationen und die Entwicklung von Tools für Passwort-Brute-Forcing und Social-Media-Automatisierung. Diese vielseitige Nutzung von KI zeigt die zunehmende Bedeutung von Technologie in der Cyberkriegsführung.

Ein weiteres Beispiel ist eine Einflussoperation chinesischen Ursprungs, die polarisierende Inhalte in den sozialen Medien generierte, um beide Seiten kontroverser Themen innerhalb des US-amerikanischen politischen Diskurses zu unterstützen. Dabei wurden sowohl Texte als auch KI-generierte Profilbilder verwendet, um die Glaubwürdigkeit der Inhalte zu erhöhen.

Die chinesische Regierung hat bisher nicht auf die Ergebnisse von OpenAI reagiert. Diese Entwicklungen werfen Fragen zur Sicherheit und zum Schutz vor Missbrauch von KI-Technologien auf. OpenAI hat sich als eines der wertvollsten privaten Unternehmen der Welt etabliert, nachdem es eine Finanzierungsrunde in Höhe von 40 Milliarden US-Dollar abgeschlossen hat, die das Unternehmen mit 300 Milliarden US-Dollar bewertet.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!