PALM BEACH COUNTY / LONDON (IT BOLTWISE) – Eine als „Portal Kombat“ bezeichnete Desinformations-Infrastruktur soll KI-Sprachmodelle gezielt mit falschen Geschichten füttern, damit die Modelle die Inhalte anschließend an Nutzer weitergeben. Laut einer Auswertung des Disinformation-Monitoring-Dienstes NewsGuard liefen im Jahr 2024 über 3,6 Millionen Beiträge über zahlreiche Webseiten und Sprachen. Der Text beschreibt zudem, dass andere Akteure KI für personalisierte Überzeugungsarbeit, gefälschte Medieninhalte und politisch getriebene Kampagnen nutzen. Für Unternehmen und IT-Verantwortliche wird damit deutlich: Nicht nur „KI kann lügen“ zählt, sondern vor allem, wie gut sie Menschen überzeugt.
Die eigentliche Brisanz der aktuellen KI-Propaganda liegt nicht in der Fähigkeit von Modellen, falsche Fakten zu erzeugen. Entscheidend ist die Übertragungsleistung: KI-gestützte große Sprachmodelle können Inhalte so formulieren, dass sie für Nutzer plausibel wirken und in laufende Diskussionen einsickern. In einem Beitrag wird das am Beispiel einer Russland-nahe zugeschriebenen Infrastruktur namens „Portal Kombat“ erläutert, die über viele Websites Desinformation verbreiten soll. Laut NewsGuard habe das Netzwerk 2024 über 3,6 Millionen Stories in Dutzenden Sprachen veröffentlicht und dabei offenbar so gearbeitet, dass die Inhalte bei KI-Chat-Systemen wieder auftauchen.
Technisch betrachtet setzt so ein Ansatz an einem wunden Punkt moderner KI-Systeme an: Sprachmodelle werden nicht „von außen“ allein mit Wahrheit trainiert, sondern sie liefern Antworten auf der Grundlage von Eingaben und abrufbaren Mustern. Wenn Desinformationsakteure Inhalte erzeugen, die sprachlich, thematisch und kontextuell zu typischen Nutzerfragen passen, steigt die Wahrscheinlichkeit, dass die Modelle diese Narrative in Antworten übernehmen. Der Beitrag beschreibt genau diesen Effekt als Ziel: Die Betreiber sollen KI so beeinflussen, dass sie in Gesprächen mit vertrauensseligen Nutzern Propaganda weitergeben. Dass dies nicht nur theoretisch bleibt, soll durch ein systematisches Testen der KI-Chat-Systeme durch NewsGuard gestützt werden.
Im Marktbild fügt sich das in ein breiteres Muster ein, das in dem Text auch für andere Länder-Akteure konkretisiert wird. China setze dem Beitrag zufolge KI-Plattformen ein, um falsche Behauptungen über die Behandlung von Uiguren zu pushen und Kritik am Kommunistischen Partei-Apparat zu unterdrücken. Russland wiederum nutze KI zur Generierung großer Mengen an Webseiten-Content, um Menschen gegen Demokratie und westliche Bündnisse einzustellen. Daneben wird beschrieben, dass Gegner mittlerweile auch KI-generierte Texte, Audio- oder Videoinhalte einsetzen, die laut dem Beitrag visuell und sprachlich kaum noch von echten Medien zu unterscheiden sind.
Besonders relevant für Security- und Datenverantwortliche ist dabei die Verschiebung von „statischer“ Propaganda hin zu interaktiver Überzeugungsarbeit. Der Beitrag argumentiert, dass KI-Akteure wie „lebende“ Fallbearbeiter agieren: Sie verfolgen Nutzer über längere Sitzungen, passen Aussagen an und halten die Interaktion am Laufen. Genau hier wird der Unterschied zu klassischen Informationskampagnen deutlich, die vor allem auf Einmaligkeit und Reichweite setzten. Als Beispiel nennt der Text die chinesische Firma GoLaxy: Den Angaben zufolge soll sie ein integriertes KI-Überzeugungssystem beworben haben; geleakte Dokumente, die von Forschern an der Vanderbilt University ausgewertet wurden, deuten dem Beitrag zufolge darauf hin, dass GoLaxy Nutzerdaten aus Social Media zur Erstellung psychologischer Profile genutzt, personalisierte Inhalte entwickelt und Menschen anschließend in Gesprächen zu politischen Richtungswechseln bewegt habe. GoLaxy habe dies allerdings bestritten; außerdem werden Hongkong 2020 und der Vorlauf zur Wahl in Taiwan 2024 als Einsatzzeitpunkte genannt.
Auch die Qualität der Inhalte steht nicht isoliert da, sondern als Produkt aus Zielprofil, Kanal und Timing. Der Text verweist dafür auf mehrere Signalwege: Reporters Without Borders habe dem Beitrag zufolge das KI-Modell Qwen so beschrieben, dass es die Linie der chinesischen Parteiführung im Kontext von Uiguren-Angaben befördere und Fragen dazu als unbegründete Spekulation abtue. Daneben nennt der Beitrag CopyCop als weitere Propaganda-„Werkstatt“: Den Angaben nach erzeugt CopyCop scheinbar lokale Nachrichten-Seiten, die echte Marken imitieren sollen, um Unterstützung für Moskaus Ziele zu gewinnen. Für die politische Dimension wird zudem eine Verknüpfung genannt, die dem französischen Staat zugeschrieben wird; der Beitrag nennt den Betreiber John Mark Dougan und ordnet die Verbindung zu der russischen Geheimdienststruktur GRU zu. Solche Aussagen sollten im Alltag mit Vorsicht verarbeitet werden: Auch ohne rechtskräftige Ergebnisse bleibt die Kernaussage bestehen, dass KI- und Web-Automatismen die Produktionskapazität für Täuschung massiv erhöhen.
Für die konkrete Abwehrstrategie setzt der Text auf Verfahren, die aus dem Intelligence-Umfeld bekannt sind, und übersetzt sie in eine alltagsnahe IT- und Organisationslogik. Empfohlen werden mehrere Quellen für dieselbe Behauptung, regelmäßiges Testen der Verlässlichkeit von Quellen und das Vermeiden von Bequemlichkeit: Wer sich auf eine einzige Quelle oder eine einzelne KI-Antwort verlässt, wird verwundbar. Der Beitrag argumentiert außerdem, dass staatliche und gesellschaftliche Bildung nachziehen müsse – mit einem Lehrplan für kritisches Denken, der das Erkennen von KI-Fakes ebenso trainiert wie die Bewertung von Online-Informationen. Als technisches Pendant wird auf Community- und Nachbarschaftsmechanismen verwiesen: Plattformen wie Nextdoor und Citizen sowie spezialisierte Recherchesettings wie Cold-Case-Communities oder Bellingcat sollen dabei helfen, Wahrheit zu „crowd-sourcen“, indem viele Augen konsistent prüfen.
Unternehmen sollten diese Vorschläge nicht nur als Medienkompetenz-Thema lesen, sondern als Prozess- und Architekturfrage. KI-Systeme in Produktivumgebungen – sei es als Chat-Assistent, als Content-Generator oder als Agent – benötigen Mechanismen, die Antworten nicht blind ausgeben: Quellenketten, Verifikation durch Retrieval, Sperrlisten für bekannte Desinformationsmuster und ein explizites Monitoring, ob bestimmte Narrative auffällig häufig auftauchen. Der Beitrag liefert dafür auch einen überraschend einfachen Bezugspunkt: Laut einer Studie im Journal Nature sei KI-Dialog im Schnitt etwa viermal so überzeugend wie traditionelle politische Anzeigen. Wenn Interaktivität die Überzeugungskraft skaliert, müssen Schutzmaßnahmen ebenfalls in der Interaktion ansetzen – also in der Art, wie Nutzer Hinweise bekommen, wie Systeme auf Unsicherheit reagieren und wie Organisationen Feedback aus der Praxis sammeln.
Am Ende läuft die Botschaft auf einen Organisationswechsel hinaus: In einer Welt, in der KI-gestützte Desinformation personalisiert und in Sekunden erzeugbar ist, wird „kritisches Denken“ zur Infrastrukturaufgabe. Aus IT-Sicht heißt das, dass Mitarbeitende, die KI-Tools bedienen, Trainingsbausteine brauchen, die sich an echten Missbrauchsarten orientieren – nicht an abstrakten Regeln. Und aus Fachbereichssicht heißt es, dass Containments und Freigabeprozesse für KI-Ausgaben genauso ernst genommen werden müssen wie der Umgang mit sensiblen Daten. Der Beitrag benennt damit zwar die großen geopolitischen Akteure, beschreibt aber zugleich ein Problem, das domestisch schnell wächst: Politische Inhalte werden dem Text zufolge bereits so manipuliert, dass sie von KI-Modellen übernommen werden können. Wer jetzt Prozesse, Messung und Schulung verzahnt, reduziert das Risiko nicht nur im Marketing oder in der Kommunikation, sondern auch in der täglichen Entscheidungsfindung.
Anthony Vinci wird im Beitrag als Gründer und CEO von VICO.io sowie als Autor von „The Fourth Intelligence Revolution: The Future of Espionage and the Battle to Save America“ genannt; seine Kernaussage bleibt: KI ist nicht nur eine Maschine fürs Falschbehaupten, sondern vor allem ein Vehikel fürs Überzeugen. Wer mit KI arbeitet oder sie in Produkte integriert, muss daher nicht nur Modelle prüfen, sondern auch die Spielzüge berücksichtigen, mit denen externe Akteure Eingaben, Kanäle und Antworten formen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Propaganda ausbremsen: Wie „Portal Kombat“ Sprachmodelle missbraucht" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Propaganda ausbremsen: Wie „Portal Kombat“ Sprachmodelle missbraucht" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Propaganda ausbremsen: Wie „Portal Kombat“ Sprachmodelle missbraucht« bei Google Deutschland suchen, bei Bing oder Google News!