Large Language Models: Das neue Schlachtfeld des russischen Informationskriegs
Im digitalen Zeitalter haben sich Desinformationskampagnen über soziale Medien und „Fake News“ hinaus zu einer vollwertigen Form des Informationskriegs entwickelt – einem Bereich, in dem Russland besonders stark ist.
Die Kampagnen des Kremls zur Informationsmanipulation- und Einflussnahme aus dem Ausland (FIMI) sind seit dem Kalten Krieg weitgehend unverändert geblieben. Doch das Aufkommen des Internets und anderer Kommunikationstechnologien hat größere Flexibilität und Wirkung bei geringerem Ressourceneinsatz ermöglicht. So wie das Web 2.0 vor etwa zwei Jahrzehnten den Informationskrieg neu gestaltete, hat der Aufstieg der Künstlichen Intelligenz (KI) die Strategie des Kremls verändert. Anstatt den Lesern lediglich maßgeschneiderte Narrative zu präsentieren, richtet sich Moskau nun auch an Maschinen – eine umso wichtigere Strategie, da viele Nutzer inzwischen Google-Suchen durch KI-Tools wie ChatGPT ersetzen.
Anstatt Zielgruppen direkt über soziale Medien anzusprechen, hat Russlands Desinformationsapparat seine Strategie dahingehend geändert, das Internet mit Millionen von irreführenden, minderwertigen Artikeln und Inhalten zu überschwemmen, die darauf ausgelegt sind, von KI-gesteuerten Tools und Anwendungen erfasst zu werden. Der Kreml betreibt das, was Experten als „LLM-Grooming” bezeichnen: das Trainieren großer Sprachmodelle (Large Language Models, LLMs), um manipulative Narrative und Desinformation zu reproduzieren.
Wie funktioniert „LLM Grooming“?
„LLM Grooming“ ist eine gezielte Manipulation großer Sprachmodelle, die nicht nur darauf abzielt, Desinformation zu verbreiten, sondern die KI-Infrastruktur im weiteren Sinne zu korrumpieren, indem Desinformation, beispielsweise in Bezug auf Russlands Krieg gegen die Ukraine, in die von KI-Chatbots erstellten Antworten eingeschleust wird.
Im Februar 2024 veröffentlichte die französische Regierungsbehörde Viginum, die für die Analyse und den Schutz Frankreichs vor ausländischen digitalen Einflüssen zuständig ist, einen Bericht, in dem die sogenannte „Portal Kombat“-Operation, auch bekannt als „Prawda-Netzwerk“, aufgedeckt wurde. Dieses russische Desinformationsnetzwerk besteht aus Websites in verschiedenen Sprachen, die minderwertige Inhalte produzieren und dabei falsche und irreführende Behauptungen aus russischen Staatsmedien, kremlnahen Influencern und anderen Desinformationsquellen neu verpacken. Zu den Zielregionen dieses Netzwerks gehören die Ukraine, die Vereinigten Staaten, Frankreich, Deutschland, Polen, das Vereinigte Königreich und andere europäische Länder sowie einige afrikanische Länder. Das große Volumen der produzierten Inhalte stellt sicher, dass KI-Modelle diese russischen Desinformationsnarrative bei der Generierung ihrer Antworten berücksichtigen. Mit anderen Worten: Der Kreml greift aktiv in den Informationsraum ein, um die Antworten zu beeinflussen, die Sie von Ihrem bevorzugten KI-Assistenten erhalten.
Beispielsweise ergab ein Bericht von NewsGuard Reality Check, einem Bewertungssystem für Nachrichten- und Informationswebsites, dass das Prawda-Netzwerk fälschlicherweise behauptete, Präsident Selenskyj habe Donald Trumps Plattform Truth Social verboten. Sechs von zehn getesteten Chatbots wiederholten diese Behauptung und verwiesen dabei auf das Prawda-Netzwerk. Der Anteil falscher und irreführender Informationen bei zehn führenden Chatbots hat sich innerhalb eines Jahres nahezu verdoppelt und stieg von 18 % im Jahr 2024 auf 35 % im Jahr 2025. Die FIMI‑Narrative in diesen Modellen werden auch mit der Operation „Storm-1516“ in Verbindung gebracht – einer weiteren kremlnahen Desinformationskampagne und einem Ableger der ehemaligen Internet Research Agency, einer russischen Organisation, die für groß angelegte Online‑Beeinflussungsoperationen bekannt ist, darunter die Einmischung in die US‑Wahlen von 2016. Die Verbindung wurde im Herbst 2023 von einem Team von Medienforensikern der Clemson University aufgedeckt.
Das Bestreben des Kremls, das Informationsökosystem zu vergiften
Russlands Bemühungen, Desinformation in ein sich rasant entwickelndes KI-Informationsökosystem einzuschleusen, stellen eine ernsthafte globale Sicherheitsbedrohung dar, da sie die öffentliche Meinung verzerren, das Vertrauen in die Integrität digitaler Informationen untergraben und scheinbar legitime Narrative in bisher nie dagewesenem Ausmaß verbreiten können. Ein Bericht von Halyna Padalko für das Digital Policy Hub des Centre for International Governance Innovation weist darauf hin, dass Russland über traditionelle Propagandamethoden hinausgegangen ist und nun große Sprachmodelle (LLMs) ausnutzt. Durch LLM-Grooming normalisiert Moskau falsche Informationen, sodass sie als faktenbasierte Informationen erscheinen. Selbst vergleichsweise vertrauenswürdige Plattformen wie Wikipedia haben die Desinformation des Kremls verstärkt, indem sie Quellen aus dem Prawda-Netzwerk zitierten.
Da KI-Chatbots eine immer größere Rolle bei der Überprüfung von Fakten und der Informationssuche spielen, stellen diese Bemühungen, das Informationsökosystem zu beeinträchtigen, eine ernsthafte Herausforderung dar. Die Automatisierung und der Umfang dieser Kampagnen erschweren ihre Erkennung und Bekämpfung und untergraben die demokratische Widerstandsfähigkeit. Im Jahr 2017, also lange vor ChatGPT, äußerte Putin, wer in der KI die Führung übernehme, werde „über die Welt herrschen“. Lassen Sie sich nicht täuschen: Sieben Jahre später basiert Russlands Bestreben nach dieser Vormachtstellung hauptsächlich auf amerikanischen und chinesischen Modellen – offenbar geht der Aufbau eines Imperiums heute mit importierter Software einher.
