Duże modele językowe: nowe pole bitwy w rosyjskiej wojnie informacyjnej
W epoce cyfrowej kampanie dezinformacyjne wychodzą daleko poza media społecznościowe i fake newsy – zmieniają się w pełnowymiarową wojnę informacyjną, w której prym wiedzie Rosja.
Kremlowskie kampanie zagranicznych manipulacji informacjami i ingerencji w informacje (FIMI) wyglądają w dużej mierze spójnie od czasów zimnej wojny. Jednak pojawienie się internetu i innych technologii komunikacyjnych umożliwiło zwiększenie elastyczności i zasięgu tych kampanii przy jednoczesnym ograniczeniu potrzebnych do tego celu środków. Podobnie jak pojawienie się Web 2.0 zmieniło oblicze wojny informacyjnej dwie dekady temu, tak teraz upowszechnianie się sztucznej inteligencji (AI) wpłynęło na zmianę strategii Kremla. Moskwa nie serwuje już tylko dostosowanych do odbiorców narracji, ale też bierze na celownik maszyny – to metoda, która jest dużo istotniejsza, ponieważ wielu użytkowników zastępuje Google Search narzędziami AI, takimi jak ChatGPT.
Zamiast kierowania przekazu bezpośrednio do odbiorców w mediach społecznościowych, rosyjska machina dezinformacyjna sięga po nową strategię, polegającą na zalewaniu Internetu milionami wprowadzających w błąd, niskiej jakości artykułów i treści, które mają być pobierane przez narzędzia i aplikacje wykorzystujące AI. Kreml angażuje się w coś, co eksperci nazywają groomingiem LLM, tj. trenowanie dużych modeli językowych (LLM) narracjami manipulacyjnymi i dezinformacją, którą LLM będą potem odtwarzać.
Jak działa grooming LLM?
Grooming LLM to celowe działanie polegające na manipulowaniu dużymi modelami językowymi, które ma służyć nie tylko rozpowszechnianiu dezinformacji, ale też szerzej pojętej manipulacji infrastrukturą AI poprzez wprowadzanie dezinformacji, na przykład dotyczącej rosyjskiej wojny przeciwko Ukrainie, do odpowiedzi generowanych przez chatboty AI, np. ChatGPT.
W lutym 2024 roku francuska agencja rządowa Viginum, odpowiedzialna za przeprowadzanie analiz i ochronę Francji przed zagraniczną ingerencją cyfrową, opublikowała raport demaskujący tzw. operację Portal Kombat, znaną też jako „sieć Pravda”. To rosyjska sieć dezinformacyjna, złożona ze stron internetowych w różnych językach, gdzie publikowane są niskiej jakości treści powtarzające fałszywe i manipulacyjne twierdzenia z rosyjskich mediów państwowych, od prokremlowskich influencerów i z innych źródeł dezinformacji. Na celowniku tej sieci znalazły się takie państwa, jak Ukraina, Stany Zjednoczone, Francja, Niemcy, Polska, Wielka Brytania i inne kraje europejskie, a także niektóre kraje afrykańskie. Ogromna ilość produkowanych treści zapewnia, że modele AI uwzględniają te rosyjskie narracje dezinformacyjne Innymi słowy, Kreml aktywnie ingeruje w przestrzeń informacyjną, aby wpływać na odpowiedzi, które generują wybierani przez użytkowników asystenci AI.
W raporcieReality Check, opracowanym przez NewsGuard w ramach rankingu portali informacyjnych, wskazano m.in. że sieć Pravda fałszywie przekonywała, jakoby prezydent Zełenski zablokował platformę Truth Social Donalda Trumpa. Sześć z dziesięciu testowanych chatbotów powtórzyło to twierdzenie, cytując publikacje sieci Pravda. Udział fałszywych i wprowadzających w błąd informacji w dziesięciu wiodących chatbotach niemal podwoił się w ciągu roku, wzrastając z 18% w 2024 roku do 35% w 2025. Narracje FIMI w tych modelach były także powiązane z inną prokremlowską kampanią dezinformacyjną, Storm-1516, będącą odłamem dawnej Agencji Badań Internetowych – rosyjskiej organizacji znanej z operacji wywierania wpływu na szeroką skalę, w tym ingerencję w wybory w USA w 2016 roku. Powiązania te zostały zidentyfikowane przez zespół analityków mediów z Uniwersytetu Clemson jesienią 2023 roku.
Dążenie Kremla do zatruwania przestrzeni informacyjnej
Rosyjskie wysiłki zmierzające do wprowadzania dezinformacji do szybko rozwijającej się przestrzeni informacyjnej AI stanowią poważne zagrożenie dla globalnego bezpieczeństwa, ponieważ może to prowadzić do manipulowania opinią publiczną, osłabiania zaufania do rzetelności informacji cyfrowych i rozpowszechniania pozornie wiarygodnych narracji na niespotykaną dotąd skalę. Raport Halyny Padalko z Digital Policy Hub w Centre for International Governance Innovation wskazuje, że Rosja wychodzi poza tradycyjne metody propagandy i zwraca się w kierunku wykorzystywania dużych modeli językowych. Poprzez grooming LLM Moskwa normalizuje nieprawdziwe informacje, aby wyglądały jak informacje oparte na faktach. Nawet cieszące się sporym zaufaniem platformy, takie jak Wikipedia, nagłaśniają kremlowską dezinformację poprzez cytowanie źródeł z sieci Pravda.
Jako że chatboty AI odgrywają coraz większą rolę w sprawdzaniu faktów i wyszukiwaniu informacji, tego rodzaju zatruwanie przestrzeni informacyjnej stanowi poważne zagrożenie. Automatyzacja i skala tych kampanii sprawiają, że trudniej jest je wykrywać i im przeciwdziałać, co osłabia demokratyczną odporność. Już w 2017 roku, na długo zanim pojawił się ChatGPT, Putin powiedział, że „światem będzie rządzić” ten, kto zostanie liderem w AI. Nie dajmy się nabrać: siedem lat później Rosja pretenduje do tego tytułu, korzystając głównie z amerykańskich i chińskich modeli – najwyraźniej nie przeszkadza jej budowanie imperium na importowanym oprogramowaniu.
