Modelli linguistici di grandi dimensioni: il nuovo campo di battaglia della guerra dell’informazione russa
Nell’era digitale, le campagne disinformative sono andate ben oltre i social media e le “fake news” per trasformarsi in una vera e propria guerra dell’informazione, un settore in cui la Russia eccelle.
Le campagne di manipolazione delle informazioni e ingerenza da parte di attori stranieri (FIMI – Foreign Information Manipulation and Interference) del Cremlino sono rimaste sostanzialmente invariate dalla fine della Guerra Fredda. Ma l’avvento di Internet e di altre tecnologie di comunicazione ha permesso di ottenere maggiore flessibilità e impatti più significativi con meno risorse. Proprio come il Web 2.0 ha rimodellato la guerra dell’informazione circa vent’anni fa, l’ascesa dell’intelligenza artificiale (IA) ha trasformato la strategia del Cremlino. Invece di limitarsi a proporre ai lettori narrazioni su misura, Mosca ora punta anche alle macchine: una strategia tanto più importante se si considera che molti utenti stanno sostituendo Google Search con strumenti di intelligenza artificiale come ChatGPT.
Anziché rivolgersi direttamente al pubblico tramite i social media, l’apparato disinformativo russo ha modificato la propria strategia per inondare Internet con milioni di articoli e contenuti fuorvianti e di bassa qualità, progettati per essere poi recuperati da strumenti e applicazioni basati su IA tramite il cosiddetto “Web scraping”. Il Cremlino sta mettendo in atto la strategia che gli esperti chiamano “LLM grooming”: si tratta di addestrare i modelli linguistici di grandi dimensioni (LLM) in modo che riproducano narrazioni manipolative e disinformazione.
Come funziona il cosiddetto “LLM grooming”?
Con “LLM grooming” si fa riferimento a una manipolazione deliberata dei modelli linguistici di grandi dimensioni che non solo mira a diffondere disinformazione, ma anche a corrompere più approfonditamente l’infrastruttura dell’IA iniettando disinformazioni, ad esempio riguardanti la guerra della Russia in Ucraina, nelle risposte prodotte dai chatbot IA, come ChatGPT.
Nel febbraio 2024, l’agenzia governativa francese Viginum – responsabile dell’analisi e della protezione della Francia dalle interferenze digitali straniere – ha pubblicato un rapporto che svela la cosiddetta operazione “Portal Kombat”, nota anche come “rete Pravda”. Questa rete disinformativa russa è costituita da siti web in diverse lingue che producono contenuti di bassa qualità, riproponendo affermazioni false e fuorvianti provenienti dai media statali russi, da influencer pro-Cremlino e da altre fonti di disinformazione. Le regioni prese di mira da questa rete includono Ucraina, Stati Uniti, Francia, Germania, Polonia, Regno Unito e altri paesi europei, oltre ad alcuni paesi africani. Il grande volume di contenuti prodotti assicura che i modelli IA prendano in considerazione queste narrazioni disinformative russe nel generare le loro risposte. In altre parole, il Cremlino interferisce attivamente nello spazio informativo al fine di influenzare le risposte ricevute dal tuo assistente AI preferito.
Ad esempio, da una relazione di NewsGuard Reality Check, un sistema di valutazione dei siti web di notizie e informazioni, risulta che la rete Pravda ha falsamente affermato che il presidente Zelenskyy avrebbe vietato la piattaforma Truth Social di Donald Trump. Sei chatbot sui dieci testati hanno ripetuto l’affermazione, citando la rete Pravda. La percentuale di informazioni false e fuorvianti nei 10 principali chatbot è quasi raddoppiata in un anno, passando dal 18% nel 2024 al 35% nel 2025. Le narrazioni FIMI in questi modelli erano anche collegate a “Storm-1516”, un’altra campagna di disinformazione pro-Cremlino e una diramazione dell’ex Internet Research Agency, un’organizzazione russa nota per aver orchestrato operazioni di influenza online su larga scala, tra cui l’interferenza nelle elezioni statunitensi del 2016. Il collegamento è stato individuato da un team di ricercatori forensi specializzati in media presso la Clemson University nell’autunno del 2023.
La campagna del Cremlino mirata all’inquinamento dell’ecosistema informativo
Gli sforzi della Russia mirati a diffondere disinformazione in un ecosistema informativo basato sull’IA in rapida crescita rappresentano una grave minaccia alla sicurezza globale, poiché possono distorcere l’opinione pubblica, minare la fiducia nell’integrità delle informazioni digitali e diffondere narrazioni apparentemente legittime su una scala senza precedenti. Una relazione di Halyna Padalko per il Digital Policy Hub del Centre for International Governance Innovation rileva che la Russia è passata dai metodi di propaganda tradizionali allo sfruttamento degli LLM. Mosca sfrutta l’LLM grooming per normalizzare le informazioni false facendole apparire come basate sui fatti. Anche piattaforme relativamente affidabili come Wikipedia hanno amplificato la disinformazione del Cremlino citando fonti della rete Pravda.
Al crescere dell’importanza dei chatbot basati su IA nella verifica dei fatti e nella ricerca di informazioni, questi tentativi di inquinare l’ecosistema informativo rappresentano una sfida seria. L’automazione e la portata di queste campagne le rendono più difficili da individuare e contrastare e minano la resilienza democratica. Nel 2017, molto prima dell’avvento di ChatGPT, Putin aveva affermato che il leader nel campo dell’IA avrebbe “governato il mondo”. Non fatevi ingannare: sette anni dopo, la corsa della Russia a quel trono si basa principalmente su modelli americani e cinesi: a quanto pare, la costruzione di un impero ora passa attraverso software importati.
