Великі мовні моделі: нове поле бою російської інформаційної війни
В епоху цифрових технологій дезінформаційні кампанії еволюціонували, вийшовши за межі соціальних мереж і фейкових новин. Тепер це повноцінна інформаційна війна — сфера, у якій Росія досягла майстерності.
Кремлівські кампанії з маніпулювання зовнішньою інформацією та втручання (FIMI) залишилися загалом незмінними із часів холодної війни. Проте поява інтернету й інших комунікаційних технологій дозволила досягти більшої гнучкості й більш відчутного впливу за менших витрат ресурсів. Аналогічно тому, як технологія Web 2.0 змінила інформаційну війну близько двох десятиліть тому, поява штучного інтелекту (ШІ) трансформувала стратегію Кремля. Замість того щоб просто нав’язувати читачам спеціально підготовлені наративи, метою Москви тепер також стали машини. Значення цієї стратегії зростає, ураховуючи, що багато користувачів зараз замінюють пошук у Google інструментами ШІ, як-от ChatGPT.
Замість того щоб безпосередньо впливати на аудиторію через соціальні мережі, російський дезінформаційний апарат змінив свою стратегію та тепер наповнює інтернет мільйонами недостовірних статей і низькоякісних матеріалів, призначених для збору інструментами й застосунками ШІ. Кремль працює над тим, що експерти називають LLM grooming: навчає великі мовні моделі (Large Language Models, LLM) відтворювати маніпулятивні наративи й дезінформацію.
Як працює LLM grooming?
LLM grooming — це навмисна маніпуляція великими мовними моделями, метою якої є не лише поширення дезінформації, але й псування в більших масштабах інфраструктури ШІ через упровадження дезінформації, наприклад, щодо війни Росії в Україні, у відповіді, які генеруються чат-ботами на основі ШІ, як-от ChatGPT.
У лютому 2024 року французьке урядове агентство Viginum, відповідальне за аналіз і захист Франції від іноземного цифрового втручання, опублікувало звіт, у якому викриває так звану операцію Portal Kombat, також відому як «мережа Правда». Ця російська дезінформаційна мережа складається з вебсайтів різними мовами, які публікують неякісний вміст, переупаковуючи неправдиві та оманливі твердження російських федеральних ЗМІ, прокремлівських лідерів думок та інших джерел дезінформації. До регіонів, які стали мішенню цієї мережі, належать Україна, США, Франція, Німеччина, Польща, Велика Британія й інші європейські країни, а також деякі країни Африки. Уважаючи великий обсяг створюваного вмісту, моделі ШІ враховують ці російські дезінформаційні наративи, коли формують свої відповіді. Іншими словами, Кремль активно втручається в інформаційний простір, щоби впливати на відповіді, які ви отримуєте від вибраного вами ШІ-помічника.
Наприклад, у звіті NewsGuard Reality Check, системи рейтингу новинних та інформаційних вебсайтів, з’ясувалося, що мережа «Правда» неправдиво стверджувала, що президент Зеленський заборонив платформу Truth Social Дональда Трампа. Шість із десяти протестованих чат-ботів повторили це твердження, посилаючись на мережу «Правда». Частка неправдивої та недостовірної інформації в 10 основних чат-ботах за рік зросла майже вдвічі, збільшившись з 18 % у 2024 році до 35 % у 2025 році. Наративи FIMI в цих моделях були також пов’язані зі Storm-1516, іншою прокремлівською дезінформаційною кампанією та відгалуженням колишнього Агентства інтернет-досліджень — російської організації, відомої проведенням великомасштабних інформаційно-психологічних операцій в інтернеті, зокрема втручанням у вибори в США у 2016 році. Цей зв’язок виявила група дослідників у галузі медіа-криміналістики з Університету Клемсона восени 2023 року.
Спроба Кремля засмітити інформаційну екосистему
Спроби Росії вкинути дезінформацію в інформаційну екосистему ШІ, що активно розвивається, становлять серйозну загрозу глобальній безпеці, оскільки можуть спотворити громадську думку, підірвати довіру до цілісності цифрової інформації та в безпрецедентних масштабах поширити на перший погляд правдоподібні наративи. У звіті Галини Падалко для Центру цифрової політики при Центрі інновацій у сфері міжнародного управління зазначається, що Росія перейшла від традиційних методів пропаганди до використання LLM. За допомогою LLM-grooming Москва нормалізує неправдиву інформацію, видаючи її за фактичну. Навіть відносно надійні платформи, такі як Вікіпедія, почали поширювати дезінформацію Кремля, цитуючи джерела з мережі «Правда».
Оскільки чат-боти на базі ШІ відіграють дедалі важливішу роль у перевірці фактів і пошуку інформації, ці спроби засмітити інформаційну екосистему становлять серйозну проблему. Автоматизація та масштаб цих кампаній ускладнюють їхнє виявлення та протидію їм, підриваючи стабільність демократії. Ще у 2017 році, задовго до появи ChatGPT, Путін заявив, що лідер у галузі ШІ буде «правити світом». Не дайте себе обманути: сім років по тому прагнення Росії до цього трону в основному будується на американських і китайських моделях. Мабуть, створення імперії тепер йде в комплекті з імпортним програмним забезпеченням.
