Зростання індустрії дезінформації на замовлення
Поява глобальної індустрії дезінформації призвела до приватизації операцій впливу, надавши державам стратегічні інструменти та можливість переконливо заперечувати свою причетність.
У світі пропаганди відбулася тиха революція. Операції, які раніше проводилися авторитарними урядами та розвідкою, тепер передаються на аутсорс приватним фірмам, які продають дезінформацію та обман як послугу. Дезінформація і іноземні інформаційні маніпуляції та втручання в інформаційний простір (FIMI) охоплюють широкий спектр інструментів — від армій ботів у соцмережах до кампаній з очорнення на базі штучного інтелекту. Вони стали глобальним бізнесом і дають авторитарним режимам нові способи впливати на інших — і повністю відкидати будь-яку причетність.
Від державної пропаганди — до дезінформації на замовлення
Протягом десятиліть інформаційні операції суворо контролювалися державами. Радянський Союз вдосконалив мистецтво дезінформації; пізніше Росія закріпила цю практику інституційно за допомогою сучасних цифрових операцій, таких як Агенція інтернет-досліджень.
Але за останнє десятиліття ця модель набула комерційного характеру. Дезінформація та обман стали прибутковою послугою, яку пропонують компанії з досвідом роботи в розвідці, військовій сфері або маркетингу. Ці фірми, що діють по всьому світу, продають цілі пакети FIMI (іноземних інформаційних маніпуляцій та втручання в інформаційний простір), до яких входять кампанії з поширення фейків у соцмережах, хакерство, витоки даних та «формування наративів» для поширення неправдивого та маніпулятивного контенту в демократичних країнах.
Аутсорсинг як захист
Такий аутсорсинг забезпечує як ефективність, так і можливість заперечувати причетність. Авторитарні держави зараз активно намагаються передати інформаційні операції приватним посередникам, щоб захистити себе від дипломатичних і юридичних наслідків.
Завдяки цій моделі зловмисні актори також можуть експериментувати з ризикованими тактиками, як-от згенерований штучним інтелектом контент, хакерство або діпфейки. Ці операції були б політично або дипломатично вибуховими, якби їх здійснювали безпосередньо державні інституції. У такий спосіб зловмисні актори можуть цілеспрямовано впливати на іноземні суспільства за допомогою спеціально розроблених кампаній впливу. Водночас вони зберігають можливість переконливо заперечувати свою причетність і стверджувати про відсутність будь-якого зв’язку з приватними структурами, які їх проводять.
Аутсорсинг також дозволяє відмивати інформацію, тобто приховувати справжнє походження дезінформації, пропускаючи її через приватні фірми, фейкові акаунти та проксі-ресурси. Коли такі гравці повторюють і поширюють повідомлення, воно починає здаватися органічним і створеним на місцевому рівні. Це дозволяє зловмисникам поширювати цільові наративи, заперечуючи власну причетність.
Усе це можна вважати інформаційним еквівалентом використання найманців, адже клієнт отримує результат і не несе відповідальності.
Команда Хорхе та комерціалізація обману
Розслідування, яке провели Forbidden Stories 2023 року щодо організації «Команда Хорхе», викрило функціонування цієї нової екосистеми впливу на замовлення зсередини. Фірма стверджувала, що втручалася в процеси 33 президентських виборів і заявляла про «перемогу» у 27 з них. Серед її клієнтів були політичні партії, корпорації та, ймовірно, пов’язані з державами актори.
В основі системи Команди Хорхе лежало програмне забезпечення Advanced Impact Media Solutions (AIMS), здатне створювати та координувати тисячі фейкових акаунтів у соцмережах, доповнених синтетичними фотографіями, біографіями та історіями. Ці аватари можна мобілізувати для засмічування обговорень, поширення наративів або переслідування опонентів.
Росія залишається одним із ключових гравців у цій екосистемі аутсорсингу. Такі приватні компанії, як Агенція соціального дизайну та Структура, зараз проводять масштабні операції впливу, які відтворюють і значною мірою замінюють функції фабрик тролів у Санкт-Петербурзі. Ці фірми контролюють приховані онлайн-активи, просувають наративи, що відповідають позиції держави, та надають Кремлю додаткові можливості заперечувати свою причетність.
Журналісти під прикриттям записали, як компанія демонструвала техніки хакерства, проникнення в медіасередовище та розміщення сфабрикованих новин. Масштаби цих операцій та їхня комерційна доступність показали, як дезінформація стала глобальним товаром.
Гібридні операції: де онлайн зустрічається з офлайном
Сучасні кампанії впливу більше не існують виключно в інтернеті, а діють у гібридному просторі між цифровою та фізичною реальністю.
Агенція інтернет-досліджень продемонструвала це під час виборів у США 2016 року, коли російські агенти, видаючи себе за американських активістів, організували реальні мітинги, заплатили учасникам і скоординували поширення інформації про них в інтернеті. Те, що почалося як війна мемів, закінчилося фізичною мобілізацією.
Сучасні гібридні операції поєднують хакерство, таємне фінансування місцевих інфлюенсерів та приховані медіафронти. Оператори кампаній створюють правдоподібні на вигляд новинні сайти та персони інфлюенсерів, щоб впроваджувати в публічний простір спеціально створені наративи. Коли ці наративи починають циркулювати, вони змішуються зі справжнім контентом і поширюються як у цифрових, так і в традиційних медіа, що ускладнює виявлення маніпуляцій.
Автоматизація та ШІ: новий мультиплікатор впливу
Оригінальна модель фабрики тролів — сотні молодих працівників, які вручну публікують дописи позмінно. Тепер її замінює автоматизація на базі ШІ.
Такі системи, як AIMS від Команди Хорхе, або новіші інструменти, що працюють на основі великих мовних моделей, тепер можуть керувати тисячами фейкових акаунтів і генерувати багатомовний контент, адаптований до цільової аудиторії, в режимі реального часу. ШІ дозволяє проводити кампанії, які раніше вимагали сотень людей, за допомогою кількох операторів або навіть однієї людини. Те, що раніше вимагало фабрики тролів і цілого офісу в Санкт-Петербурзі, тепер потребує лише ноутбука.
Асиметрична інформаційна війна
Поява цих фірм, що надають послуги з впливу, створила новий стратегічний дисбаланс — асиметричну інформаційну війну.
У цій асиметрії автократії здобувають максимальне охоплення з мінімальним ризиком. Удома вони захищені цензурою, контролем і можливістю заперечувати факти. Демократії, однак, вразливіші. Сковані вимогами прозорості та закону, вони стикаються з максимальною вразливістю та обмеженими засобами захисту.
Цей дисбаланс є не тільки політичним, але й структурним. Авторитарні режими можуть використовувати дезінформацію та інструменти ШІ для формування глобальних наративів, впливу на вибори за кордоном та підриву довіри, при цьому намагаючись уникнути прямої відповідальності. Тимчасом демократії змушені захищатися у відкритих мережах, призначених для вільного вираження думок.
Ставки для демократії й шлях уперед
Ці операції вже змінюють політичні реалії. Компанії, що надають послуги з впливу, уже націлювалися на вибори в Африці, Європі та Латинській Америці. Кампанії з дезінформації посилюють поляризацію, делегітимізують медіаінституції та використовують соціальні розбіжності для послаблення згуртованості у демократіях.
Комерціалізація дезінформаційних операцій створює ризик виникнення глобальної сірої зони, де правда є необов’язковою, а відповідальність — нечіткою. У міру того, як інструменти ШІ стають дешевшими та функціональнішими, ці операції, ймовірно, будуть лише зростати в масштабах та складності.
Усвідомлення цієї асиметрії та відповідь на неї через стійкість і регулювання залишаються єдиним способом не допустити, щоб сама правда стала товаром.
