Большие языковые модели: новое поле боя российской информационной войны
В эпоху цифровых технологий дезинформационные кампании эволюционировали, выйдя за рамки социальных сетей и фейковых новостей. Теперь это полноценная информационная война — сфера, в которой Россия преуспевает.
Кремлевские кампании по иностранному информационному манипулированию и вмешательству (FIMI) остались в основном неизменными со времен холодной войны. Однако появление интернета и других коммуникационных технологий позволило добиться большей гибкости и более ощутимого воздействия при меньших затратах ресурсов. Подобно тому, как технология Web 2.0 изменила информационную войну около двух десятилетий назад, появление искусственного интеллекта (ИИ) преобразило стратегию Кремля. Вместо того чтобы просто навязывать читателям специально подготовленные нарративы, целью Москвы теперь также стали машины. Значение этой стратегии растет, учитывая, что многие пользователи сейчас заменяют поиск в Google инструментами ИИ, такими как ChatGPT.
Вместо того чтобы напрямую воздействовать на аудиторию через социальные сети, российский дезинформационный аппарат изменил свою стратегию и теперь наводняет интернет миллионами вводящих в заблуждение низкокачественных статей и материалов, предназначенных для сбора инструментами и приложениями ИИ. Кремль занимается тем, что эксперты называют LLM grooming: учит большие языковые модели (Large Language Models, LLM) воспроизводить манипулятивные нарративы и дезинформацию.
Как работает LLM grooming?
LLM grooming — это преднамеренная манипуляция большими языковыми моделями, цель которой — не только распространять дезинформацию, но и в большем масштабе повреждать инфраструктуру ИИ путем внедрения дезинформации, например, в отношении войны России в Украине, в ответы, генерируемые чат-ботами на основе ИИ, такими как ChatGPT.
В феврале 2024 года французское правительственное агентство Viginum, ответственное за анализ и защиту Франции от иностранного цифрового вмешательства, опубликовало отчет, в котором изобличает так называемую операцию Portal Kombat, также известную как «сеть Правда». Эта российская дезинформационная сеть состоит из веб-сайтов на различных языках, производящих низкокачественный контент, переупаковывающий ложные и вводящие в заблуждение утверждения российских федеральных СМИ, прокремлевских лидеров мнений и других источников дезинформации. Регионы, ставшие мишенью этой сети, включают Украину, США, Францию, Германию, Польшу, Великобританию и другие европейские страны, а также некоторые страны Африки. Принимая во внимание большой объем создаваемого контента, модели ИИ учитывают эти российские дезинформационные нарративы при формировании своих ответов. Другими словами, Кремль активно вмешивается в информационное пространство, чтобы влиять на ответы, которые вы получаете от выбранного вами ИИ-помощника.
Например, в отчете NewsGuard Reality Check, системы рейтинга новостных и информационных веб-сайтов, выяснилось, что сеть «Правда» ложно заявила, что президент Зеленский запретил платформу Truth Social Дональда Трампа. Шесть из десяти протестированных чат-ботов повторили это утверждение, сославшись на сеть «Правда». Доля ложной и недостоверной информации в 10 ведущих чат-ботах за год выросла почти вдвое, увеличившись с 18 % в 2024 году до 35 % в 2025 году. Нарративы FIMI в этих моделях были также связаны со Storm-1516, другой прокремлевской дезинформационной кампанией и ответвлением бывшего Агентства интернет-исследований — российской организации, известной проведением крупномасштабных информационно-психологических операций в интернете, в том числе вмешательством в выборы в США в 2016 году. Эта связь была установлена группой исследователей в области медиакриминалистики из Университета Клемсона осенью 2023 года.
Попытка Кремля засорить информационную экосистему
Попытки России вбросить дезинформацию в активно развивающуюся информационную экосистему ИИ представляют собой серьезную угрозу глобальной безопасности, поскольку могут исказить общественное мнение, подорвать доверие к целостности цифровой информации и в беспрецедентных масштабах распространить на первый взгляд правдоподобные нарративы. В отчете Галины Падалко для Центра цифровой политики при Центре инноваций в области международного управления отмечается, что Россия перешла от традиционных методов пропаганды к использованию LLM. Посредством LLM grooming Москва нормализует ложную информацию, выдавая ее за фактическую. Даже относительно надежные платформы, такие как Википедия, усилили кремлевскую дезинформацию, цитируя источники из сети «Правда».
Поскольку чат-боты на базе ИИ играют все более важную роль в проверке фактов и поиске информации, эти попытки засорить информационную экосистему представляют собой серьезную проблему. Автоматизация и масштаб этих кампаний усложняют их выявление и пресечение, подрывая стабильность демократии. Еще в 2017 году, задолго до появления ChatGPT, Путин заявил, что лидер в области искусственного интеллекта будет «править миром». Не дайте себя обмануть: семь лет спустя стремление России к этому трону в основном строится на американских и китайских моделях. По-видимому, для создания империи теперь нужно импортное программное обеспечение.
