Часть 2: Отчёт об угрозах от Facebook. Взгляд в будущее.
Недавно Facebook сообщил о более чем 150 скоординированных недостоверных операциях, которые он выявил, о которых отчитался и которые пресёк. Мы уже обсуждали значение этих 150 блокировок. Очевидно, платформа продвинулась в модерации контента, но помимо этого многие скрытые распространители дезинформации также усовершенствовали свои тактики, предупреждает Facebook.
Несмотря на прогресс Facebook, этот отчёт — не повод расслабляться, поскольку злоумышленники адаптируются и к мерам принуждения со стороны Facebook. По словам платформы, развивается всё более сложная игра в «бей крота». Команда Facebook выделяет шесть основных тенденций:
Первая тенденция — переход от «оптового» к «розничному» подходу. Злоумышленники переключаются с масштабных, шумных обманных кампаний на более мелкие, более точечно нацеленные операции. Пример — случай начала 2020 года, когда Facebook обнаружил и удалил сеть, которой управляла российская военная разведка. Сосредоточившись на Украине и соседних странах и используя поддельные личности, действовавшие на блоговых форумах и на нескольких платформах социальных сетей, сеть взаимодействовала с политиками, журналистами и другими публичными фигурами.
«Розничные» операции обходятся распространителям дезинформации дорого, и Facebook утверждает, что их окупаемость невелика. Это может измениться с приходом новых технологических достижений.Например, на прошлой неделе Джорджтаунский университет опубликовал отчёт об автоматизации и дезинформации. Исследователи проанализировали, как GPT-3 — система искусственного интеллекта (ИИ), которая пишет тексты, — вероятно, будет использоваться в кампаниях по дезинформации. Как предупреждают исследователи, враждебные акторы могли бы использовать автоматизацию для запуска крайне масштабируемых кампаний по дезинформации, требующих меньше человеческих ресурсов, чем это необходимо сейчас:
«Это наблюдение проливает свет на простой факт: хотя дискуссия в США о российской дезинформации была сосредоточена на популярном образе автоматизированных ботов, сами операции по своей сути были человеческими, а IRA [Internet Research Agency — компания, базирующаяся в России и связанная с российским правительством] представляла собой бюрократическую организацию среднего размера, как и многие другие».
Вторая тенденция, которую наблюдает Facebook, — это размывание границ между подлинными публичными дебатами и манипуляцией. Например, в июле 2018 года Facebook ликвидировал сеть, связанную с IRA, которая взаимодействовала с заранее запланированными, подлинными мероприятиями. Цель сети заключалась в том, чтобы нацеливаться на события, связанные с раскалывающими общество вопросами, и предлагать себя в качестве добровольцев для их усиления от имени местных организаторов.
В-третьих, Facebook говорит о «взломе восприятия».Злоумышленники стремятся воспользоваться страхом общественности перед операциями влияния (IO), чтобы создать ложное впечатление повсеместных манипуляций избирательными системами — даже без доказательств. Например, в последние часы промежуточных выборов в США в 2018 году Facebook выявил операцию, связанную с ИРА, участники которой утверждали, что ведут тысячи фальшивых аккаунтов, способных повлиять на результаты выборов по всей территории Соединённых Штатов. Они даже создали сайт — usaira[.]ru — с таймером «обратного отсчёта до выборов» и в качестве доказательства своего заявления представили почти сотню недавно созданных аккаунтов в Instagram. Сила самоисполняющегося пророчества в дезинформации.
Четвёртый тренд, который отмечает Facebook, — «операции влияния как услуга». Коммерческие акторы проводят операции влияния как внутри страны, так и за рубежом, обеспечивая своим клиентам возможность отрицания причастности и делая операции влияния более доступными. За последние четыре года Facebook расследовал и удалял операции влияния, проводившиеся коммерческими структурами, включая медиа-, маркетинговые и PR-компании. К сожалению, Facebook не приводит никакой количественной информации об этом тренде.
В-пятых, Facebook описывает тренд усиления операционной безопасности. Опытные акторы существенно улучшили свои способности скрывать свою идентичность, используя техническую обфускацию, а также сознательных и несознательных посредников.В ответ на усилия по их пресечению более сложные субъекты угроз — в том числе из России и Китая — улучшили свою операционную безопасность. Они стали более дисциплинированными, чтобы избегать небрежных ошибок, например входа в якобы американские аккаунты из Санкт-Петербурга в России. Так, например, в октябре 2019 года Facebook удалил связанную с российской IRA сеть, которая была одной из первых, нацелившихся на выборы в США 2020 года. Сеть в основном публиковала чужой контент, включая мемы с минимальным количеством текста на английском языке или без него, а также скриншоты публикаций в социальных сетях новостных организаций и публичных фигур.
В-шестых, диверсификация платформ. Чтобы уклоняться от обнаружения и диверсифицировать риски, операции нацеливаются на несколько платформ (включая более мелкие сервисы) и СМИ, а также полагаются на собственные веб-сайты для продолжения кампании. Запуская операции на нескольких платформах, субъекты угроз, вероятно, пытаются обеспечить, чтобы их усилия пережили меры по обеспечению соблюдения правил со стороны любой конкретной платформы. Они также нацеливались на гиперлокальные платформы (местные блоги и газеты), чтобы охватить определённые аудитории и воздействовать на публичные пространства с менее обеспеченными ресурсами системами безопасности.
Снижение угроз
«Мы ожидаем увидеть больше локальных акторов по всему миру, которые попытаются использовать тактики ИО, чтобы влиять на общественные дебаты в своих странах, ещё больше размывая границы между аутентичными общественными дебатами и обманом.В свою очередь, технологические платформы, традиционные СМИ и гражданское общество столкнутся с более сложным выбором в области политики и правоприменения», — говорится в заявлении Facebook. Facebook предлагает предпринять конкретные шаги, которые сделают операции по оказанию влияния менее эффективными, более простыми для обнаружения и более затратными. Ниже мы обсудим некоторые из них.
Общесоциальный подход и формирование сдерживания
Одна из областей, где общесоциальный подход оказывает заметное влияние, — это сдерживание злоумышленников от распространения дезинформации. Хотя платформы могут предпринимать действия в пределах своих возможностей, как общественные нормы, так и регулирование против IO и обмана, в том числе когда это делается подлинными голосами, критически важны для сдерживания злоупотреблений и защиты публичной дискуссии. В марте мы представили обзор недавних исследований о том, как выстраивать сдерживание.
Facebook также утверждает, что дезинформация процветает в отсутствии (информации), что также согласуется с российским стратегическим документом, который мы заметили в прошлом году. В начале февраля 2020 года Российский институт стратегических исследований (РИСИ), финансируемый Кремлём аналитический центр, опубликовал эссе под названием «Обеспечение информации для целей внешней политики в условиях цифровой реальности».В статье утверждалось, что:
«Превентивно сформированный нарратив, отвечающий национальным интересам государства, способен существенно снизить воздействие деятельности иностранных сил в информационной сфере, поскольку они, как правило, стремятся занять “пустоты” [в информационном потоке]».
Именно этим занимается кампания EUvsDisinfo — не допустить, чтобы дезинформация заполняла эти пустоты. Мы разрабатываем коммуникационные продукты и кампании, призванные объяснять ценности, интересы и политику ЕС в странах Восточного партнёрства. Кроме того, мы отслеживаем и анализируем тенденции дезинформации, разоблачаем дезинформационные нарративы и повышаем осведомлённость о негативном воздействии дезинформации, распространяемой в информационном пространстве восточного соседства и за его пределами.
Источник: FB, отчёт об угрозах, 2017–2020
Известные неизвестные и неизвестные неизвестные
Хотя Facebook улучшил свои возможности по выявлению операций влияния, мы не знаем, какие неаутентичные сети Facebook мог пропустить, и мы не знаем точно, что ещё происходит на платформе — возможно, даже за пределами нашего воображения.В любом случае знания Facebook и его возможности по удалению контента остаются ключевыми в борьбе с дезинформацией и в усилиях по повышению издержек для её организаторов.
Бен Ниммо, соавтор отчёта, изложил это очень просто в Twitter:
«Операторов пытается больше, но больше операторов также попадается. Задача — продолжать двигаться вперёд, чтобы оставаться на шаг впереди и ловить их».
