Алгоритмы манипуляции

Как и в предыдущие годы, база операций составляли тысячи подставных профилей, выдававших себя за обычных пользователей или администраторов страниц со схожими интересами. Ранее Meta неоднократно раскрывала и блокировала подобные сети. Например, в 2022 году была разоблачена крупнейшая с начала войны сеть, связанная с Россией: более 1600 фейковых аккаунтов и страниц, координировано распространявших кремлевскую пропаганду о войне. Эта кампания, начавшаяся в мае 2022, включала более 60 поддельных новостных сайтов, имитировавших известные издания (Spiegel, The Guardian, Bild и др.) на разных языках. После публикации материалов с прокремлевской повесткой (очернение Украины, дискредитация беженцев, утверждения о том, что санкции не работают и вредят только странам, которые их вводят) организаторы массово делились ссылками на эти сайты через сеть фиктивных аккаунтов в Facebook, Instagram, Twitter, Telegram, а также запускали по ним рекламу.

Meta охарактеризовала эту операцию как сочетание технически сложных элементов (имитация сайтов СМИ на семи языках потребовала значительных ресурсов) и грубой силы (множество фальшивых профилей и рекламу). Такой “гибридный” подход позволял злоумышленникам сравнительно быстро охватить широкую аудиторию: они не тратили время на органический рост подписчиков, а сразу нагнетали информационное пространство массированной рассылкой однотипных сообщений. Подобные атаки «в лоб» на информационную среду скорее рассчитаны на краткосрочный эффект («hit-and-run»), чем на долгосрочное создание доверия, но могут наносить значимый урон до момента их нейтрализации.

1 600

фейковых аккаунтов и страниц, координировано распространявших кремлевскую пропаганду о войне

Алгоритмы соцсети, предназначенные для таргетинга рекламы, стали оружием в руках пропагандистов. Выяснилось, что пророссийские группы активно закупали рекламные объявления с политическим содержанием, обходя при этом контроль. В ходе расследования AI Forensics были обнаружены тысячи рекламных объявлений от анонимных страниц, продвигавших прокремлевские месседжи в странах ЕС. Причем более 65% такой политической рекламы выходило без требуемой маркировки (то есть Facebook не пометил ее как политическую) и не сопровождалось информацией об оплачивающей стороне. Это свидетельствует об уязвимости алгоритмов модерации рекламы: злоумышленники научились создавать однодневные страницы, которые публиковали оплаченный пост, мгновенно охватывали десятки или сотни тысяч пользователей, а затем удалялись. «Страница фактически создается лишь ради оплаты объявления, чтобы сразу достичь широкой аудитории, а затем просто удаляется – это эффективнее, чем долго растить сообщество в надежде на охват» – отмечает исследователь Пол Бушо из AI Forensics.

Кроме того, таргетированная реклама использовалась не только для вброса идей, но и как инструмент аналитики: российские операторы наблюдали, какие сообщения заходят лучше, отслеживая реакции пользователей в режиме реального времени. В одном из документов, созданных прокремлевским политтехнологом Ильей Гамбашидзе в рамках дезинформационной кампании Good Old Usa Project, прямо говорится: «Таргетирование в Facebook позволяет отслеживать реакцию аудитории на распространяемые материалы и корректировать дальнейшие запуски, исходя из того, какая группа была затронута сильнее всего».

Таким образом, рекламная платформа Facebook служила своего рода полигоном для тестирования пропаганды, где посредством A/B-тестов враги подбирали наиболее действенные нарративы. Во второй половине 2022 года специалиста Meta сумели вручную идентифицировать и нейтрализовать вредоносные аккаунты, которые еще не были удалены автоматическими системами до начала полноценного расследования.

>65%

политической рекламы, распространялось без маркировки на Facebook

Алгоритмы ленты Facebook устроены так, чтобы показывать пользователю наиболее релевантный и интересный для него контент – зачастую то, что вызывает сильную эмоциональную реакцию (гнев, возмущение, страх). Пропагандисты умело этим пользуются, распространяя максимально провокационные посты и изображения, провоцирующие споры. Чем активнее люди комментируют или делятся записью (пусть даже возмущаясь), тем шире алгоритм разносит ее по сети. В случае пророссийской дезинформации это означает, что крайне поляризующий контент получает непропорционально высокий охват. Исследования показывают, что платформы, оптимизированные под вовлеченность, невольно способствуют быстрому вирусному распространению лжи и теорий заговора. 

Кроме того, злоумышленники практиковали тактику искусственного разгона вовлеченности: создавались группы «ботов» или подконтрольных аккаунтов, которые сразу после публикации начинали массово лайкать и комментировать нужный пост, чтобы “раскрутить” его в алгоритмическом рейтинге. В уже упомянутом плане “Good Old USA” говорилось о применении «сети ботов», которые будут модерировать топ-дискуссии в комментариях и направлять их русло в выгодную сторону. Имеется в виду, что под каждой целевой публикацией появляется десятки скоординированных комментариев, создающих видимость массовой поддержки данной позиции либо травли противоположной. Рядовые пользователи, увидев такой “резонанс”, могут ошибочно принять пропагандистский вброс за широко разделяемое мнение.

Российские операторы заранее создавали и вели, порой в течение месяцев, сообщества в Facebook, маскируясь под локальные группы по интересам – например, группы сторонников Трампа в отдельных штатах («Alabama for America the Great» и т.п.). Такие группы наполнялись нейтральным или околосозвучным контентом, не вызывая подозрений. План состоял в том, что к решающему моменту эти «спящие ячейки» в соцсети будут пробуждены: администраторы резко переключатся на распространение агитматериалов, превращая группы с уже набранной аудиторией в инструмент воздействия на общественное мнение. В судебных документах по делу Гамбашидзе, рассекреченных Минюстом США, фигурировали намерения создать по 18 таких ячеек в ключевых колеблющихся штатах США, чтобы в решающий момент они начали слаженно продвигать нужные нарративы и ссылки.

Подобная тактика опирается на встроенные механизмы рекомендаций Facebook: люди в таких группах начинают делиться материалами, которые могут дальше расходиться по их лентам друзей, а алгоритмы могут рекомендовать вступить в популярные группы знакомым с похожими интересами, что увеличивает охват.

по 18

«спящих ячеек» планироапли создать в каждом ключевом колеблющемся штате США

Хотя вопрос фокусируется на Facebook, стоит упомянуть, что многие операции были кроссплатформенными. Контент и фейки, появившиеся на других ресурсах (например, сгенерированные фальшивые видео на YouTube или “сливы” в Telegram), часто затем попадали в Facebook через пользователей, которые делились ссылками. Таким образом, пропагандисты использовали экосистему соцмедиа в комплексе: если одна площадка блокировала их аккаунты, они все равно добивались охвата на другой и возвращались через нее. Facebook в данном случае нередко становился вторичным ретранслятором дезинформации, запущенной за его пределами, особенно когда ею делились реальные люди, введенные в заблуждение. Например, описанные выше фейковые видео с «украинскими солдатами против Трампа» изначально распространялись на пророссийских каналах, но затем их подхватили американские конспирологические группы в Facebook, благодаря чему охват значительно вырос.

Таким образом, российская пропагандистская сеть в Facebook представляет собой сложную структуру, состоящую из сотен фейковых аккаунтов и страниц, действующих слаженно для распространения пророссийских нарративов. Эти аккаунты, многие из которых искусственно взаимодействуют друг с другом, создают иллюзию широкой поддержки России и ее политики, особенно на фоне текущего конфликта с Украиной. Они активно комментируют и репостят публикации друг друга, что повышает индекс вовлеченности и усиливает охват контента.

Многие из этих страниц имеют тысячи подписчиков и регулярно публикуют изображения и видео, демонстрирующие российскую военную технику и символику, включая символ «Z», связанный с российскими вооруженными силами. Примеры таких страниц, как «Vladimir Poutine Z», показывают, как визуальные материалы и национальная символика используются для усиления пророссийских настроений.

Отсутствие адекватной модерации подобных публикаций, возможно, связано с трудностями в работе с международным контентом и неоднозначностью правил. Так как пророссийские страницы ориентированы на международную аудиторию, алгоритмы модерации не всегда воспринимают их как нарушающие стандарты, особенно если они не используют явные признаки дезинформации. Этот недостаток позволяет пророссийским нарративам беспрепятственно распространяться, несмотря на многочисленные жалобы со стороны исследователей и активистов.

Недостаточная реакция со стороны Facebook делает платформу уязвимой для иностранных информационных операций, подрывающих поддержку Украины и формирующих пророссийские настроения среди западной аудитории. Без адекватного контроля и модерации подобный контент продолжит оказывать значительное влияние на восприятие событий международной политики.

Учитывая значительный охват, российская дезинформационная кампания в социальных сетях оказывает значительное влияние на общественное мнение в США и других странах Запада. Используя визуальные образы, символику и милитаристские нарративы, такие как символ "Z" и фотографии российской военной техники, российская пропаганда формирует положительный имидж российских вооруженных сил и поддерживает политику Кремля. Этот контент распространяется через сотни фейковых аккаунтов и страниц, которые, используя механизмы алгоритмов Facebook, достигают широкой аудитории, включая тех, кто изначально не был подписан на такие страницы.

Согласно отчету Комитета по разведке Сената США, Россия активно использует социальные сети для распространения милитаристской пропаганды, чтобы продемонстрировать свою силу и привлечь внимание западной аудитории. Военные изображения, такие как танки и ракеты, создают привлекательный нарратив для патриотически настроенной аудитории и часто служат для мобилизации пророссийских настроений. Это особенно заметно на фоне текущего конфликта с Украиной, где изображения военной техники и символики могут способствовать формированию антинатовских и антиукраинских взглядов среди западной аудитории.

Другие исследования, такие как анализ Центра стратегических и международных исследований (CSIS), также показывают, что российские информационные операции включают использование ботов и фейковых аккаунтов для создания видимости поддержки России. Например, отчеты CSIS описывают, как с помощью ИИ и автоматизированных аккаунтов распространялись антиукраинские нарративы, создавая иллюзию массовой поддержки этих идей среди американских пользователей.

Глубокое исследование нашего проекта о роли социальных медиа в политической пропаганде также показывает, что социальные сети стали ключевым каналом распространения политической пропаганды, во многом оттеснив традиционные СМИ. Около двух третей населения мира пользуются соцсетями, причем более половины взрослых, например в США, регулярно получают через них новости. Алгоритмы платформ (Facebook, Twitter/X, TikTok, Telegram и др.) способствуют вирусному распространению контента – исследования показывают, что ложные новости распространяются в сетях быстрее, чем правдивые. Такие механизмы, как ленты рекомендаций и группы по интересам, создают «эхо-камеры», в которых пользователи видят преимущественно информацию, подтверждающую их взгляды.

В этих условиях социальные сети стали мощнейшим инструментом влияния на общественное мнение, что активно используется в том числе для государственной пропаганды. Они превратились в наиболее мощное средство воздействия на умы, способствуя распространению как информации, так и дезинформации.

Распространение пророссийских нарративов также способствует "усталости от войны" среди западной аудитории. Постоянное появление в лентах новостей изображений российской армии и позитивных публикаций о России может формировать ложное впечатление о ее правомерности и силе, что снижает уровень поддержки Украины. Это может привести к тому, что западная общественность, особенно в США, начнет воспринимать поддержку Украины как неоправданную, что ослабляет позицию западных демократий в международной арене и способствует снижению финансовой и военной помощи Украине. 

Российские дезинформационные кампании также подрывают доверие к западным демократическим институтам, представляя их как неспособные адекватно реагировать на информационные угрозы и защищать своих граждан от внешнего влияния. Согласно исследованию Georgetown Journal of International Affairs (GJIA), путинская пропаганда часто фокусируется на том, чтобы представить западные правительства как неэффективные, а поддержку Украины как ненужную.

Российская пропаганда создает негативное восприятие западных институтов, что может повлиять или, возможно, уже влияет на политические предпочтения американских избирателей и привести к усилению пророссийских настроений внутри США.

Вопрос о том, как регулировать распространение иностранной пропаганды на американских платформах, является сложным из-за необходимости балансировать между защитой свободы слова и национальной безопасностью. В случае российской пропаганды, распространяемой через Facebook, есть вероятность того, что страницы, продвигающие пророссийские нарративы, могут нарушать как законы США, так и ряд требований в области регулирования некоторых бизнес-практик. Например, требования Федеральной торговой комиссии (FTC) и Комиссии по ценным бумагам и биржам США (SEC) о защите пользователей, прозрачности бизнес-практик и предотвращения манипуляций.

Подтверждения и ссылки: