Они выглядят как люди, ведут себя как настоящие пользователи, но действуют в интересах скрытых заказчиков. Разные платформы используют сети десятков аккаунтов, которые ретранслируют политические и маркетинговые послания, не будучи распознаны. Результат: особенно эффективный и дешевый "резонансный ящик", который трудно или вовсе невозможно остановить. О фабриках ботов пишет 24 августа портал Ynet.
Фабрика ботов
В последние годы мир ботов претерпел значительные изменения и превратился в особенно изощренный и эффективный инструмент. Платформы, подобные той, которая показана выше на видео, позволяют управлять большим числом устройств и аккаунтов в соцсетях. Они используются не только для автоматического маркетинга спама и рекламных сообщений (что является их законной целью), но и представляют угрозу демократии.
►Как работает бот-ферма
Раньше ботов было относительно легко распознать. Они выполняли повторяющиеся действия и выглядели неестественно. Сегодня платформы стали намного более продвинутыми. Согласно исследованию Университета Южной Калифорнии, опубликованному недавно в USC Today, уже на выборах президента США в 2020 году бот-аккаунты стали гораздо сложнее, и многие из них действовали для распространения политических конспирологических теорий.
Исследователь Эмилио Феррера, один из авторов работы, объяснил зарубежным СМИ: "Боты усиливают потребление контента внутри одной и той же “политической капсулы”, тем самым усиливая эффект резонансного ящика (ситуация, когда человек сталкивается только с мнениями и убеждениями, схожими с его собственными)".
Впервые мы наткнулись на документальные свидетельства этого явления в посте, опубликованном в фейсбук-группе "Восстание машин", посвященной теме ИИ. На видео видны десятки экранов смартфонов, выполняющих действия по рассылке маркетинговых сообщений в чат-приложениях.
Позднее мы выяснили, что источник ролика – пост на Reddit, где автор, вероятно, пытался продвигать платформу как инструмент для увеличения вовлеченности (то есть распространения контента через создание взаимодействий с другими пользователями).
Речь идет о платформе под названием AutoViral, которая вместе с инструментами вроде Panda Manual позволяет управлять сетью из десятков аккаунтов, выглядящих реальными, практически без возможности их идентификации соцсетями. Каждый аккаунт связан с отдельным устройством, что затрудняет выявление аномальной активности.
В беседе с Ynet исследователи организации Fake Reporter объяснили, что использование этой платформы позволяет создавать автоматические интеракции, выглядящие по-человечески. На видео видно, что оператор использует систему для рассылки чат-сообщений людям: "Он пытается что-то продать. Это, по сути, ботоферма, просто в данном случае ее действия связаны с маркетингом и спамом".
►От маркетинга к политике и управлению сознанием
Хотя на первый взгляд это выглядит как банальная рекламная рассылка, ясно, что разница между продвижением товара и продвижением политического послания заключается только в содержании. Более того, запуск такой кампании вовсе не является дорогостоящим или сложным. Сервис, который мы выявили, позволяет делать это с особой легкостью и почти на любой платформе – от TikTok и Facebook до OnlyFans – все зависит от продукта или сообщения, которое нужно распространять.
Клиент может арендовать смартфоны в количестве до 20 устройств: подписка стоит от 25 долларов за один телефон и более 200 долларов за 20 телефонов. Разумеется, можно арендовать и больше, единственное ограничение – сколько устройств в состоянии предоставить сервис.
Причина использования настоящих смартфонов, а не компьютеров или виртуальных систем, проста: аккаунт, привязанный к одному устройству, не вызывает подозрений у систем фильтрации соцсетей (ведь это отдельный пользователь с отдельным телефоном).
Иными словами, невозможно определить, что за десятками смартфонов и аккаунтов стоит один организатор. А результат? Реальная угроза демократии. Так, распространение политических сообщений может осуществляться в огромных масштабах силами небольшого числа людей. Метод очень эффективный: он расширяет "резонансный ящик", в котором находятся пользователи соцсетей.
Эта схема была впервые раскрыта еще в 2019 году в расследовании "Большие боты", опубликованном "Едиот Ахронот" и The New York Times. Тогда стало известно, как с помощью "человеческих ботов" распространялись огромные объемы политических посланий в поддержку партии Ликуд. Теперь представьте, каких результатов можно достичь с платформой наподобие AutoViral.
►Угроза политическим системам по всему миру
Феномен политических ботов не является израильской особенностью – он угрожает избирательным процессам во всем мире. Многие исследования показали, что во время выборов президента США и европейских выборов последних лет боты активно использовались для увеличения охвата политических сообщений. Часто это происходило посредством вводящей в заблуждение или откровенно ложной информации, что влияло на общественные дискуссии.
В Великобритании, например, исследования показали, что во время референдума по Brexit широко применялись автоматизированные сети для усиления политических посланий в соцсетях. Эти боты непрерывно транслировали сообщения в поддержку выхода Британии из ЕС – и в итоге страна действительно вышла.
Так, несмотря на усилия соцсетей, мы имеем дело с настоящей "технологической гонкой вооружений": боты совершенствуют методы, чтобы обходить фильтры, а компании и исследователи улучшают инструменты мониторинга, чтобы сократить отставание.
Парадоксально, но в конечном счете власть находится у регулятора, который в данном случае сам получает выгоду от деятельности ботов, продвигающих его в политическом плане – словно "кот, охраняющий сметану". Поэтому борьба с фейками и дезинформацией требует многомерного подхода – как со стороны соцсетей, так и со стороны пользователей, которые должны уметь распознавать лживый и манипулятивный контент.