Использование инструментов искусственного интеллекта превратилось в повсеместную практику при создании контента антисемитского и антиизраильского характера в социальных сетях. Об этом свидетельствуют результаты нового исследования организации CyberWell, изучающей ксенофобские тенденции в социальных медиа.
В первом масштабном исследовании о связи между генеративным ИИ и распространением антисемитских материалов отмечается, что за 13 месяцев - с января 2025 по февраль 2026 года - в соцсетях обнаружено более 300 антисемитских единиц контента, созданных с помощью искусственного интеллекта: суммарно они набрали свыше 30 млн просмотров.
Согласно документу, для создания антисемитских материалов использовались широкодоступные инструменты: видеогенератор Veo от Google, Sora от OpenAI (впоследствии закрытый компанией), Grok от X Илона Маска, а также сервис генерации музыки Suno.
Контент сочетал визуальные образы, аудио и вымышленные нарративы с реальными событиями - что делало его убедительнее, привлекательнее и сложнее для выявления. Значительная часть материалов была посвящена отрицанию и высмеиванию Холокоста.
Заметный всплеск антисемитского ИИ-контента зафиксирован после событий 7 октября 2023 года. Следующая волна пришлась на июнь 2025 года - во время операции ЦАХАЛа "Народ-лев" против Ирана.
► Дети под прицелом
79% выявленного антисемитского контента распространялось на видеоплатформах - TikTok, Instagram и YouTube. Доминировали короткие ролики, нередко специально рассчитанные на молодую аудиторию: через игровые сообщества, сатирические форматы и вирусные тренды.
Антисемитские послания систематически внедрялись в контент, связанный с популярными играми Roblox и Minecraft, - то есть в пространства, которые дети считают безопасными.
Гендиректор и основатель CyberWell Таль-Ор Коэн Монтемайор отметила: "Сегодня можно создавать материалы ненависти в промышленных объемах и охватывать миллионы людей, тогда как реакция модераторов, как правило, следует уже после того, как контент широко разлетелся по сети".
► Ситуация опасная, платформы реагируют по-разному
33% выявленных материалов содержали прославление насилия или призывы к насилию в отношении евреев - и именно они обеспечили 41% всех взаимодействий с публикуемым контентом (лайки, перепосты, комментарии). Авторы доклада делают вывод: самый радикальный контент распространяется быстрее всего. Кроме того, насильственный антисемитский контент встречается вдвое чаще в материалах, созданных ИИ, по сравнению с контентом рядовых пользователей.
Зафиксированы и существенные различия в политике различных платформ. TikTok несет наибольшую долю антисемитского контента - 36% - однако демонстрирует и самый высокий показатель удалений.
YouTube (Google) и X Илона Маска показали самые низкие показатели удаления - 28% и 20% соответственно - и не располагают четкой политикой в отношении вредоносных материалов, созданных с помощью ИИ.
При этом даже там, где контент в конечном счете удаляется, это происходит с опозданием - за которое ролики успевают собрать сотни тысяч, а то и миллионы просмотров.
CyberWell - независимая некоммерческая организация, ведущая мониторинг антисемитского контента на английском и арабском языках в крупнейших социальных сетях.
Организация сообщает о выявленных материалах командам модерации социальных сетей и платформ и ведет открытую базу данных верифицированных антисемитских публикаций в соответствии с международно принятым определением антисемитизма.