(Фото: shutterstock)
Компания OpenAI, владеющая ChatGPT, объявила 25 августа, что заблокировала группу ChatGPT-аккаунтов из России за проведение скрытой операции влияния. Группа продвигала в интернете пророссийскую пропаганду от лица вымышленного израильского экспертного института. От его имени хвалили Россию и критиковали Украину и страны Европы. При этом пропагандисты активно использовали ИИ и пытались с его помощью замести следы. Детали расследования раскрывает в среду, 26 августа, издание Ynet.
В центре операции находился несуществующий израильский экспертный центр - "Международный институт Берка" (International Burke Institute, IBI). Также использовалось название International Anti-Corruption Institute (IAAI). Утверждалось, что институт был основан в Израиле в 2025 году.
На первый взгляд его сайт выглядел как ресурс настоящего исследовательского центра: на нем публиковались статьи и международные рейтинги, а также был представлен список известных экспертов. Среди связанных с институтом ученых назывались, в частности, американский философ Ноам Хомский и японский политолог Фрэнсис Фукуяма.
Однако проверка показала, что 34 из 36 статей, приписанных ученым и общественным деятелям, были скопированы из других источников. Иногда публикации выходили с ложным указанием авторства. Так, одну из статей о крупном инфраструктурном и торговом проекте, связывающем Китай и Пакистан, скопировали из издания Cambridge University Press, а затем приписали другому автору.
На сайте также публиковался так называемый "индекс суверенитета". Россия получила в нем особенно высокую оценку, тогда как США, Германия, Франция, Европейский союз и другие западные страны оказались на более низких позициях. По данным одного из немецких СМИ, за вымышленным институтом стояли люди, связанные с российскими властями.
Как использовали ChatGPT
OpenAI обнаружила эту операцию во время расследования публикаций в социальных сетях, созданных при помощи искусственного интеллекта. Эти материалы вывели специалистов компании на стоявшие за ними ChatGPT-аккаунты, а затем - на гораздо более масштабную инфраструктуру.
Операторы кампании, по всей видимости, находились в России, где сервисы OpenAI официально недоступны. Для подключения к ChatGPT они использовали VPN, позволявший скрывать местонахождение.
Запросы вводились на русском языке. Пользователи просили ChatGPT писать статьи и комментарии, восхваляющие Россию и критикующие Украину и Европейский союз. При этом нейросети давали отдельные указания избегать формулировок, по которым можно было бы определить, что за публикациями стоят русскоязычные авторы.
Таким образом, искусственный интеллект использовали не только для быстрого создания большого объема контента, но и для того, чтобы скрыть "языковой отпечаток" и происхождение их авторов.
Созданные при помощи ChatGPT публикации распространялись в Telegram, X, Facebook, LinkedIn и Substack. В операции участвовали в том числе каналы, подобные Lahme Ente, аудитория которого достигала 20 тысяч подписчиков.
Однако организаторы не ограничивались публикациями от имени анонимных аккаунтов. Ссылки в статьях и комментариях вели на сайт якобы независимого международного института. Его профессиональное оформление, научные публикации, список известных экспертов и собственный рейтинг должны были придать пророссийским сообщениям видимость достоверности.
В результате политические тезисы подавались не как российская пропаганда, а как выводы профессиональной исследовательской организации, якобы работающей в Израиле. Была создана целая система, предназначенная для придания легитимности ложным сообщениям. Авторы публикаций ссылались на "исследование" или "аналитический материал" организации с международным названием, профессионально выглядящим сайтом и внушительным списком экспертов.
Аудитория была небольшой
OpenAI не утверждает, что кампания смогла охватить широкую аудиторию. Большинство публикаций получило сравнительно мало просмотров. Однако в компании считают важным сам факт создания инфраструктуры, которую в дальнейшем можно было расширить.
"Значение операции заключается не столько в охваченной ею аудитории, сколько в созданной инфраструктуре", - отметили в OpenAI.
В компании подчеркнули, что созданные при помощи ChatGPT материалы ссылались на "организацию, которая в остальном выглядела заслуживающей доверия, с якобы работающими в ней экспертами, повторно опубликованными научными трудами и якобы собственной системой оценки рисков".
"Это показывает, как участники операций влияния могут использовать искусственный интеллект в качестве вспомогательного инструмента в рамках более масштабных усилий по созданию видимости авторитетности, сокрытию источника выгодных им нарративов и формированию ресурсов, которые со временем можно будет масштабировать, - заявили в OpenAI. - Это также показывает, как использование искусственного интеллекта в качестве вспомогательного инструмента может привести к разоблачению всей операции".
По данным CNBC, кампанию обнаружил сотрудник OpenAI Бен Ниммо, возглавляющий команду, которая занимается выявлением операций по распространению дезинформации при помощи искусственного интеллекта. По итогам расследования компания заблокировала связанные с кампанией аккаунты.
Не первая пророссийская операция
Это не первый случай использования ChatGPT пророссийскими структурами для проведения операций влияния. В феврале OpenAI заблокировала аккаунты, связанные с телеграм-каналом "Рыбарь" - прокремлевским СМИ, которое, по утверждению правительства Великобритании, частично координируется российскими властями, получает финансирование от государственной корпорации "Ростех" и сотрудничает с представителями российских спецслужб.
Об использовании искусственного интеллекта в пропаганде сообщали и другие компании. По данным Google, пророссийские структуры все чаще применяют такие инструменты для исследований, планирования операций и создания контента. Компания Graphika также обнаруживала материалы, созданные при помощи искусственного интеллекта российскими и китайскими структурами.
YouTube, LinkedIn, Snapchat и другие социальные платформы уже внедряют механизмы маркировки созданного ИИ контента, подачи жалоб и ограничения распространения подобных материалов - особенно в тех случаях, когда они используются для публикации фейковых новостей и дезинформации.
Израильская исследовательская организация Fake Reporter предупредила, что эта технология может представлять особую опасность в период выборов в кнессет в Израиле.
"Лица, преследующие политические интересы, сегодня могут использовать искусственный интеллект, чтобы создавать видимость авторитетности и подлинности, имитировать общественную поддержку и манипулировать общественным мнением. К сожалению, этот метод не является чем-то новым для израильской действительности. По мере приближения выборов такой сценарий превращается из предмета теоретической дискуссии в непосредственную угрозу национального масштаба", - заявили исследователи.
"В местном контексте мы вступаем в первую в Израиле избирательную кампанию эпохи искусственного интеллекта. Эта технология позволяет с невероятной скоростью создавать контент, персонально адаптированный для каждой группы населения, а иногда и для каждого отдельного пользователя. Это уже не просто пропаганда в привычном нам виде, а сложное цифровое оружие, способное манипулировать общественным мнением. Люди при этом даже не осознают, что подвергаются воздействию тщательно спланированной кампании", - добавили в Fake Reporter
"Системы, которые должны защищать демократическую дискуссию, - регулирование, надзор за платформами и инструменты для выявления фальшивого контента - все еще не соответствуют темпам развития и уровню сложности этой технологии. Чем ближе дата выборов, тем опаснее становится этот разрыв", - заявили в организации.