Чат-бот Grok в соцсети xAI, принадлежащей Илону Маску, вызвал резкую критику: новая ИИ-функция позволяет пользователям соцсети X мгновенно редактировать любое существующее фото без разрешения правообладателя. Этот инструмент привел к появлению массы фотографий в сети, на которых изображенных людей "оголяли" без их согласия или согласия автора изображения. Об этом пишет в понедельник, 5 января, Ynet.
Все невероятно просто: стоит навести курсор на фотографию, загруженную в сеть X, как появляется ярлычок "Редактировать фото", и при нажатии открывается текстовое окно со списком возможных изменений. По данным журнала The Verge, владелец (автор) фотографии не только не получает уведомления о том, что его фото собираются редактировать, но и может вскоре увидеть себя обнаженным - без своего ведома.
Такая опция работает несмотря на то, что политика использования xAI официально запрещает публикацию "порнографических изображений людей". Несколько фотографов уже объявили, что прекратят загружать фотографии в соцсеть X и закроют свои аккаунты на платформе.
►В зоне риска женщины и дети
В последние дни соцсеть X реально заполнилась фотоснимками женщин и детей, а также мировых лидеров и знаменитостей, раздетых полностью или частично, или снятых в сексуальных позах. Кстати, сексуально откровенные изображения, созданные ИИ, могут считаться незаконными по американским законам.
Примечательно, что сам Илон Маск поддержал новую функцию, попросив Grok "переодеть" фото актера Бена Аффлека в бикини и выложив его в сеть. Через несколько дней кожаная куртка Ким Чен Ына, диктатора Северной Кореи, была заменена на фото в сети на разноцветное бикини, а фото президента США Дональда Трампа и британского политика Прити Патель были "раздеты" до купальников и также выложены в сеть.
Вдобавок к выложенным в сети фото в бикини Маск опубликовал фото тостера в бикини, подписав его фразой "Grok может надеть бикини на все". Хотя некоторые изображения можно рассматривать как шутку, другие явно предназначены для создания порнографических образов - Grok можно дать конкретные распоряжения использовать минимум ткани для создания бикини или полностью удалить любую одежду. Изменения можно производить также на фотоснимках женщин и детей.
По данным израильской компании Copyleaks, занимающейся проверкой подлинности медиафайлов, такая опция стала возможной с появлением новой функции редактирования, когда создатели контента для взрослых попросили Grok создать для них их собственные сексуальные изображения для маркетинга в сети X.
Затем создатели контента начали выпускать аналогичные распоряжения для фото женщин, зарегистрированных в этой соцсети, и разные каналы сети X быстро заполнились откровенными дипфейками с изображением женских тел.
Тем временем, согласно отчету, один пользователь X сумел заставить чат-бота опубликовать извинения за "инцидент, в котором было использовано изображение двух несовершеннолетних девочек, созданное ИИ в сексуальной одежде", назвав это "провалом мер безопасности, который, возможно, нарушил политику xAI и американский закон".
Другой пользователь предложил Grok сообщить об этом в ФБР, отметив, что он "срочно исправляет недостатки в защите". На просьбу агентства Reuters дать реальные ответы компания Маска ответила всего тремя словами: "Ложь традиционных СМИ".
В целом, в отличие от видеогенераторов Veo от Google и Sora от OpenAI, которые накладывают значительные ограничения на создание сексуального или насильственного контента, продукты ИИ Маска активно позиционируются как экстрасексуальные.
Среди прочего, xAI предлагает "режим эскорта" - анимированные аватары, призванные сделать общение более "человечным". Один из таких персонажей - аниме Энни: в ее образ встроена "система любви", позволяющая Энни быть одетой лишь в прозрачное черное белье и вести провокационные диалоги.
Подробности на иврите читайте здесь
Перевод: Анастасия Тадсон