"Я и подумать не могла, что соцсеть может довести мою девочку до смерти", - говорит американка Кристал Арройо, чья 9-летняя дочь повесилась после просмотра игр Blackout challenge (на иврите известна как "Этгар-блэкаут") на платформе TikTok. "Соцсеть"утверждает, что безопасность пользователей - ее главный приоритет, но на самом деле ее заботит лишь максимальная прибыль", - утверждает один из бывших сотрудников платформы. Агентство Bloomberg провело собственное расследование, чтобы узнать, как реагирует эта соцсеть на подобные инциденты. Подробности сообщил во вторник, 6 декабря, сайт Ynet.
Увлекшись игрой Blackout challenge, дети всего мира познакомились в соцсетях с видеороликами, которые демонстрировали самоудушение разными способами до потери сознания. Персонажи роликов позже пришли в себя, но для некоторых детей, решивших сделать то же самое, это стало последним приключением в жизни.
Журналисты агентства Bloomberg проверили, какие скрытые меры приняла сеть TikTok после гибели детей и как она реагирует на то, что вопреки правилам ею пользуются дети младше 13 лет.
По утверждению агентства, за последние 18 месяцев погибли не менее 15 детей в возрасте 12 лет и младше и не менее 5 детей в возрасте 13-14 лет.
Расследование сосредоточилось на трагическом происшествии с 9-летней Ариани Арройо из Милуоки, которая повесилась на глазах у 5-летнего брата, насмотревшись соответствующих видеороликов на TikTok.
По фотографии профиля и по роликам, выложенным девочкой в TikTok ранее, можно было определить ее возраст.
"У меня есть вопрос к TikTok: что вы делаете для изменения платформы? Я не могла и подумать, что лишусь дочери по вине социальной сети", - заявила журналистам Bloomberg мать девочки Кристал Арройо.
За несколько недель до этой трагедии другая девочка, 10-летняя жительница Сицилии Антонелла Сикомеро, также повесилась, а ее родители заявили, что причиной смерти ребенка стала экстремальная игра, распространяемая через TikTok. Этот случай дал начало расследованию, и итальянское управление охраны личной жизни граждан распорядилось, чтобы TikTok удалил пользователей, чей возраст невозможно точно определить. Происшествие на Сицилии вынудило TikTok расследовать обстоятельства, но достаточных мер по защите детей, пользующихся платформой, принято не было.
TikTok все же согласился повторно проверить возраст 12,5 млн итальянских пользователей и удалил полмиллиона аккаунтов, а также принял меры по удалению роликов, посвященных играм с удушением, и по затруднению их поиска, но не согласился взять на себя ответственность за происшедшее.
В отчете по поводу гибели Антонеллы говорилось, что она проводила в приложении TikTok по 10 часов в день после того, как ее школа закрылась из-за эпидемии коронавируса. Однако есть свидетельства, что на игры с удушением девочку вывел алгоритм платформы. Кроме того, сотрудники компании сообщили журналистам, что TikTok стремится представить дело так, будто трагедия вызвана действиями всех аналогичных платформ, а не только этой. Представители компании заявили, что моды на такие игры на их платформе не было никогда и что пользователи узнали о них из других источников. Сотрудники также сообщили, что после происшествия компания пытается доказать, что погибшие дети пользовались разными социальными сетями.
Для улучшения возможности распознания детей среди пользователей компания в 2021 году провела встречи с поставщиками программного обеспечения, позволяющего по изображению лиц отличать детей от взрослых, но дальше разговоров дело не продвинулось. Поскольку регуляторы и политики разных стран мира подозревают, что TikTok - это шпионская программа китайского правительства, руководство компании опасалось, что использование биометрической информации усилит такие подозрения.
Агентство Bloomberg передало фотографию Ариани Арройо компании Hive, одной из тех, с кем TikTok вела переговоры. Применяемая технология за 3 секунды определила, что это 10-летний ребенок. "Технология, способная это определить, уже существует. Но платформы предпочитают не видеть масштабов проблемы", - заявил журналистам генеральный директор компании Hive Кевин Гуо.
Рост популярности платформы TikTok в 2020 году привел к необходимости решить проблему отслеживания контента, содержащего подстрекательство или вмешательство в выборы, и проблемы с опасными играми отошли на второй план. Предложение компании о создании ассоциации с другими аналогичными фирмами для отсечения опасных флешмобов не прошло, ибо другие компании не были заинтересованы в подобном сотрудничестве.
Более 20 сотрудников отдела доверия и безопасности TikTok дали интервью журналистам. Они сказали, что компания может и должна действовать более решительно, чтобы не допустить использования приложения детьми. "TikTok утверждает, что безопасность пользователей стоит во главе ее приоритетов, - сказал бывший руководящий работник группы обеспечения безопасности в Калифорнии. - Но это не так. Цель компании - стать приложением № 1 в мире, чтобы заработать больше денег". Утечка внутренней информации компании, попавшая в распоряжение газеты The New York Times, свидетельствует, что в 2020 году треть пользователей платформы были младше 14 лет.
На TikTok обрушились иски в связи с играми с удушением. В числе истцов - Тауэйна Андерсон, мать 10-летней Нилы из Филадельфии, которая также погибла из-за этих игр. Женщина подала иск по поводу причинения смерти по халатности. Эксперты проверили телефон Нилы и установили, что компания TikTok рекомендовала ей соответствующие видеоролики. В иске утверждается, что "компания вне всякого сомнения знала, что смертельно опасные игры с удушением распространяются через ее приложение и что алгоритм предлагал подобный контент детям, в том числе и тем, кто погиб от удушья". TikTok попросил отклонить иск без рассмотрения, поскольку он защищен законом, согласно которому соцсети не несут ответственности за размещенный в них контент. Судья удовлетворил просьбу компании, но Андерсон подала апелляцию.
В июле 2022 года был подан еще один иск в Сиэтле от имени родителей Ариани Арройо и 2 других детей, погибших в ходе игр Blackout challenge. Согласно исковому заявлению, компания TikTok ответственна за смерть детей, поскольку применяемый ею алгоритм рекомендовал детям контент, связанный с этими играми, и не препятствовал его распространению. Против компании ведутся также расследования регуляторных органов во всем мире. Их предмет - средства верификации возраста пользователей.
Компания TikTok ответила на претензии регуляторов, сообщив, что она создала группу, которая тщательно расследует каждый несчастный случай, и что компания никогда не сталкивалась со свидетельствами того, что эти опасные игры стали модными на ее платформе. Она также сообщила, что удалила учетные записи 41 млн детей в первом полугодии и что она соблюдает законы США, запрещающие социальным сетям собирать информацию о детях младше 13 лет. Компания добавила, что в 2020 году была создана утилита, позволяющая родителям отслеживать характер пользования приложением их детьми.
В сокращении. Подробности на иврите читайте здесь
Перевод: Даниэль Штайсслингер