Несколько месяцев назад прокурор Нью-Мексико Рауль Торрес одержал победу в судебном разбирательстве с компанией Meta по вопросу обеспечения безопасности несовершеннолетних пользователей в интернете. Это решение стало существенным поражением для технологической компании и может оказать значительное влияние на всю отрасль. А с 4 мая юристы сторон вернулись в зал заседаний, и теперь суд вполне может объявить сервисы Meta и ее коллег "общественным вредом", что выльется для них в очень болезненные финансовые потери.
Раньше этот юридический термин использовался для борьбы с табачными производителями и фармацевтическими компаниями, распространявшими опиоиды. Какая борьба разворачивается вокруг корпорации Meta, прояснилось из публикации Ynet.
►Невыполнимые требования
Требования в суде звучат в понятиях Кремниевой долины почти как научная фантастика: жесткая проверка возраста по официальному удостоверению, ограничение времени использования 90 часами в месяц для несовершеннолетних, а также отмена механизмов бесконечной прокрутки и автоматического воспроизведения - тех самых, которые призваны удерживать пользователя в состоянии ступора перед экраном.
Но, возможно, самый тяжелый удар из всех - требование заблокировать сквозное шифрование для несовершеннолетних. Для Meta, которая позиционирует себя как знаменосец конфиденциальности (по крайней мере в WhatsApp), это инженерный и ценностный парадокс.
Штраф 37 млн долларов может показаться обычному человеку фантастической суммой, но для технологического спрута вроде Meta это всего лишь "стоимость ведения бизнеса", нечто вроде годовой абонентской платы, которая позволяет ему продолжать в том же духе.
Однако следующий этап юридического противостояния в Нью-Мексико способен причинить Марку Цукербергу гораздо больше вреда, чем любой чек, который ему придется выписать. Дискуссии, открывшиеся на этой неделе в суде Санта-Фе, касаются не денег, а инженерии: генеральный прокурор Рауль Торрес требует, чтобы компания провела перепроектирование алгоритмов и механизмов шифрования приложений Facebook, Instagram и WhatsApp.
►Борьба за суверенитет в сети
История технологий, лежащих в основе этих приложений, обнаруживает горькую иронию. "Бесконечная прокрутка" - та самая функция, которую генеральный прокурор хочет ограничить, - была изобретена в 2006 году разработчиком Азой Раскиным с целью сделать навигацию более плавной.
Сам Раскин с тех пор выразил глубокое сожаление, сравнив свое изобретение с внутривенным впрыскиванием кокаина пользователю. Подобным же образом проверка возраста в сети прошла эволюцию от примитивного запроса "вам больше 18 лет" к биометрическим системам распознавания лиц на базе искусственного интеллекта - технологии, которая сегодня порождает непростые вопросы о соотношении конфиденциальности и защиты.
Meta со своей стороны утверждает, что требования Нью-Мексико "необоснованны и опасны". В компании заявляют: требование прокурора выявлять 99% материалов с эксплуатацией детей математически невыполнимо - как вообще можно измерить процент от данных, которые еще не раскрыты?
Это утверждение, хотя и звучит логично с инженерной точки зрения, воспринимается обществом как уклонение от ответственности. Нынешнее противостояние касается не только детской безопасности, но и вопроса о том, кто хозяин в цифровом пространстве: алгоритм, нацеленный на максимальную прибыль, или государство, обязанное защищать своих граждан.
Если судья в Нью-Мексико удовлетворит требования прокурора, мы можем стать свидетелями конца эпохи "Дикого Запада" социальных сетей и начала эпохи, где технология впервые должна будет отчитываться о психологических последствиях, которые она порождает.
►Далеко идущие последствия
Последствия этого процесса выйдут далеко за пределы Нью-Мексико. Если Meta вынудят построить "безопасную" версию инстаграма для жителей Санта-Фе, ей будет очень трудно объяснить родителям в Лондоне, Пекине или Тель-Авиве, почему их дети продолжают подвергаться воздействию тех же вызывающих зависимость механизмов. Данный иск знаменует переход от разговоров о компенсациях к дискуссии о структурных изменениях, и, возможно, это самая значимая битва, которая произошла в Кремниевой долине за последнее десятилетие.
Прямые конкуренты, Apple и Google, уже сформировали собственные стратегии действий, даже если они не застрахованы от стрел критики. Apple, ревностно культивирующая имидж "закрытого и стерильного сада", внедрила механизм Communication Safety, предназначенный для нейтрализации проблемных материалов прямо на конечном устройстве.
Однако даже гигант из Купертино вынужден был совершить тактическое отступление от своего амбициозного (и сомнительного с общественной точки зрения) плана сканирования содержимого в облаке после того, как натолкнулся на стену сопротивления со стороны организаций по защите приватности. Google со своей стороны пытается навести порядок через Family Link и жесткую проверку возраста на основе официальных документов, но и она обнаруживает, что алгоритм YouTube Kids - это палка о двух концах: иногда он промахивается мимо цели и подает цифровой яд под видом безобидной анимации, что выглядит как инженерный сбой в самом центре рекомендательного механизма.
Неясно, увенчается ли успехом расширение дискуссий с целью приклеить социальным медиа ярлык "вредно для здоровья". С одной стороны, речь идет о реальной проблеме, которая нередко вредит несовершеннолетним и душевно слабым людям - будь то заражение дискурса или распространение ложного и оскорбительного контента.
С другой стороны, соцсети помогают соединять сообщества и пользователей так, как раньше было невозможно. Проблема возвращается к исходному определению: должны ли операторы социальных медиа нести ответственность за материалы, публикуемые на их платформах. Пока Meta или X не получат статус издателя, отвечающего за публикуемый контент, изменить эту тенденцию будет очень сложно, однако определение "общественного вреда" способно дать законодателям по всему миру оружие, которое позволит это сделать.
И пока в США борьба идет в судах, европейские регуляторы уже перешли к исполнительному этапу. Закон о цифровых услугах (DSA) Европейского союза сегодня обязывает крупные платформы доказывать, что они не наносят вреда психическому здоровью несовершеннолетних пользователей, под угрозой штрафов в размере до 6% от глобальных доходов.
В Израиле разговор о защите несовершеннолетних в сети до сих пор топчется между законопроектами и попытками министерств просвещения и связи создать "кодекс поведения", однако без особых возможностей влиять на реальность. Но судебное решение в Нью-Мексико может породить прецедент, который вынудит технологические компании изменить свой облик также для израильского пользователя - хотя бы из соображений операционной эффективности.
Подробности на иврите читайте здесь
Перевод: Даниэль Штайсслингер