Скандал в Китае: компания по разработке компьютерных игр создала ИИ-копию настоящего сотрудника отдела кадров и запустила ее для работы. Копия начала трудиться круглосуточно, полностью копируя действия работника по имени Сяо Юй. Но хотя Юй дал разрешение использовать свои данные для целей внутреннего теста, этот эксперимент лег в центр большого скандала. Тем более что самого Сяо Юя уволили. Подробности этой истории стали известны во вторник, 14 апреля.
Цифровой двойник был предназначен для выполнения базовых задач на рабочем месте - консультирования, рассылки приглашений, подготовки простых презентаций и таблиц данных. Сам сотрудник назвал идею "весьма забавной", а компания подчеркнула: робот выполняет простые команды и его пока неудобно использовать в реальных условиях.
Однако факт создания "человека" на базе ИИ вызвал волну общественных откликов. В соцсетях появились комментарии о том, что это размывает границу между человеком и рабочим инструментом и даже поощряет превращение работника в объект. В других комментариях говорилось, что проект воплощает идею "кибернетического бессмертия", согласно которой профессиональные черты работника продолжают существовать даже после его увольнения. Параллельно возникли вопросы о праве компании извлекать экономическую выгоду из накопленных знаний и личных данных работника, даже если он изначально согласился на эксперимент.
Китайская экономическая газета Securities Times представила этот случай как часть тенденции разработки ИИ-сотрудников, призванной сохранять организационные знания после увольнения работников. Согласно публикации, робота обучили на основе профессиональных данных, полученных в ходе работы сотрудника, включая его функции на рабочем месте, общение с коллегами и знание рабочих документов.
Многие считают: если ИИ-сотрудника тренируют на стиле деятельности, общения и результатах труда конкретного человека, следует рассмотреть тому выплаты постоянного вознаграждения (своего рода авторские проценты) за коммерческое использование этих характеристик. Сама возможность настраивать цифрового двойника под пользовательские предпочтения через субъективные описания бывших коллег усиливает опасение, что работников сводят до "функциональных модулей", доступных для копирования.
По мнению юристов, данные о поведении и частном общении сотрудников - включая сообщения в чате, электронную почту и рабочие привычки - это личная информация, согласно закону о защите персональных данных. Следовательно, использование таких сведений для обучения ИИ-систем без явного согласия человека может нарушать его права. Даже если данные созданы в процессе работы, это не дает компании автоматического права воспроизводить систему, идентичную личности или стилю конкретного работника, без отдельного и оплачиваемого разрешения. Чтобы пользоваться услугами "цифрового человека", предлагается ввести временные правила регулирования сервисов генеративного ИИ, а также обязательное получение однозначного согласия на обучение ИИ и использование подобных роботов.
Исследователи трудовых отношений и активисты по защите прав работников опасаются другого: давления на сотрудников с целью получить согласие. Сотрудники могут опасаться последствий, ущерба репутации или карьере из-за отказа участвовать в подобных проектах. Кроме того, сама мысль, что цифровая версия человека продолжает работать на его бывшем месте, вызывает у многих психологический дискомфорт.
Дополнительно возникли вопросы последствий: ошибки цифрового двойника, ассоциируемого с конкретным лицом, способны навредить его репутации и породить юридические споры об ответственности.
Обсуждение не ограничивается конкретным экспериментом. ИИ-сотрудники, способные непрерывно управлять компьютерами и выполнять рутинные задачи, привлекают широкое внимание в Китае, где их считают потенциальным фактором роста производительности, но также видят в них источник опасений в вопросах информационной безопасности и утечки личных или финансовых данных.
Эксперты рекомендуют включать в трудовые договоры пункты, обязывающие удалять данные личностных характеристик по окончании найма, либо, как альтернативу, получать отдельное и оплачиваемое разрешение на их использование в будущем.
Подробности на иврите читайте здесь
Перевод: Даниэль Штайсслингер