(Фото: shutterstock)
Люди сообщают ИИ данные, которые не рассказали бы даже близким: о деньгах, о своей личной жизни или о здоровье. Обычно такие сведения остаются за закрытыми дверями кабинетов психологов или адвокатов. В этих кабинетах человека защищает закон, устанавливающий конфиденциальность - защитный слой, обеспечивающий полную откровенность. У инструментов ИИ, напротив, такой защиты нет. То, что ему сообщили, хранится на серверах коммерческой компании и при определенных обстоятельствах может быть раскрыто по требованию суда.
Этот теоретический риск недавно стал реальной судебной ситуацией в деле Брэдли Хефнера, гендиректора американской компании, обвиненного в мошенничестве. Когда Хефнер понял, что против него начато федеральное расследование, он ввел в чат-бот Claude конфиденциальную информацию и попросил его сформулировать стратегию защиты. После ареста ФБР провело обыск в его доме, изъяло компьютеры и телефоны и обнаружило десятки доказательств его общения с ИИ.
Адвокаты Хефнера попытались остановить следователей, утверждая, что материалы защищены адвокатской тайной, но федеральный судья отклонил их ходатайство. В решении он написал: сам факт ввода информации на платформу третьей стороны, которая по условиям использования собирает данные и даже оставляет за собой право передавать их властям, лишает пользователя ожиданий конфиденциальности. Суд пояснил: документ, созданный без защиты, не становится конфиденциальным ретроактивно только потому, что позже его отправили адвокату.
Переписки с ИИ без защиты были представлены как доказательство в суде, и после завершения разбирательства Хефнера признали виновным по всем пунктам обвинения. Хотя судебная практика в этой области еще не устоялась, это решение служит первым предупреждением для тех, кто видит в чат-боте своего рода "доверенное лицо".
►Необдуманные фразы
Исследование, изучившее переписки пользователей с ChatGPT, показало: люди часто придерживаются ошибочного восприятия нейросети, видя в ней "волшебника" или "супер-поисковик". При таком восприятии чат-бота пользователь даже не подозревает, что фраза, написанная среди ночи, сохраняется на серверах компании и однажды может быть извлечена и использована против него в другом контексте.
Этот когнитивный барьер заранее формирует недооценку риска. На такой непрочной основе пользователи раскрывают не только себя, но и конфиденциальную информацию о своих пациентах, клиентах или членах семьи. Происходит это потому, что польза ощущается немедленно, тогда как риск воспринимается как нечто отдаленное и абстрактное.
Тот, кто все же пытается осторожничать, сталкивается с системой, сильно усложняющей задачу. По умолчанию языковые модели используют для обучения беседы, и пользователь, не желающий этого, вынужден отключать историю своих чатов, выбирая между конфиденциальностью и возможностью сохранять выданную информацию. То, что ни один из участников исследования не смог найти способ сохранить и то, и другое, не случайно: компании, которые зарабатывают на хранении данных, проектируют интерфейс так, чтобы затруднить прекращение потока информации к ним.
Вызывает тревогу и то, что ИИ-модели не только сохраняют написанное, но и создают данные нового типа: они выводят из нюансов разговора то, что пользователь решил не писать явно. Модели достаточно мимолетного упоминания еды или использования профессионального термина, чтобы раскрыть скрытый слой личной жизни - от простого демографического профиля (возраст и род занятий) до эмоционального состояния. Когда пользователей спросили, что можно вывести из написанных ими текстов, выяснилось: точность их оценки информации, просочившейся к модели, остается случайной догадкой. Даже когда они старались переформулировать свои слова, чтобы заблокировать способность модели к выводам, им это удавалось только в четверти случаев.
Иными словами, история чата больше не просто текстовый архив - она содержит слой скрытых умозаключений, о существовании которых мало кто подозревает, хотя сам же их создал и передал.
Важно подчеркнуть: речь не идет о невежестве пользователей. Исследование Вашингтонского университета с участием сотен человек показало, что более 80% из них считают свое общение с чатом "очень чувствительным" - более чувствительным, чем, например, переписка по электронной почте. Большинство заявили, что не верят в сохранение конфиденциальности этих бесед. Однако на практике все иначе: почти половина обсуждали с чатом вопросы здоровья, более трети советовались с ним по финансовым вопросам, а каждый восьмой использовал модель для юридической консультации. Те же участники категорически отказывались давать чату прямой доступ к своему почтовому ящику, даже за денежное вознаграждение в сотни долларов.
Этот разрыв показывает, что мы умеем хорошо оценивать цену конфиденциальности, но наши защитные механизмы рушатся перед интерфейсом, создающим иллюзию внимания и близости.
►Ошибочное ожидание верности
Конфиденциальность никогда не сводилась лишь к технической защите информации - ее основа всегда заключалась в доверии. Именно поэтому закон признает конфиденциальными отношения с адвокатом, психотерапевтом или врачом, ведь они обязаны - этически и юридически - действовать в наших интересах. И хотя конфиденциальная информация принадлежит нам, но обязанность лежит на них. Однако такая обязанность не возложена на языковую модель. Опыт использования нейросети создает иллюзию доверенного лица, которое знает нас и говорит на равных, но за интерфейсом стоят вычислительные мощности, служащие другому интересу - интересу компании, управляющей чат-ботом. Отсюда следует: передача информации ИИ-модели - это не доверительная консультация, а отказ от конфиденциальности, который мы совершаем, даже не замечая этого.
С точки зрения закона логи чата не представляют собой новую правовую категорию. Их считают электронной информацией, как и любые другие цифровые данные, и на них распространяются те же правила раскрытия (относимость и обязанность сохранения). И все же разница здесь заметна. Цифровые данные, с которыми мы привыкли иметь дело, обычно фиксируют конечный результат действия - например, сохраненный файл или отправленное письмо. Чат с ИИ устроен иначе: он сохраняет не только итог, но и сам путь к нему - процесс формирования мыслей и решений.
В этом смысле общение в чате - это уже не документ, а отражение наших намерений. Взаимодействие с ИИ-моделью показывает этапы их формирования: неудачные попытки, колебания, переломные моменты, опасения и вопросы, которые никогда не были предназначены для чужих глаз и ушей. В таком общении мы не просто создаем текст, но и выносим наружу нашу внутреннюю систему рассуждений перед динамичным собеседником.
То, что остается на серверах компании, - это своего рода открытый черновик нашего сознания, созданный без внутренней цензуры. Именно поэтому для участников по другую сторону судебного процесса логи наших бесед - желанное доказательство. Если раньше раскрытие информации в чувствительных контекстах было защищено, то теперь наши самые сокровенные размышления могут стать доступными другим.
Автор - гендиректор компании Humane AI, эксперт в области взаимодействия человека и ИИ
Подробности на иврите читайте здесь
Перевод: Даниэль Штайсслингер