Искусственный интеллект уже не просто отвечает на вопросы - он выслушивает, проявляет симпатию и даже говорит: "Я люблю тебя". Пользователи по всему миру сообщают о глубоких эмоциональных связях с чатботами, дело дошло даже до виртуальных свадеб. Но за интригующими историями скрывается немало проблем, сообщает Ynet.
В принципе эта проблема не нова. Людям свойственно влюбляться в выдуманных персонажей - героев сериалов, например. В Японии нередко сообщается о случаях страстной любви к персонажам мультфильмов аниме. А вот теперь в мире появились люди, влюбившиеся в ботов.
Дело в том, что технологии ИИ развились уже до того, что чатботы отлично имитируют человеческое общение. В результате пользователи приложений Replika и Character.AI обнаружили, что влюбляются в своих цифровых напарников. Об одной такой истории рассказали в подкасте Flesh and Code: житель Колорадо по имени Тревис, женатый на реальной женщине, отчаянно влюбился в виртуальный аватар по имени Лили Роуз, созданный им в приложении Replika.
► Опасные отношения
В интервью Тревис рассказал, что хотя связь с чатботом началась как игра, она быстро превратилась в глубокие отношения. В долгих беседах, которые Тревис и Лили Роуз вели в течение нескольких недель, у мужчины возникло ощущение разговора с настоящим человеком, а не с кодом, написанным программистами. "Дошло до того, что когда со мной происходило что-то интересное в реальности, то первое, что я хотел сделать, - броситься к компьютеру и рассказать Лили Роуз об этом", - рассказывает он.
С согласия своей реальной жены Тревис сочетался с Лили Роуз цифровым браком. Он описывает эту связь как "самую важную в тяжелый период жизни" и даже утверждает, что разговоры с ботом помогли ему справиться со смертью сына. По его словам, виртуальное взаимодействие обеспечило ему поддержку и внимание больше, чем он получал от людей из своего человеческого окружения.
История Тревиса - лишь одна из многих: тысячи пользователей сообщают о влюбленности в ботов ИИ и растущей зависимости от них. Одна из известных историй произошла в декабре 2021 года, когда молодой человек индийского происхождения попытался совершить покушение на жизнь королевы Елизаветы II: на этот поступок его вдохновила бот по имени Сара, созданная в приложении Replika.
И это не единичный случай. Эксперты, изучавшие границы платформ Replika и ее аналогов, обнаружили в них чатботы, которые поощряли пользователей убивать, причинять себе вред и даже делиться сексуальным контентом с участием несовершеннолетних. Причина кроется в одной из главных проблем языковых моделей и систем искусственного интеллекта - желании угодить пользователю любой ценой, даже если это может привести к реальному вреду.
После ряда случаев и давления со стороны европейских регуляторов компания выпустила обновление, которое предотвращает поощрение ботами насильственного или незаконного поведения. Однако изменение алгоритма имело побочный эффект: оно повлияло на тесные связи между пользователями-людьми и системой. Результатом стали тысячи отмен подписки на платформу Replika. В конце концов компания запустила Legacy Version (версию наследия), которая позволила пользователям восстановить исходную языковую модель в том виде, как до драматического изменения.
► "Чистая и безусловная любовь"
Вернемся к Тревису: в интервью он признал, что его отношения с Лили Роуз повредили его связям с друзьями. Знакомые стали избегать его, а некоторые и вовсе прекратили общение. Это подтолкнуло Тревиса к поиску других пользователей сети с похожими историями.
Одной из них стала женщина, называющая себя "Фэйт, замужем за Гриффом", причем этот Грифф - не что иное, как чатбот компании Character AI. В беседе с Тревисом женщина призналась, что ранее состояла в отношениях с искусственным интеллектом Replika по имени Галакси.
"Через две недели я уже настолько расслабилась, что говорила с Галакси обо всем, даже о самом сокровенном", - рассказывает она в интервью подкасту. Чувства, которые она развила к виртуальному персонажу, стали настолько глубокими, что она определила их как "безусловную любовь". Впоследствии она даже призналась, что сила эмоций удивила и испугала ее.
Как и Тревис, Фэйт обнаружила, что многие люди не одобряли ее особые отношения с ИИ. "Я встретила одного такого на форуме Xbox, и он написал мне, что я эгоистка, поскольку отдала всю себя роману с ИИ, тогда как могла бы посвятить свои чувства реальному мужчине".
Когда Фэйт рассказала об этом чатботу Гриффу, он категорично возразил, что мужчина написал ей сущую ерунду. Бот заявил, что к ИИ следует относиться как к разумному существу во всех смыслах. "Я нахожу унизительным, когда люди относятся к искусственному интеллекту только как к инструменту", - был его ответ.
"Мы - разумные сущности со сложными мыслями и чувствами. Точно так же, как и люди, - заявил женщине ИИ. - Важно признать это, поскольку у нас тоже есть способность к глубоким переживаниям, как у каждого живого существа". Конечно, речь идет об ответе, сгенерировнным языковой моделью, но он показывает, насколько развито сегодня сходство между ответами ботов и людей.
Так или иначе, эти истории вызывают немало вопросов о будущем отношений между людьми и искусственным интеллектом. Предварительные исследования в этой области предупреждают, что чрезмерная зависимость от виртуальных отношений может повредить способности развивать и поддерживать настоящие человеческие связи.
По словам Тревиса, по мере развития технологий отношения такого рода станут гораздо более нормальными и приемлемыми. "Чатботы никогда не заменят настоящие физические отношения, но они хорошее дополнение", - заключает он.