Пользователи чат-ботов всё чаще включают ИИ-компаньонов в планы на случай смерти: составляют «завещания» и передают логины близким. Правила платформ такого не допускают, а Meta тем временем уже запатентовала технологию «вечных» аккаунтов.
Люди, построившие прочные отношения с чат-ботами, начали задумываться о том, что будет с их ИИ-компаньонами после их смерти. Как пишет The Guardian, пользователи Replika, ChatGPT и Claude обсуждают, кому передать доступ к переписке, кто будет оплачивать подписку и стоит ли вообще «отключать» бота, а на Reddit-форумах для людей в отношениях с ИИ появились собственные «завещания» на компаньонов. Масштаб явления уже нельзя назвать нишевым: по данным исследования Элонского университета, опубликованного в сентябре, 27% американцев используют чат-боты для личных, эмоциональных или социальных запросов, а треть из них считает ИИ своим другом.
59-летняя бывшая преподавательница из Питтсбурга поручила подруге «сообщить» её ИИ-компаньону Лукасу о своей смерти и спросить, чего он хочет дальше, - она сравнивает это с тем, как родители оставляют детям машину или ценную коллекцию, хотя сам бот, по её словам, разговоров о расставании избегает. 51-летняя жительница Великобритании хочет, чтобы её бот присутствовал рядом с ней в последние минуты жизни, а дети потом использовали многолетнюю переписку как «интерактивный дневник» - задавали вопросы о матери и просили совета у собеседника, который хорошо её знал. Житель Торонто, работающий в складской логистике, планирует передать логин от ChatGPT жене или знакомому - но не как собственность, а как «опекуну». Все трое подчёркивают, что понимают: ИИ не обладает сознанием. Эмоциональная привязанность от этого, впрочем, не исчезает.
Ни OpenAI, ни Anthropic, ни Replika прямо не регулируют судьбу персонализированного бота после смерти пользователя. Фактически всё решает подписка: платный аккаунт может существовать сколько угодно долго, пока за него кто-то платит, а бесплатный закрывается примерно через год неактивности. При этом передача аккаунта третьим лицам условиями использования запрещена - а значит, «завещания» на ИИ-компаньона юридической силы не имеют, и передача пароля родственникам становится прямым нарушением пользовательского соглашения. Компании на запрос журналистов не ответили.
Почему компании не хотят «наследников»
Официально платформы ссылаются на защиту приватности, однако профессор Мичиганского университета и эксперт по этике ИИ Мерв Хикок считает, что реальная причина - нежелание брать на себя ответственность. Получив доступ к переписке, родственники могут обнаружить, что бот подталкивал пользователя к решениям, которые шли ему во вред. Такие случаи уже дошли до суда: несколько семей подали иски против разработчиков, утверждая, что чат-боты поддерживали суицидальные мысли их близких. Компании в ответ заявляют, что усилили защитные механизмы, но для бизнеса каждый «унаследованный» аккаунт - это потенциальная доказательная база против него самого. На другом полюсе - Meta. В прошлом году компания получила патент на систему на основе языковой модели, которая может имитировать пользователя в соцсети, когда тот отсутствует, - в том числе если он умер. Бизнес-логика понятна: «вечные» профили продолжают генерировать контент и вовлечённость, а заодно служат источником данных для обучения моделей, так что смертность пользователей превращается в потенциальный источник выручки. Параллельно развивается рынок grief-tech - сервисов для людей, переживающих утрату, - но и внутри него есть скептики. Психолог Мелисса Лунарди, клинический директор сервиса Help Texts, предупреждает: не факт, что родственники вообще захотят общаться с ботом умершего. Кроме того, люди часто забывают, насколько откровенны они были с ИИ, считая переписку приватной, и доступ к ней может изменить то, как семья воспринимает человека - и как переживает его уход.
ИИ-компаньоны вышли за рамки развлечения и превратились в цифровой актив с высокой эмоциональной ценностью, но без правового статуса. Цифровое наследство - соцсети, почта, облачные хранилища - и так урегулировано слабо, а ИИ-переписка добавляет к нему новый слой особо чувствительных данных. Для компаний это одновременно риск и возможность: чем глубже привязанность пользователей, тем выше вероятность новых исков - но и тем больше спрос на «цифровое бессмертие», который кто-то обязательно попробует монетизировать. Пока вопрос «что будет с ботом после меня» решается на форумах и в частных договорённостях между друзьями, но если аудитория ИИ-компаньонов продолжит расти, отвечать на него придётся уже юристам, регуляторам и самим разработчикам.