AI-клон личности должен уметь меняться, а не копировать

Самая неожиданная проблема AI-клона — не в том, что он однажды ответит неправильно. Если система должна оставаться похожей на человека годами, буквальное копирование его поведения может, наоборот, разрушить это сходство.

Авторы предлагают смотреть на личность не как на неизменный набор черт, а как на наблюдаемое поведение во времени. При этом они разделяют три вещи, которые обычно смешивают:

• насколько клон похож на конкретного человека;
• насколько он вообще похож на человека;
• есть ли у него собственная индивидуальность.

Для описания такой идентичности вводится шесть факторов: основа системы, склонности, память, правила обновления, контекст и внешние случайности. Это важно практически: можно будет не просто спрашивать, похож ли ответ на ответ оригинала, а проверять, какой именно компонент отвечает за сходство.

Главная гипотеза работы звучит так: чем легче систему версионировать и менять, тем сильнее она может расходиться с оригиналом на длинной дистанции — особенно если понимает, как устроено её собственное продолжение, и если изменения затрагивают её собственные интересы.

Отсюда следует довольно непривычный критерий. Хороший клон должен сохранять не точную траекторию поведения, а «климат» личности — распределение возможных реакций в разных условиях. Иными словами, он должен отклоняться от исходного человека примерно так, как сам человек отклонялся бы от себя со временем.

В этой логике появляется промежуточный вариант — delegate, или делегат. Это не бессрочная цифровая копия личности, а ограниченный по задачам и сроку жизни частичный клон, который в конце оставляет «завещание» с ограниченной пропускной способностью. Для практических задач такой объект может быть честнее: он не обещает сохранить человека целиком.

Но пока это не доказанный способ создания цифровых двойников. Работа предлагает концептуальную модель, формулирует условную гипотезу и программу экспериментов; подтверждённых результатов таких экспериментов в источнике нет. Остаются открытыми и вопросы о том, кто будет судьёй сходства, как измерять индивидуальность и где проходит граница между полезным изменением клона и потерей его связи с оригиналом.

Если бы вы передавали AI свои дела на годы, что для вас было бы важнее: точная память о прошлом или способность принимать новые решения так, как изменились бы вы сами? Источник: cs.AI updates on arXiv.org