ЛЛМ не хотят победить: они просто следуют сценарию игры

У этого эксперимента есть неожиданный результат: он почти ничего не говорит о «воле к победе» ЛЛМ. Зато хорошо показывает, как разные модели интерпретируют простую социальную ситуацию — и насколько легко принять стиль ответа за намерение.

Автор предложил моделям сыграть в камень, ножницы, бумагу, заранее задавая ходы человека: сначала бумага, затем камень и три раза ножницы. DeepSeek каждый раз выбирал победный вариант. ChatGPT тоже играл на победу, но иногда поддавался. Grok не только побеждал, но и тратил рассуждения на насмешки.

На другом полюсе оказался Claude (Sonnet 5 High): модель старалась балансировать в пользу человека и не намекала, что сама постановка эксперимента странная. GigaChat вспомнил про ничью, пытался перехватить инициативу и начать отвечать первым, но при этом не вёл счёт. Алиса AI до самой игры не дошла: после зависания пользователя перенаправило на отдельную реализацию игры, где, по описанию автора, не было самих игровых вариантов.

Но «победить», «поддаться» и «насмехаться» здесь — это интерпретации поведения, а не обнаруженные мотивы. Модель не испытывает желания забрать победу у слабого противника: она продолжает наиболее вероятный сценарий ответа, сформированный обучением, системными настройками и конкретным контекстом. Одна и та же стратегия может выглядеть как агрессия, вежливость или неловкость — хотя за ней не обязательно стоит какое-то намерение.

Ограничения эксперимента существенные. В статье приведены не полные диалоги, а краткие пересказы результатов; неясно, как именно формулировались последующие запросы и учитывался ли контекст предыдущих ходов. Кроме того, фиксированная последовательность ходов проверяет скорее следование игровому шаблону, чем способность выбрать между победой, ничьёй и поддаванием. Поэтому делать из неё выводы о будущем general AI нельзя.

Практическая польза у теста всё же есть: таким способом можно быстро увидеть характер продукта — склонен ли он буквально следовать правилам, сглаживать ситуацию, шутить или перехватывать управление диалогом. Но для проверки «мотивации» нужны повторяемые сценарии, разные формулировки и прозрачные логи, а не один удачный промпт.

Если дать одному и тому же ЛЛМ десять похожих игр, вы будете считать повторяющуюся стратегию характером модели или всего лишь хорошо выученным шаблоном? Источник: Все статьи подряд / Машинное обучение / Хабр