MESA: агент выбирает память под задачу, а не читает всё подряд

В долгих задачах агенту мешает не только забывчивость, но и избыток памяти. Если читать всю историю действий, наблюдений и рассуждений, в контекст попадает много шума; если выбирать только один источник, можно потерять важную часть ответа.

Именно этот компромисс разбирает работа MESA. Её главный вывод звучит практично: лучшая конфигурация памяти обычно находится посередине — не одна структура и не полное объединение всех структур, а небольшой набор, подобранный под конкретный запрос.

Для каждой траектории авторы строят пять взаимодополняющих представлений памяти. Затем MESA учится по обратной связи за итоговый ответ: выбирает нужные представления и объединяет извлечённые из них сведения, оставляя саму answer model замороженной.

Это важное отличие от простого правила «загружай больше контекста». Система должна сначала решить, какие виды памяти нужны именно сейчас. Для обучения выбора используется harness optimization с поиском, учитывающим предыдущие результаты, и UCB-планированием, которое балансирует исследование новых вариантов и использование уже успешных.

На AMA-Bench MESA превзошла самый сильный базовый метод на 8,5%, одновременно используя на 41% меньше evidence tokens, чем вариант, читающий все структуры. То есть экономия контекста здесь не выглядит платой за качество — по заявленным результатам, она идёт вместе с ним.

Но есть важная оговорка: результаты получены на одном бенчмарке, а аннотация не раскрывает, какие именно пять представлений памяти используются и насколько дорого обучать сам механизм выбора. Поэтому это пока не универсальное доказательство, что любой агенту нужен такой слой маршрутизации. Скорее, это сильный аргумент против одинаковой стратегии памяти для всех запросов.

Если ваш агент уже хранит длинные истории, вы бы сначала оптимизировали объём контекста или научили систему выбирать, какие воспоминания вообще стоит читать? Источник: cs.AI updates on arXiv.org