Память AI-агента должна меняться — но вместе с ошибками

Главное изменение в MindMemOS — память AI-агента здесь рассматривается не как архив, а как система, которая сама меняет структуру и правила работы. Это повышает автономность, но одновременно делает ошибки опаснее: неверное воспоминание может не просто сохраниться, а встроиться в дальнейшее поведение агента.

Проект организует открытые данные через единую структуру сущностей, свойств и времени. Затем MindMemEvolve подбирает схему памяти под конкретный сценарий, а механизм dreaming объединяет дубликаты и пытается разрешать противоречия. Иными словами, агент должен не только помнить больше, но и периодически приводить свои знания в порядок.

Есть и второй слой — MindSkillEvolve. Он превращает траектории выполнения задач в повторно используемые навыки и постепенно их улучшает. На заявленных тестах это дало прирост успеха SpreadsheetBench на 9,2 процентного пункта относительно исходного набора навыков. На LOCOMO система показала точность 94,03%, на PersonaMem — 70,63%.

Но автономная эволюция памяти не отменяет контроль, а делает его важнее. В MindMemOS для этого используется неявная корректирующая обратная связь человека: она помогает находить потенциально неточные или не соответствующие задаче воспоминания. При этом из описания работы неясно, насколько часто такие ошибки возникают, сколько стоит постоянная перестройка памяти и как система ведёт себя за пределами указанных наборов данных.

Практический вывод простой: подобный подход полезен там, где агент долго работает с одной областью и накапливает повторяющийся опыт. Но запускать саморедактируемую память без проверки нельзя — иначе мы получим не более умного помощника, а систему, которая уверенно обучается на собственных заблуждениях.

Готовы ли вы доверить агенту самостоятельно менять структуру своей памяти, если проверка ошибок всё ещё требует участия человека? Источник: cs.AI updates on arXiv.org