Общий latent-кэш не читается сам собой — MaSRead добавляет адресацию

Распределённые AI-агенты могут обмениваться не текстом, а фрагментами key-value cache. Но общий кэш, который корректно сливается, не становится автоматически пригодным для поиска: если фрагменты просто лежат рядом, они начинают мешать друг другу.

Именно здесь находится главный результат MaSRead. Метод адресует чтение по содержанию фрагмента: строит непрозрачные наборы тегов из слов, выбирает нужные участки и декодирует каждый под жёсткой attention-маской, скрывающей остальные данные. Иными словами, система не пытается прочитать весь накопленный latent store целиком — она сначала прокладывает маршрут к нужным фрагментам.

Это особенно важно для запросов в несколько шагов. Если фрагменты связаны лексически, обход графа может добраться до всех частей, необходимых для ответа. В экспериментах подход применялся к цепочкам, конвейерам, симметричным и hub-структурам, а также к хранилищам на естественном языке. Авторы также сообщают, что он переносится на другое семейство моделей.

Практический вывод довольно приземлённый: совместное latent-хранилище надо проектировать не только как надёжную репликацию, но и как систему адресации. CRDT решает вопрос сходимости данных при задержках и дубликатах, а MaSRead — лишь часть задачи поиска и чтения.

Ограничения метода существенные. Лексическая маршрутизация может не найти доказательства, если они не связаны с запросом через содержание. После маршрутизации чтение зависит от длины выбранного фрагмента, но сквозная работа всё равно включает обход хранилища и отдельное чтение каждого посещённого фрагмента. Наконец, объединить найденные части лучше, чем позволяет замороженная модель-читатель, система не сможет.

Так что MaSRead не превращает latent store в универсальную память. Он показывает более узкий, но полезный принцип: скрытые состояния становятся выборочно читаемыми только тогда, когда в них заранее есть содержательная связь с будущим запросом. В ваших агентных системах важнее надёжно сливать состояние или заранее строить для него понятные пути поиска? Источник: cs.AI updates on arXiv.org