Непрерывное обучение упирается не в память, а в потерю пластичности

В continual learning модель получает задачи последовательно и должна учиться дальше, не разрушая уже приобретённые навыки. На практике проблема часто не сводится к забыванию: сеть постепенно теряет способность эффективно перестраиваться под новые данные — то есть пластичность.

Авторы NeuMoSync предлагают решать это через слой управления поверх обычной нейросети. Для каждого нейрона добавляются обучаемые векторы признаков, которые накапливают исторический контекст сети. Отдельный модуль затем учитывает текущий вход и изменяющееся состояние модели, чтобы формировать индивидуальные сигналы для регулирования активаций и синаптической пластичности.

Это важный сдвиг в постановке задачи. Вместо ещё одного механизма хранения старых примеров модель получает подобие глобальной системы координации: разные части сети могут по-разному реагировать на новую задачу в зависимости от того, что происходило раньше.

Авторы проверили подход на нескольких сценариях continual learning: запоминании случайных меток, concept drift, class-incremental и domain-incremental обучении. По их описанию, NeuMoSync лучше сохраняет пластичность и показывает улучшения в прямой и обратной адаптации по сравнению с существующими методами. Ablation studies, согласно abstract, подтверждают вклад отдельных компонентов, а анализ сигналов модуляции выявляет интерпретируемые паттерны координации между задачами.

Но здесь есть существенное ограничение источника: в abstract нет конкретных чисел, списка базовых методов для сравнения или стоимости такой архитектуры. Поэтому пока нельзя понять, насколько выигрыш компенсирует дополнительные параметры и вычисления, а также сохраняется ли эффект вне перечисленных benchmark’ов.

Практический вывод осторожный: NeuMoSync интересен не как готовая замена стандартным методам continual learning, а как направление для систем, которым приходится долго адаптироваться к меняющимся данным. Ключевой вопрос для следующей проверки — сможет ли динамическая координация нейронов дать устойчивый выигрыш в реальных потоках данных, где задачи не разделены так аккуратно, как в benchmark’ах.

Код проекта опубликован авторами: RoozbehRazavi/NeuMoSync.

Источник: cs.AI updates on arXiv.org