LLM могут разделять язык, логику и физический мир по разным нейронам

Если LLM действительно думает одной универсальной «нейросетью», разные виды рассуждений должны задействовать примерно один и тот же внутренний механизм. Но анализ 46 задач показывает другую картину: язык, формальная логика, понимание чужих намерений и физического мира чаще опираются на разные группы нейронов модели.

Исследователи сравнили четыре когнитивные области с тем, как они организованы в человеческом мозге. Задачи, которые у людей используют одну сеть, у LLM активировали пересекающиеся группы нейронов. Задачи из разных областей — уже более раздельные.

Это интереснее, чем очередное заявление о «человеческом мышлении» моделей. Получается, специализация может возникать не только в биологическом мозге, но и в системах, обученных совершенно другим способом. Возможно, модульность — не случайность эволюции, а удобный способ организовать сложное поведение.

Практический вывод для изучения LLM простой: искать один универсальный «центр рассуждений» может быть менее полезно, чем разбирать модель по типам задач. Ошибка в логике и ошибка в понимании физического мира потенциально связаны с разными внутренними цепочками — а значит, и исправлять их в будущем, возможно, придётся по-разному.

Но есть важная оговорка. Работа показывает характер активаций и пересечение групп нейронов, а не доказывает, что найденные модули являются самостоятельными причинами способностей. Из краткого описания также нельзя понять, какие именно модели анализировали и насколько результат устойчив к другим наборам задач. Поэтому это сильный сигнал о внутренней структуре LLM, но ещё не карта её «отделов мозга».

Если модели действительно специализируются по типам мышления, что важнее для надёжности: найти такие модули или научиться проверять их работу на конкретных задачах? Источник: cs.AI updates on arXiv.org