Для AI-солверов важнее правильный язык поиска, чем умнее LLM
Sh0ny
6 августа 20261 мин чтения
Коротко
Автоматический дизайн нейросетевых решателей PDE упирается не только в способности модели, но и в огромное число невалидных программ. ADSL-PDE предлагает искать не по Python-коду, а по структурированным решениям, что ускоряет эволюцию, хотя заявленный прирост требует осторожной интерпретации.
Главная проблема автоматического проектирования нейросетевых PDE-солверов может находиться не в самой LLM. Если разрешить ей генерировать произвольный Python-код, почти всё пространство поиска будет занято синтаксическими ошибками, несовместимыми компонентами и численно нестабильными решениями.
В такой постановке модель тратит вычисления не на поиск хорошего солвера, а на попытки получить вообще работающую программу. Это плохая среда для эволюционного агента: полезные варианты оказываются редкими среди огромного количества мусора.
Авторы ADSL-PDE предлагают промежуточный слой — domain-specific language для описания PDE-солверов. В нём фиксируются решения, которые действительно определяют качество метода: архитектура, физические ограничения, целевая функция, стратегия сэмплирования и оптимизация. Низкоуровневый код при этом скрыт, а детерминированный компилятор превращает корректное состояние поиска в исполняемый солвер.
Это важный сдвиг в постановке задачи. Агент эволюционирует не фрагменты кода, а содержательные проектные решения. Пространство становится меньше, но не обязательно беднее: авторы сохраняют композиционную свободу, чтобы система могла находить новые комбинации, а не выбирать из заранее составленного каталога.
На нескольких PDE-бенчмарках такой подход, по данным статьи, повысил эффективность поиска и стабильность оптимизации. Заявленный результат — улучшение более чем на 52% уже за первые десять итераций эволюции.
Но эту цифру не стоит воспринимать как универсальный прирост качества. В аннотации не уточняется, о какой именно метрике идёт речь и насколько результат зависит от конкретных бенчмарков. Надёжный вывод скромнее: представление пространства поиска может оказаться для AI-агента не менее важным, чем его способность рассуждать.
Практический урок шире PDE. Если агент постоянно генерирует невалидные артефакты, первым делом стоит не менять модель, а пересмотреть интерфейс задачи. Хороший DSL, схема ограничений и проверяемый компилятор могут дать больше, чем ещё одна попытка заставить LLM лучше писать произвольный код.
Источник: cs.AI updates on arXiv.org