Протокол HEP: шаг к аудиту научных рассуждений LLM-агентов

LLM-агенты всё чаще применяются для автоматизации научных открытий. Они способны генерировать гипотезы, проводить эксперименты и корректировать свои убеждения на основе полученных данных. Однако в существующих системах эти этапы скрыты в неструктурированных логах, что затрудняет проверку процесса человеком или самим агентом.

Протокол эволюции гипотез

Для решения этой проблемы предложен Hypothesis Evolution Protocol (HEP) — архитектурный каркас для агентов. Он превращает генерацию, оценку и эволюцию гипотез в явные, аудируемые операции. Это позволяет реализовать цикл «гипотеза — тест — доказательство — убеждение», который отсутствует у агентов, работающих в стиле планирования.

Результаты экспериментов

Протокол протестировали на задачах из области материаловедения. Агент с HEP успешно обобщался на разные исследовательские вопросы, а эффективность использования протокола возрастала при переходе к более мощным базовым LLM.

По словам авторов, это важный шаг на пути к созданию аудируемых ИИ-ученых, чьи научные рассуждения можно проверять, верифицировать и использовать как основу для дальнейших исследований.

Источник: cs.AI updates on arXiv.org