Why belief revision in AI is blocked by implementation, not by formulas

Надёжная AI-система должна уметь не только добавлять новые факты, но и пересматривать прежние выводы. И именно на этом переходе от логики к работающему коду возникает главный разрыв: теория описывает гарантии, а инженерии нужны конкретные процедуры и компромиссы.

В статье прослеживается путь от таксономии Doyle и London 1980 года до AGM — формальной основы для изменения убеждений. Авторы показывают, что ранние вычислительные работы и последующая теория не существуют изолированно: между ними есть преемственность, но при переходе к AGM меняются акценты и требования к системе.

Практическая ценность такого обзора — не в ещё одной классификации. Он собирает исторические и теоретические основания, на которых можно строить реализацию: какие категории изменения убеждений использовать, откуда взялись их свойства и какие формальные гарантии нужно сохранить при проектировании.

Это особенно важный сдвиг для AI-агентов. Агент, который получает новое свидетельство, должен понимать, какие старые убеждения пересмотреть, какие сохранить и почему. Без формальной модели такая логика быстро превращается в набор частных правил, которые трудно проверить и расширить.

Но есть существенное ограничение: перед нами обзор и дорожная карта, а не готовая библиотека или доказательство работоспособности конкретного алгоритма. В аннотации не приведены реализации, эксперименты, сравнения производительности или универсальный способ перенести AGM-подходы в прикладную систему. Следующий шаг — превратить исторический анализ в инженерные шаблоны с формальными гарантиями.

Если ваш AI-агент меняет выводы при появлении новых данных, вы уже проектируете систему изменения убеждений — просто делаете это явно или вслепую? Источник: cs.AI updates on arXiv.org