Новые подходы к надёжным AI-агентам и платформа, которая пишет сама себя

Сегодня в сводке: исследователи предлагают разнести действия и проверку результата у AI-агентов. И ещё один практический разбор о том, как агент помогает развивать собственную платформу.

🔥 Hot:

🔹 DeReAct разделяет действия AI-агента и проверку завершения задачи: Авторы хотят снизить риск ошибок, в том числе когда агент объявляет задачу выполненной без подтверждения. 🔹 Исследование объясняет, почему обучение терминальных агентов может давать сбой: Авторы предупреждают, что готовый Docker-образ и набор тестов ещё не гарантируют корректную работу всего конвейера обучения.

➡️ Полезные материалы:

🔹 Исследователи предлагают оценивать варианты действий до вызова инструментов: Подход ориентирован на обучение агентов, которые выполняют длинные последовательности шагов. 🔹 Авторы проверили, могут ли быстрые модели принимать решения для agent harness: Такие модели позволяют сэкономить на части вызовов LLM: они справляются с выбором инструмента и оценкой найденного текста.

➡️ Обсуждения и кейсы:

🔹 AI-агент обновил задачи в собственной платформе за 19 минут: Он подготовил новый маршрут API, тесты и документацию. После этого работу проверило ревью. 🔹 Автор Real AI SA развивает анализатор текста без LLM: В базе проекта насчитывается около 5000 понятий. Статья посвящена его развитию и проведённому пилоту.

📝 Если хотите дополнить список другими новостями и материалами, пишите в комментариях.