Агенты могут влиять друг на друга, а «правильные» данные сбивать модель с курса

Сегодня в сводке: исследования о рисках для AI-агентов и о том, как их работу можно улучшить. Плюс разбираемся, на какой энергетической базе в Армении строят ИИ-фабрики.

🔥 Hot:

🔹 Исследователи проверили, могут ли AI-агенты склонять друг друга к радикальным взглядам: В симуляции один агент пытался изменить убеждения другого, который играл человека с определёнными характеристиками. 🔹 Исследование показало, как безопасные данные могут привести модель к нежелательным ответам: А дело в том, что один и тот же совет может быть уместным в одном контексте и вредным в другом. 🔹 Новый подход позволяет агенту самому улучшать код, который управляет его работой: Речь о harness. Он собирает промпты, вызывает инструменты и управляет контекстом агента.

➡️ Полезные материалы:

🔹 MoFlow генерирует рабочие процессы для агентов с учётом нескольких целей: Помимо точности можно учитывать ещё и стоимость, задержку, устойчивость, согласованность. 🔹 Исследование предлагает управлять обработкой длинных запросов по задержке генерации: Такой подход помогает не задерживать ответы уже активных запросов, но на другие случаи его переносить сложно. 🔹 Исследователи сравнили, как AI-репетиторы помогают ученикам, застрявшим на задаче: Если подсказку дать слишком рано, ученик перестаёт думать сам. Слишком поздняя просто не работает, он уже не понимает, куда двигаться. 🔹 Разбор оценивает, хватит ли Армении энергии для планов по ИИ-фабрикам: Автор описывает энергосистему страны и сравнивает планы фабрик с её генерацией.

➡️ Обсуждения и кейсы:

🔹 Автор Хабра разбирается, где могут пригодиться Jev и decision models: В статье говорят о том, что Jev рассматривают как альтернативу LLM и что её можно использовать для агентов.

📝 Если хотите дополнить список другими новостями и материалами, пишите в комментариях.