Новые инструменты для агентов и проверка их слабых мест

В сегодняшней подборке есть локальный помощник для исследователей и способы готовить данные для корпоративных агентов. Исследования проверяют, когда специальные промпты помогают, а где модели обходятся без них.

➡️ Новости:

🔹 K-Dense BYOK выпустила локального AI-помощника для исследователей: Это проект с открытым исходным кодом, который работает на компьютере пользователя и позволяет выбрать собственную модель. 🔹 ServiceNow AI представила AutoSynthData для генерации данных корпоративных агентов 🔹 Praxa разделяет предложение агента и подтверждённое действие: В описании проекта исполнение идёт через проверку полномочий, внешнего результата и согласование.

➡️ Полезные материалы:

🔹 Исследование: специальные системные промпты для научных задач увеличивают расходы без стабильного прироста точности: Авторы просмотрели 503 профиля для разных научных профессий. 🔹 Исследование проверяет, справляются ли небольшие модели с рутинными задачами в агентской системе: Например, выбор инструментов, запись памяти или предварительное одобрение команд. 🔹 Исследование нашло слабое место в оценке юмора для обучения языковых моделей: Метрика неожиданности считала перемешанные слова удачными шутками. 🔹 Исследование изучает, когда причинные модели мира помогают модульным агентам планировать: Авторы сравнивают их с моделями, основанными на наблюдаемых последовательностях действий.

📝 Если хотите дополнить список другими новостями и материалами, пишите в комментариях.