ИИ-агенты под прицелом: атаки на магазины и новые исследования

В сегодняшней сводке — сообщение о взломах онлайн-магазинов с помощью AI-агентов и исследования о том, как сделать модели и агентные системы надёжнее.

🔥 Hot:

🔹 Gambit Security сообщает об атаках AI-агентов на онлайн-магазины — В заголовке блога говорится, что целью атаки может стать компания за $25.

➡️ Новости:

🔹 Lightspeed нацелилась на фонд в $250 млн для ранних AI-стартапов в Индии — Компания впервые синхронизирует индийский цикл сбора средств с глобальными фондами. 🔹 В техническом отчёте представили семейство мультимодальных моделей Pistis — В него входят модели на 27B и 9B параметров, построенные на Qwen3.6 и Qwen3.5.

➡️ Полезные материалы:

🔹 DEEPO предлагает улучшить обучение мультимодальных моделей для борьбы с галлюцинациями — Авторы разбирают, где в цепочке от награды до обновления параметров возникают слабые места. 🔹 BaseCamp применяет AI-агента для настройки пайплайнов секвенирования ДНК — Система помогает принимать решения о порогах качества и других настройках, которые обычно требуют ручной работы. 🔹 Исследователи проверили, когда прогнозным агентам стоит искать данные и рассуждать — Работа сравнивает эти действия с опорой на рыночный прогноз или исторические аналогии. 🔹 На Хабре разбирают, с какими правовыми вопросами AI сталкивается в России — Материал основан на выступлении для студентов-юристов.

📝 Если хотите дополнить список другими новостями и материалами, пишите в комментариях.