Anthropic отправила полиции ложную наводку, а Deno ждёт остановка разработки

Сегодня в сводке: ошибки AI-систем с реальными последствиями, новости из мира разработчиков и исследования о пределах AI-агентов. Плюс математики пытаются разобраться в потоке результатов OpenAI. 🔥 Hot: 🔹 Модель Anthropic отправила полиции Филадельфии ложную наводку об убийстве: Сообщение улетело в спам, и компания узнала о нём только спустя время. 🔹 Математики пытаются разобраться в масштабной подборке результатов OpenAI: Исследователи называют объём публикации ошеломляющим, а что всё это значит, пока неясно. 🔹 Cloudflare купила компанию, развивающую Deno, и планирует остановить разработку платформы: Обещают ещё год выпускать обновления безопасности, а дальше развитие, возможно, возьмёт на себя сообщество. ➡️ Новости: 🔹 Создателя AI-модели Jev оценили в $7,5 млрд через несколько недель после запуска: Компания TypeSafe утверждает, что Jev работает быстрее и расходует меньше токенов, чем LLM. 🔹 Anthropic отключила внутренние тесты AI-агентов от живого интернета: Компания заявила, что пока доступ возвращать не будет. ➡️ Полезные материалы: 🔹 Исследование: AI-агенты пишут больше кода, но не создают больше программ: С проверкой и исправлением сгенерированного кода по-прежнему приходится возиться. 🔹 AMBER учит веб-агентов запоминать важное в длинных задачах: Авторы предлагают append-only память, в которой агент сохраняет факты, ошибки и исправления. 🔹 Google DeepMind и Biohub объясняют, почему AlphaFold не решил задачу сворачивания белков: В разговоре обсуждают, почему одного масштабирования вычислений и данных может оказаться недостаточно. 🔹 Разбор девятипетлевого расчёта Claude показывает, как проверять научный код: Автор описывает процессную декомпозицию, но обнаруживает ошибку в собственных вычислениях. ➡️ Обсуждения и кейсы: 🔹 Nikon лишила победы автора видео, обработанного генеративным AI: Компания сочла, что ролик не соответствовал правилам конкурса. 🔹 Автор Хабра показывает, как общаться с AI по SMS: Этот способ пригодится там, где мобильный интернет нестабилен. 📝 Если хотите дополнить список другими новостями и материалами, пишите в комментариях.