Математик уровня Fields Medal, который боится AI — и пошёл работать в OpenAI

Якоб Цимерман — один из сильнейших математиков своего поколения, лауреат Филдсовской премии. И он прямо говорит, что боится искусственного интеллекта. Логичный вопрос: зачем тогда идти работать именно в OpenAI?

Это не когнитивный диссонанс, а расчёт. Если ты считаешь, что технология несёт системный риск, сидеть в стороне и писать предостережения — слабая стратегия. Влияние на траекторию развития смещается туда, где принимаются решения о масштабировании, выравнивании и доступе к моделям.

Паттерн уже знакомый. Исследователи безопасности, которые публично критиковали темпы развёртывания, переходили в лаборатории — не потому что передумали, а потому что альтернатива ещё хуже. Когда угроза техническая, нужны не только политики и регуляторы, но и люди, способные разобраться в математике выравнивания на уровне, сопоставимом с уровнем самих моделей.

Цимерман — математик экстра-класса. Если он видит в AI структурную проблему, которую можно формализовать, его присутствие в OpenAI полезнее, чем ещё одна статья с предупреждениями. Вопрос в другом: сколько таких людей нужно внутри, чтобы реально изменить практики, и будет ли у них право вето — или только право совещательного голоса.

Источник: Hacker News - Newest: ""AI" "LLM""