Более сложная нейросеть не гарантирует лучшую точность

Главный углеродный след AI появляется на этапе обучения, а не потому, что модель просто запустили один раз. При этом более сложная архитектура не гарантирует пропорционального роста точности — и это важнее любых разговоров о «самой мощной» нейросети.

В работе систематизировали исследования Green AI и Green DL, а также сравнили инструменты для оценки выбросов алгоритмов. Затем авторы провели собственный эксперимент: реализовали шесть моделей глубокого обучения для задачи многометочной классификации на CPU и сопоставили их выбросы на разных этапах жизненного цикла.

Практический вывод довольно приземлённый. Если две модели решают задачу с близким качеством, более лёгкая может быть разумнее: она требует меньше вычислений при обучении и снижает экологическую цену экспериментов. Это не призыв всегда брать самую простую архитектуру, а повод перестать считать точность единственным критерием выбора.

Для команд, которые регулярно переобучают модели, такой подход особенно полезен: считать нужно не только метрику на тестовой выборке, но и цену получения этой метрики. Сначала измерить энергозатраты и выбросы, затем сравнить их с реальным приростом качества — звучит менее эффектно, чем гонка за размером модели, зато ближе к инженерной рациональности.

Есть и ограничение, которое нельзя прятать за громким словом «устойчивость». Эксперимент проводился на CPU, охватывал шесть моделей и одну задачу классификации. Поэтому из него нельзя вывести универсальный рейтинг архитектур или утверждать, что любой сложный вариант всегда проигрывает; работа скорее показывает необходимость измерять конкретный сценарий, а не переносить результат на все AI-системы.

Если прирост точности от новой модели невелик, готовы ли вы отказаться от неё ради меньших затрат на обучение? Источник: cs.AI updates on arXiv.org