Предварительная стоимость электроэнергии для локального ИИ на реальной нагрузке
Предварительная стоимость электроэнергии локального прогона ИИ в сравнении с указанными ценами облачных API на то же число токенов.
Собраны предварительные данные о потреблении энергии на реальных нагрузках локального ИИ — по измерениям и системным журналам. Цифры пока оценочные, но дают достаточно точную картину общей экономики.
Измерения выполнены на энергоэффективном ноутбуке с современной GPU стоимостью около 4 000–4 500 долларов (4 000–4 500 €). На менее экономичном оборудовании расходы на электроэнергию, скорее всего, будут выше и могут приблизиться к ценам API самых дешёвых китайских моделей. Такие модели часто доступны бесплатно или со скидкой до 90%. В этих случаях облачный ИИ может оказаться дешевле одной только электроэнергии для локального вывода.
Графики, опубликованные вместе с сообщением, сравнивают одну нагрузку — 198 заданий GPQA-Diamond, 56 514 входных и 156 136 выходных токенов, всего 212 650 токенов — при цене электроэнергии 0,25 $/кВт·ч. Локальные затраты в таблице: 0,014 $ только для GPU и 0,025 $ для оценки полного ПК. Указанные облачные итоги для того же числа токенов — от 0,065 $ (Qwen Flash) до 1,674 $ (Claude Sonnet 5.5 и GPT-6.1 Sol). В примечании к таблице сказано, что оборудование не учтено, что облачные суммы считаются по тому же числу токенов, а не по эквивалентным измеренным прогонам, и что качество моделей может отличаться.
Это предварительные результаты. Планируются дальнейшие измерения; результаты предполагается публиковать на GitHub.