Попередня вартість електроенергії локального ШІ на реальному навантаженні
Попередня вартість електроенергії локального прогону ШІ порівняно із зазначеними цінами хмарних API на ту саму кількість токенів.
Зібрано попередні дані про споживання енергії на реальних навантаженнях локального ШІ — за вимірюваннями та системними журналами. Цифри поки оціночні, але дають досить точну картину загальної економіки.
Вимірювання виконано на енергоефективному ноутбуці з сучасною GPU вартістю близько 4 000–4 500 доларів (4 000–4 500 €). На менш економічному обладнанні витрати на електроенергію, найімовірніше, будуть вищими й можуть наблизитися до цін API найдешевших китайських моделей. Такі моделі часто доступні безкоштовно або зі знижкою до 90%. У цих випадках хмарний ШІ може виявитися дешевшим за саму лише електроенергію для локального виведення.
Графіки, опубліковані разом із повідомленням, порівнюють одне навантаження — 198 завдань GPQA-Diamond, 56 514 вхідних і 156 136 вихідних токенів, усього 212 650 токенів — за ціною електроенергії 0,25 $/кВт·год. Локальні витрати в таблиці: 0,014 $ лише для GPU і 0,025 $ для оцінки повного ПК. Зазначені хмарні підсумки для тієї самої кількості токенів — від 0,065 $ (Qwen Flash) до 1,674 $ (Claude Sonnet 5.5 і GPT-6.1 Sol). У примітці до таблиці сказано, що обладнання не враховано, що хмарні суми рахують за тією самою кількістю токенів, а не за еквівалентними виміряними прогонами, і що якість моделей може відрізнятися.
Це попередні результати. Плануються подальші вимірювання; результати передбачається публікувати на GitHub.