Costi energetici preliminari dell’IA locale su un carico reale
Costi elettrici preliminari di un’esecuzione di IA locale, confrontati con i prezzi API cloud indicati per lo stesso numero di token.
Sono stati raccolti dati preliminari sul consumo energetico da carichi reali di IA locale, a partire da misurazioni e registri di sistema. Le cifre restano stime, ma offrono un quadro abbastanza accurato dell’economia complessiva.
Le misurazioni sono state effettuate su un notebook efficiente con una GPU moderna, dal costo di circa 4.000–4.500 dollari (4.000–4.500 €). Su hardware meno efficiente i costi dell’elettricità saranno probabilmente più alti e potranno avvicinarsi ai prezzi API dei modelli cinesi più economici. Quei modelli sono spesso disponibili gratuitamente o con sconti fino al 90%. In quei casi l’IA cloud può costare meno della sola elettricità necessaria all’inferenza locale.
I grafici pubblicati con il post confrontano un carico — 198 compiti GPQA-Diamond, 56.514 token di input e 156.136 di output, 212.650 token in totale — con elettricità a 0,25 $/kWh. I costi locali nella tabella sono 0,014 $ solo per la GPU e 0,025 $ per il PC completo stimato. I totali cloud indicati per lo stesso numero di token vanno da 0,065 $ (Qwen Flash) a 1,674 $ (Claude Sonnet 5.5 e GPT-6.1 Sol). Una nota della tabella precisa che l’hardware è escluso, che i costi cloud usano le stesse quantità di token e non esecuzioni equivalenti misurate, e che la qualità dei modelli può differire.
Si tratta di risultati preliminari. Sono previste ulteriori misurazioni, da pubblicare su GitHub.