Coûts énergétiques préliminaires de l’IA locale sur une charge réelle
Coûts d’électricité préliminaires d’une exécution d’IA locale, comparés aux prix d’API cloud indiqués pour le même nombre de jetons.
Des données préliminaires de consommation d’énergie ont été recueillies à partir de charges réelles d’IA locale, à l’aide de mesures et de journaux système. Les chiffres restent des estimations, mais ils donnent une image assez précise de l’économie d’ensemble.
Les mesures ont été réalisées sur un ordinateur portable économe en énergie, équipé d’un GPU moderne, d’un coût d’environ 4 000–4 500 dollars (4 000–4 500 €). Sur un matériel moins efficace, les coûts d’électricité seront probablement plus élevés et pourront se rapprocher des prix d’API des modèles chinois les moins chers. Ces modèles sont souvent disponibles gratuitement, ou avec des remises allant jusqu’à 90 %. Dans ces cas, l’IA cloud peut coûter moins cher que la seule électricité nécessaire à l’inférence locale.
Les graphiques publiés avec le message comparent une charge — 198 tâches GPQA-Diamond, 56 514 jetons d’entrée et 156 136 de sortie, 212 650 jetons au total — à 0,25 $/kWh d’électricité. Les coûts locaux dans le tableau sont de 0,014 $ pour le GPU seul et de 0,025 $ pour le PC complet estimé. Les totaux cloud indiqués pour le même nombre de jetons vont de 0,065 $ (Qwen Flash) à 1,674 $ (Claude Sonnet 5.5 et GPT-6.1 Sol). Une note du tableau précise que le matériel est exclu, que les coûts cloud utilisent des quantités de jetons identiques plutôt que des exécutions mesurées équivalentes, et que la qualité des modèles peut différer.
Il s’agit de résultats préliminaires. D’autres mesures sont prévues ; les résultats doivent être publiés sur GitHub.