真实负载下本地人工智能的初步能耗成本
本地人工智能一次运行的初步电费，与所列相同令牌数量的云端 API 价格进行比较。
已根据测量和系统日志，从真实的本地人工智能负载中收集了初步能耗数据。数字仍是估算，但对总体经济性给出了相当准确的图景。
测量在一台配备现代 GPU、售价约 4,000–4,500 美元（4,000–4,500 欧元）的高能效笔记本电脑上进行。在能效较低的硬件上，电费可能更高，并可能接近最便宜的中国模型的 API 价格。这些模型常常可免费使用，或有高达 90% 的折扣。在这些情况下，云端人工智能可能比仅用于本地推理的电费更便宜。
随帖发布的图表比较了同一负载——198 项 GPQA-Diamond 任务，输入 56,514 个令牌、输出 156,136 个令牌，合计 212,650 个令牌——电价为 0.25 美元/千瓦时。表中本地成本为：仅 GPU 0.014 美元，整机估算 0.025 美元。相同令牌数量的所列云端合计从 0.065 美元（Qwen Flash）到 1.674 美元（Claude Sonnet 5.5 与 GPT-6.1 Sol）。表注说明：硬件未计入；云端成本按相同令牌数量计算，而非等价的实测运行；模型质量可能不同。
这些是初步结果。计划进行更多测量，结果拟发布在 GitHub 上。