IA locale su un PC sotto i 800 $: Tesla P100 e Strata
Qwen3.8-Flash-Next IQ3_S su un build sotto i 800 $ con Tesla P100 del 2016 e Strata.
Macchina P1005: Intel Xeon E5-2690 v4 (14 core / 28 thread), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, modello Qwen3.8-Flash-Next IQ3_S (~83,6 GB).
Prestazioni misurate: decode 40–44 tok/s su output strutturati (picco 47,2 tok/s), prefill 294 tok/s a prompt 16K. Il prezzo sotto i 800 $ include case, PSU, raffreddamento e NVMe nuovi; il resto è usato.
Benchmark grezzi, log e config sono su GitHub. Lo scopo del build è IA locale pratica su hardware ancora accessibile a piccole imprese e abitazioni.