Lokale AI op een pc onder $800: Tesla P100 en Strata
Qwen3.8-Flash-Next IQ3_S op een build onder $800 met Tesla P100 uit 2016 en Strata.
Machine P1005: Intel Xeon E5-2690 v4 (14 cores / 28 threads), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, model Qwen3.8-Flash-Next IQ3_S (~83,6 GB).
Gemeten: decode 40–44 tok/s op gestructureerde output (piek 47,2 tok/s), prefill 294 tok/s bij 16K-prompt. De prijs onder $800 omvat nieuwe behuizing, voeding, koeling en NVMe; overige onderdelen gebruikt.
Ruwe benchmarks, logs en configs staan op GitHub. Doel van de build is praktische lokale AI op hardware die kleine bedrijven en huishoudens nog kunnen betalen.