IA locale sur un PC sous 800 $ : Tesla P100 et Strata
Qwen3.8-Flash-Next IQ3_S sur une machine sous 800 $ avec Tesla P100 de 2016 et Strata.
Machine P1005 : Intel Xeon E5-2690 v4 (14 cœurs / 28 fils), NVIDIA Tesla P100 16 Go, 32 Go DDR4 ECC, 1 To NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, modèle Qwen3.8-Flash-Next IQ3_S (~83,6 Go).
Mesures : décodage 40–44 tok/s sur sorties structurées (pic 47,2 tok/s), prefill 294 tok/s à 16K. Le prix sous 800 $ inclut boîtier, alimentation, refroidissement et NVMe neufs ; le reste est d’occasion.
Benchmarks bruts, journaux et configs sont sur GitHub. Le but de la machine est une IA locale pratique sur un matériel encore accessible aux petites entreprises et aux foyers.