AI locală pe un PC sub 800 $: Tesla P100 și Strata
Qwen3.8-Flash-Next IQ3_S pe un ansamblu sub 800 $ cu Tesla P100 din 2016 și Strata.
Mașina P1005: Intel Xeon E5-2690 v4 (14 nuclee / 28 fire), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, model Qwen3.8-Flash-Next IQ3_S (~83,6 GB).
În sarcini practice sistemul oferă AI locală utilă: modelul complet nu încape în VRAM, dar Strata menține inferența stabilă în bugetul de memorie disponibil.
Costul total al ansamblului a rămas sub 800 $ cu piese second-hand și de server. Scopul experimentului: arăta o limită inferioară realistă pentru AI locală serioasă, nu un maxim de performanță.