Локальний ШІ на ПК дешевше 800 $: Tesla P100 і Strata
Qwen3.8-Flash-Next IQ3_S на збірці дешевше 800 $ з Tesla P100 2016 року та Strata.
Машина P1005: Intel Xeon E5-2690 v4 (14 ядер / 28 потоків), NVIDIA Tesla P100 16 ГБ, 32 ГБ DDR4 ECC, 1 ТБ NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, модель Qwen3.8-Flash-Next IQ3_S (~83,6 ГБ).
Вимірювання: декодування 40–44 ток/с на структурованих відповідях (пік 47,2 ток/с), prefill 294 ток/с при промпті 16K. Ціна нижче 800 $ включає новий корпус, БЖ, охолодження та NVMe; інші деталі — б/у.
Сирі бенчмарки, логи й конфігурації публікуються на GitHub. Сенс збірки — практичний локальний ШІ на залізі, яке ще по кишені малому бізнесу й домівкам.