Локальный ИИ на ПК дешевле 800 $: Tesla P100 и Strata
Qwen3.8-Flash-Next IQ3_S на сборке дешевле 800 $ с Tesla P100 2016 года и Strata.
Машина P1005: Intel Xeon E5-2690 v4 (14 ядер / 28 потоков), NVIDIA Tesla P100 16 ГБ, 32 ГБ DDR4 ECC, 1 ТБ NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, модель Qwen3.8-Flash-Next IQ3_S (~83,6 ГБ).
Измерения: декодирование 40–44 ток/с на структурированных ответах (пик 47,2 ток/с), prefill 294 ток/с при промпте 16K. Цена ниже 800 $ включает новый корпус, БП, охлаждение и NVMe; остальные детали — б/у.
Сырые бенчмарки, логи и конфигурации публикуются на GitHub. Смысл сборки — практичный локальный ИИ на железе, которое ещё по карману малому бизнесу и домам.