IA local en un PC bajo 800 $: Tesla P100 y Strata

Qwen3.8-Flash-Next IQ3_S en un montaje bajo 800 $ con Tesla P100 de 2016 y Strata.

Máquina de IA local bajo 800 $ con Tesla P100

Máquina P1005: Intel Xeon E5-2690 v4 (14 núcleos / 28 hilos), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, modelo Qwen3.8-Flash-Next IQ3_S (~83,6 GB).

Medido: decode 40–44 tok/s en salidas estructuradas (pico 47,2 tok/s), prefill 294 tok/s a 16K. El precio bajo 800 $ incluye caja, fuente, refrigeración y NVMe nuevos; el resto es de segunda mano.

Benchmarks en bruto, registros y configs están en GitHub. El sentido del montaje es IA local práctica en hardware que aún pueden asumir pequeñas empresas y hogares.

Publicación en X · Todas las noticias