Lokal AI på en PC under 800 $: Tesla P100 och Strata

Qwen3.8-Flash-Next IQ3_S på en byggsats under 800 $ med Tesla P100 från 2016 och Strata.

Lokal AI-station med Tesla P100

Maskin P1005: Intel Xeon E5-2690 v4 (14 kärnor / 28 trådar), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, modell Qwen3.8-Flash-Next IQ3_S (~83,6 GB).

I praktiska uppgifter ger systemet användbar lokal AI: hela modellen ryms inte i VRAM, men Strata håller inferensen stabil inom tillgänglig minnesbudget.

Total kostnad för bygget stannade under 800 $ med begagnade och serverdelar. Experimentets mål: visa en realistisk nedre gräns för seriös lokal AI, inte ett prestandatak.

Inlägg på X · Alla nyheter