Lokal AI på en PC under 800 $: Tesla P100 og Strata
Qwen3.8-Flash-Next IQ3_S på et byg under 800 $ med Tesla P100 fra 2016 og Strata.
Maskine P1005: Intel Xeon E5-2690 v4 (14 kerner / 28 tråde), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, model Qwen3.8-Flash-Next IQ3_S (~83,6 GB).
I praktiske opgaver leverer systemet brugbar lokal AI: den fulde model passer ikke i VRAM, men Strata holder inferensen stabil inden for den tilgængelige hukommelsesbudget.
De samlede omkostninger for bygget forblev under 800 $ med brugte og serverdele. Eksperimentets mål: vise en realistisk nedre grænse for seriøs lokal AI, ikke et ydelsesloft.