Lokalna AI na PC poniżej 800 $: Tesla P100 i Strata

Qwen3.8-Flash-Next IQ3_S na zestawie poniżej 800 $ z Teslą P100 z 2016 i Strata.

Lokalna stacja AI z Teslą P100

Maszyna P1005: Intel Xeon E5-2690 v4 (14 rdzeni / 28 wątków), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, model Qwen3.8-Flash-Next IQ3_S (~83,6 GB).

W praktycznych zadaniach system daje użyteczną lokalną AI: pełny model nie mieści się w VRAM, ale Strata utrzymuje stabilną inferencję w dostępnym budżecie pamięci.

Całkowity koszt zestawu został poniżej 800 $ przy częściach używanych i serwerowych. Cel eksperymentu: pokazać realistyczne dolne ograniczenie poważnej lokalnej AI, a nie maksimum wydajności.

Wpis na X · Wszystkie wiadomości