Lokale KI auf einem PC unter 800 $: Tesla P100 und Strata
Qwen3.8-Flash-Next IQ3_S auf einem Build unter 800 $ mit Tesla P100 von 2016 und Strata.
Maschine P1005: Intel Xeon E5-2690 v4 (14 Kerne / 28 Threads), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, Modell Qwen3.8-Flash-Next IQ3_S (~83,6 GB).
Gemessen: Decode 40–44 tok/s bei strukturierten Ausgaben (Spitze 47,2 tok/s), Prefill 294 tok/s bei 16K-Prompt. Der Preis unter 800 $ enthält neues Gehäuse, Netzteil, Kühlung und NVMe; übrige Teile gebraucht.
Rohbenchmarks, Logs und Konfigurationen liegen auf GitHub. Ziel des Builds ist praktische lokale KI auf Hardware, die kleine Betriebe und Haushalte noch tragen können.