Τοπική AI σε PC κάτω από 800 $: Tesla P100 και Strata

Qwen3.8-Flash-Next IQ3_S σε συναρμολόγηση κάτω από 800 $ με Tesla P100 του 2016 και Strata.

Τοπικός σταθμός AI με Tesla P100

Μηχανή P1005: Intel Xeon E5-2690 v4 (14 πυρήνες / 28 νήματα), NVIDIA Tesla P100 16 GB, 32 GB DDR4 ECC, 1 TB NVMe, Ubuntu Server 24.04 LTS, Strata 0.1.55, μοντέλο Qwen3.8-Flash-Next IQ3_S (~83,6 GB).

Σε πρακτικές εργασίες το σύστημα παρέχει χρήσιμη τοπική AI: το πλήρες μοντέλο δεν χωρά στη VRAM, αλλά το Strata διατηρεί σταθερή εξαγωγή συμπερασμάτων εντός του διαθέσιμου προϋπολογισμού μνήμης.

Το συνολικό κόστος συναρμολόγησης έμεινε κάτω από 800 $ με μεταχειρισμένα και server εξαρτήματα. Στόχος του πειράματος: να δείξει ρεαλιστικό κατώτερο όριο για σοβαρή τοπική AI, όχι ανώτατο όριο επιδόσεων.

Ανάρτηση στο X · Όλα τα νέα