Nyheder
Støv, køling og backup strøm: holde lokal AI kørende
Dette støv akkumuleret på mindre end 10 dage i en almindelig familie lejlighed. Vores regler for temperaturer, rengøring, forebyggelse, ekstra beregning og backup strøm, så lokal AI ikke stopper.
En advarsel til alle, der kører lokal AI derhjemme eller på kontoret. Støvet på dette billede akkumulerede på mindre end 10 dage i en almindelig Familielejlighed med to små børn. Vi rensede det bevidst ikke for at se, hvad der ville ske.
Forestil dig nu, hvad der sker inde i MacBooks, Mac Studios, Mac minis og Mac-systemer.
Regel 1: Overvåg temperaturer
Log kontinuerligt CPU -, GPU -, RAM-og NVMe-temperaturer, uanset hvor sensorer er tilgængelige, og opbevar de Historiske data. Foder disse logfiler til AI og bede den om at analysere tendenser under hensyntagen til stuetemperatur og vejr. Hjemmetemperaturfølere gør dette endnu bedre. AI kan hjælpe med at opdage køleforringelse, før det bliver en fiasko.
Regel 2: Rengør udstyret
Få en elektrisk luftstøvsuger med justerbar luftstrøm. Undersøg ventilationskanaler og filtre månedligt og rengør efter behov, måske hver 1-3 måned.
Sluk først, og følg producentens anvisninger. Overspin ikke ventilatorer eller blæse støv dybere inde. (Vores 600 V blæser er absolut overkill.)
Regel 3 og 4: forebyggelse
Overvej en overkommelig HEPA luftrenser nær opsætningen for at reducere luftbåret støv. Hvert 1-2 år, afhængigt af forholdene, overveje professionel intern rengøring og en kølesystem inspektion. Forebyggelse er billigere end nedetid.
Udstyrsfejl betyder AI-nedetid
Forestil dig en Mac Studio mislykkes og tilbringer 1-2 uger i reparation. Uden ekstra beregning stopper AI-arbejdsgange, og virksomheden stopper muligvis også. Sikkerhedskopier dataene, og sikkerhedskopier også beregningskapaciteten. Redundans er ikke en luksus, når AI driver virksomheden.
Vores løsning: et dedikeret AI-rum
Vi flytter hele det lokale AI-setup ind i et separat kælderrum. Fra vores observationer tager et sammenligneligt støvlag cirka tre år at samle sig der, ikke ti dage. Fugtighed, luftstrøm og temperaturer vil stadig blive overvåget. Der er en grund til, at serverrum prioriterer renlighed.
Og en sidste note: en pletfri lejlighed betyder ikke, at computeren er sikker. En altid varm, kraftig computer kan have samlet det støv hele tiden.
Backup strøm
Lokale AI-benchmarks og brug i den virkelige verden overser ofte backup-strøm. Et pålideligt lokalt AI-system har brug for lige så pålidelig, kraftig backup-strøm. Vi bygger vores selv.
Hvad det betyder for en Box-kunde
- Temperaturerne logges og analyseres for tendenser, så køleproblemer er synlige tidligt.
- Rengøring og inspektion er en del af vedligeholdelse, ikke en eftertanke.
- Kritiske arbejdsbelastninger kræver ekstra beregningskapacitet og backup-strøm, ikke kun sikkerhedskopiering af data.