Îl folosim în fiecare zi

Răcire

Controlul ventilatorului GPU

Sarcina, în captura 1: ventilatorul GPU este conectat la placa de bază; trebuie să urmeze temperatura GPU, să meargă un minut la maximum pentru a confirma că controlul funcționează, apoi să primească niveluri optime, iar după repornire totul trebuie să funcționeze automat.

1. 1
   Cerere

   Un mesaj obișnuit în Telegram, fără comenzi tehnice.

2. 2
   Recunoaștere

   Mai întâi, fără drepturi de administrator, agentul a stabilit: placă Z10PA-U8, GPU Tesla P100, temperatura GPU lizibilă (39 °C), dar încă nimic cu care să controleze ventilatorul. A cerut drepturi de administrator cu o singură comandă și a prezentat planul. Cu acces, a găsit cipul Nuvoton NCT7904D (9 intrări de tahometru, 4 canale PWM) și, trecând fiecare canal de la 0 la 255, a făcut corespondența: pwm2 → fan5, până la ~5300 RPM, adică turbina P100. Celelalte trei canale au rămas pe automatul din BIOS.

3. 3
   Un minut la maximum

   pwm2 = 255 timp de 60 de secunde: în 5 secunde fan5 a crescut de la 1468 la 5294–5421 RPM, iar GPU s-a răcit de la 37 la 31 °C. Apoi controlul a revenit la curbă (255 → 195 → 90); citirile tahometrului confirmă că funcționează.

4. 4
   Curbă

   ≤35 °C → 35%, 45 °C → 47%, 60 °C → 67%, 75 °C → 86%, ≥85 °C → 100% (P100 își reduce frecvențele la 91 °C, deci rămâne o rezervă). Turația se schimbă lin, cu cel mult ±15% la fiecare 5 secunde; dacă nvidia-smi nu mai răspunde, ventilatorul trece în regim de urgență ~78%.

5. 5
   Repornire

   Driverul se încarcă automat, iar controlul rulează ca serviciu cu pornire automată. Agentul a repornit cu adevărat mașina și a verificat totul de la zero: modul încărcat, serviciu activ, fan5 la 1319 RPM, GPU la 35 °C.

• Din partea noastră: o comandă pentru drepturi de administrator, răspunsul «Ready» și o confirmare pe parcurs.
• ≈ 30 de minute (06:26–06:57 după capturi)

Configurare

Întrebare tehnică, prin voce

O sarcină practică: printr-un mesaj vocal am întrebat cum este alcătuit sistemul. A răspuns cu date reale ale mașinilor noastre: hardware, discuri, modelul IA și viteza. Dacă un punct nu este clar, e suficient să întrebați imediat ce înseamnă.

Ce arată răspunsul: două mașini, claryel01 și P2002; procesor, memorie, GPU și discuri; versiuni de software; model AI; viteză măsurată.

În această lucrare modelul de rezervă era extern (Grok) și fără filtru. Pentru sistemul nostru local acest lucru nu este acceptabil, așa că modelul de rezervă a fost înlocuit cu un al doilea model local. Astăzi modelele cloud sunt apelate doar prin filtru și, la nevoie, după confirmarea explicită a utilizatorului.

Un termen tehnic nu este clar? Întreabă imediat sistemul, direct în dialog: ți-l explică în cuvinte simple.

Parcul de mașini

Trei mașini, un singur agent

Cererea, în captura 1 (07:47): pentru fiecare mașină cu Strata, mărimea și tipul memoriei, NVMe, GPU și memoria video, versiunea Strata, modelul, versiunea agentului și viteza modelului pe acea mașină; răspuns scurt și în engleză.

Agentul a scanat singur rețeaua și a confirmat că sunt trei mașini (celelalte adrese sunt o imprimantă și portul Wi-Fi al Mac-ului). Toate trei rulează Strata v0.1.45 cu același model Qwen3.8-Flash-Next IQ3_S (context 262 144), deci răspunsurile sunt coerente oricare mașină ar răspunde.

Viteza de generare: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (cea mai rapidă), P1005 16.2 tok/s: un model de 78 GB la 31 GB de memorie, de aceea această mașină preia sarcinile în fundal. Toate trei sunt comandate de o singură instanță a agentului pe claryel01; rezerva urmează lanțul P2002 → Mac Studio → Grok.

În această lucrare modelul de rezervă era extern (Grok) și fără filtru. Pentru sistemul nostru local acest lucru nu este acceptabil, așa că modelul de rezervă a fost înlocuit cu un al doilea model local. Astăzi modelele cloud sunt apelate doar prin filtru și, la nevoie, după confirmarea explicită a utilizatorului.

Instalare

Strata pe o mașină nouă: agentul a trecut singur peste toate capcanele

Pentru Mac nu există o versiune gata făcută: motorul Metal se compilează din surse (~5–15 min). Versiunea 0.1.45 pentru Mac era stricată; agentul a găsit PR-ul deschis #2895, l-a aplicat pe versiune, iar recompilarea a reușit.

Modelul de 79 GB: prin HuggingFace via Starlink ar fi mers cu ~6,5 MB/s (~3,4 h), așa că agentul l-a copiat cu rsync de pe P2002 prin redirecționarea agentului SSH, în 2 h 05 min. Apoi fiecare cerere către motor returna 400; agentul a găsit în codul sursă ocolirea --no-prefill-borrow.

Rezultat: Mac ≈ P2002 la generare (~58 față de ~57 tok/s) și net mai rapid la prefill (+36%). Agentul a salvat toate capcanele în abilitatea strata-mac-deploy, așa că o repetare e aproape o copiere.

Actualizare

Agentul a actualizat motorul propriului „creier”

Întrebare (04:30): ce versiune de Strata folosește „creierul” și care e cea mai nouă pe GitHub. Răspuns: pe P2002 rulează v0.1.43.1, cea mai nouă e v0.1.45 (lansată pe 17 octombrie 2026). Agentul a avertizat că actualizarea va reporni motorul pe care rulează chiar el: câteva minute de întrerupere, cu revenire ca garanție.

La comanda „actualizează-te” (04:31), agentul a lansat actualizarea separat de el însuși: git pull → compilarea motorului HIP 0.1.45 → repornirea serviciului, în timp ce un supraveghetor verifică motorul 5 minute și revine la 0.1.43.1 dacă nu pornește. Compilarea a fost curată (34 MB, 0 erori), dar înlocuirea fișierului în uz a eșuat („Text file busy”) și motorul s-a oprit. Agentul a păstrat fișierul vechi ca rezervă, l-a instalat manual pe cel nou și a repornit serviciul.

Verificare (04:50): rulează v0.1.45, model Qwen3.8-Flash-Next IQ3_S, context 262 144. Viteza cu același script: răspuns scurt 31,0 (înainte 33,5–33,7), generare de 1024 de tokenuri 47,7 / 44,4 (înainte 53,0–60,1), prefill 1,5K 874 / 531 (înainte 488–490). Concluzia agentului: prefill net mai bun, generare mai mică cu ~10–20% în două măsurători; cu doar două rulări nu o numește regresie și propune încă 3–4 măsurători și revenirea la 0.1.43.1 dacă încetinirea se confirmă.

În această lucrare modelul de rezervă era extern (Grok) și fără filtru. Pentru sistemul nostru local acest lucru nu este acceptabil, așa că modelul de rezervă a fost înlocuit cu un al doilea model local. Astăzi modelele cloud sunt apelate doar prin filtru și, la nevoie, după confirmarea explicită a utilizatorului.

Monitorizare

Verificarea de dimineață a casei și a computerelor

Combinația din imagine: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + agentul. Agentul citește senzorii Home Assistant (temperatură, umiditate, mișcare, lumină, energie) și verifică copiile de rezervă, discurile și temperatura computerelor. Vorbim cu el prin Telegram.

Ce a găsit verificarea: în camera cu computere sunt 28,8 °C, vizibil mai cald decât în alte încăperi, deci trebuie verificate ventilația și răcirea; bateriile senzorilor din birou (20%) și de pe terasă (30%) trebuie înlocuite; senzorul ușii „Leo” arată ON, dar valoarea poate fi depășită și trebuie verificată la fața locului.

Viktor nici măcar nu a deschis interfața Home Assistant. Instrumente ajutătoare în acea zi: ChatGPT a desenat imaginea postării, ChatGPT Go + Codex au ajutat la configurare, iar agentul apela din când în când la Grok 4.7 ca model suplimentar pentru raționamente complexe.

În această lucrare modelul de rezervă era extern (Grok) și fără filtru. Pentru sistemul nostru local acest lucru nu este acceptabil, așa că modelul de rezervă a fost înlocuit cu un al doilea model local. Astăzi modelele cloud sunt apelate doar prin filtru și, la nevoie, după confirmarea explicită a utilizatorului.

O ilustrație la postare, nu o captură de ecran.

Viteza modelului

31 tok/s cu RAM aproape liberă: modelul este citit de pe SSD

Setări: modelul Qwen3.8-Flash-Next IQ3_XXS (~47 GB), context 64K (65.536 de tokenuri), cache KV pe 8 biți, mod low-RAM: o parte din „experții” modelului este citită de pe SSD. Placă video AMD Radeon RX 9070, ~16 GB.

Rezultatul pe monitorul Strata: 12.136 de tokenuri în 396,3 s, generare 31,0 tok/s, VRAM 15,7 din 16 GB, RAM 3,2 din 31 GB, GPU 45 °C. În memoria video sunt 5.681 de „experți” (9,2 GB), restul se citește de pe disc.

Concluzie: un model mare rulează fără cantități uriașe de RAM, pentru că motorul ține în memoria video ce e mai important și citește restul de pe un SSD rapid. Este o cale spre computere mult mai accesibile pentru IA locală.

Viteza modelului

Context 256K: 26 de cereri pe o singură placă video de 16 GB

Scopul era simplu: să înțelegem cum vom automatiza mai târziu astfel de rulări pe hardware diferit și cum vom prezenta rezultatele pentru comparație. Mașina: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Bilanțul de duminică dimineață (09:44): 26 de cereri, 169.326 de tokenuri de prompt citite cu 108 tok/s (alte 1.923.247 luate din cache-ul conversației), 166.539 de tokenuri scrise cu o medie de 20,5 tok/s. Contextul este umplut 62% (162k din 256k).

Nu totul a mers bine: în listă sunt o cerere „Closed” și una „Stopped”. Videoclipul din postarea originală arată modelul scriind un răspuns tehnic lung; acolo Viktor explică și ce n-a mers.

Viteza modelului

Mai multă RAM: 45 tok/s pe un context de 164.000 de tokenuri

Computer: Intel Core Ultra 7 270K Plus (24 de fire), AMD Radeon 16 GB, 62 GB RAM, context 262.144 de tokenuri. Acum motorul folosește și RAM: 53,5 din 62 GB ocupați.

Două cereri de circa 162.000 de tokenuri fiecare: prima citită cu 1.176 tok/s, generare 48,3 tok/s; a doua luată aproape integral din cache-ul conversației (162.199 de tokenuri), generare 45,2 tok/s.

Compromisul e clar: cu mai multă RAM generarea e vizibil mai rapidă, dar rămâne mai puțină memorie pentru alte sarcini. Cu 31 GB motorul aproape nu atingea RAM, iar computerul rămânea liber pentru altă muncă.

Viteza modelului

Un Xeon vechi și o Tesla P100: 19–27 tok/s

Modelul nu încape în RAM și rulează din memoria video (15,7 din 16 GB) și de pe un disc NVMe prin PCIe 3.0. Procesorul e încărcat cam 45%, RAM e aproape liberă: computerul poate fi folosit și pentru altă muncă.

Pe monitor: generare acum 26,9 tok/s; în istoricul cererilor, 19,3 tok/s la un răspuns scurt (253 de tokenuri) și 25,3 tok/s la unul lung (12.686 de tokenuri în 504,1 s). Placa video la 36 °C, 97 W din 250.

Pentru noi acesta e reperul-cheie de preț: chiar și hardware vechi și ieftin, cu motorul bine configurat, e deja potrivit pentru muncă reală.