Lo usiamo ogni giorno

Raffreddamento

Gestione della ventola della GPU

Il compito, nello screenshot 1: la ventola della GPU è collegata alla scheda madre; deve seguire la temperatura della GPU, girare al massimo per un minuto per verificare che il controllo funzioni, poi ricevere livelli ottimali, e dopo il riavvio tutto deve funzionare in automatico.

1. 1
   Richiesta

   Un normale messaggio su Telegram, senza comandi tecnici.

2. 2
   Ricognizione

   Prima, senza diritti di amministratore, l'agente ha accertato: scheda Z10PA-U8, GPU Tesla P100, temperatura della GPU leggibile (39 °C), ma ancora nessun modo di comandare la ventola. Ha chiesto i diritti di amministratore con un solo comando e ha descritto il piano. Ottenuto l'accesso, ha trovato il chip Nuvoton NCT7904D (9 ingressi tachimetrici, 4 canali PWM) e, portando ogni canale da 0 a 255, ha abbinato: pwm2 → fan5, fino a ~5300 RPM, cioè la turbina della P100. Gli altri tre canali sono rimasti in automatico dal BIOS.

3. 3
   Un minuto al massimo

   pwm2 = 255 per 60 secondi: in 5 secondi fan5 è salita da 1468 a 5294–5421 RPM e la GPU è scesa da 37 a 31 °C. Poi il controllo è tornato alla curva (255 → 195 → 90); il funzionamento è confermato dal tachimetro.

4. 4
   Curva

   ≤35 °C → 35%, 45 °C → 47%, 60 °C → 67%, 75 °C → 86%, ≥85 °C → 100% (la P100 riduce le frequenze a 91 °C, quindi resta un margine). La velocità cambia gradualmente, al massimo del ±15% ogni 5 secondi; se nvidia-smi smette di rispondere, la ventola passa alla modalità di emergenza ~78%.

5. 5
   Riavvio

   Il driver si carica in automatico e il controllo gira come servizio ad avvio automatico. L'agente ha davvero riavviato la macchina e ha ricontrollato tutto da zero: modulo caricato, servizio attivo, fan5 a 1319 RPM, GPU a 35 °C.

• Da parte nostra: un comando per concedere i diritti di amministratore, la risposta «Ready» e una conferma durante il lavoro.
• ≈ 30 minuti (06:26–06:57 dagli screenshot)

Configurazione

Domanda tecnica, a voce

Un compito pratico: con un messaggio vocale abbiamo chiesto com'è configurato il sistema. Ha risposto con i dati reali delle nostre macchine: hardware, dischi, modello IA e velocità. Se una voce non è chiara, basta chiedere subito cosa significa.

Cosa si vede nella risposta: due macchine, claryel01 e P2002; processore, memoria, GPU e dischi; versioni del software; modello IA; velocità misurata.

In questo lavoro il modello di riserva era esterno (Grok) e senza filtro. Per il nostro sistema locale non è accettabile, quindi il modello di riserva è stato sostituito con un secondo modello locale. Oggi i modelli cloud vengono chiamati solo tramite il filtro e, quando serve, dopo la conferma esplicita dell’utente.

Un termine tecnico non è chiaro? Chiedilo subito al sistema, direttamente nel dialogo: te lo spiega in parole semplici.

Parco macchine

Tre macchine, un solo agente

La richiesta, nello screenshot 1 (07:47): per ogni macchina con Strata, quantità e tipo di memoria, NVMe, GPU e memoria video, versione di Strata, modello, versione dell'agente e velocità del modello su quella macchina; risposta breve e in inglese.

L'agente ha scansionato da solo la rete e ha confermato che le macchine sono tre (gli altri indirizzi sono una stampante e la porta Wi-Fi del Mac). Tutte e tre usano Strata v0.1.45 con lo stesso modello Qwen3.8-Flash-Next IQ3_S (contesto 262 144), quindi le risposte sono coerenti qualunque macchina risponda.

Velocità di generazione: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (la più veloce), P1005 16.2 tok/s: modello da 78 GB con 31 GB di memoria, quindi questa macchina serve per i lavori in background. Tutte e tre sono guidate da un'unica istanza dell'agente su claryel01; la riserva segue la catena P2002 → Mac Studio → Grok.

In questo lavoro il modello di riserva era esterno (Grok) e senza filtro. Per il nostro sistema locale non è accettabile, quindi il modello di riserva è stato sostituito con un secondo modello locale. Oggi i modelli cloud vengono chiamati solo tramite il filtro e, quando serve, dopo la conferma esplicita dell’utente.

Installazione

Strata su una nuova macchina: l’agente ha superato da solo tutti gli ostacoli

Per Mac non esiste una build pronta: il motore Metal si compila dai sorgenti (~5–15 min). La build 0.1.45 per Mac era rotta; l’agente ha trovato la PR aperta #2895, l’ha applicata alla release e la ricompilazione è andata a buon fine.

Il modello da 79 GB: da HuggingFace via Starlink sarebbe andato a ~6,5 MB/s (~3,4 h), quindi l’agente l’ha copiato con rsync da P2002 tramite inoltro dell’agente SSH, in 2 h 05 min. Poi ogni richiesta al motore restituiva 400; l’agente ha trovato nei sorgenti il rimedio --no-prefill-borrow.

Risultato: il Mac ≈ P2002 in generazione (~58 contro ~57 tok/s) e nettamente più veloce nel prefill (+36%). L’agente ha salvato tutti gli ostacoli nella skill strata-mac-deploy, così la prossima volta è quasi una copia.

Aggiornamento

L’agente ha aggiornato il motore del proprio «cervello»

Domanda (04:30): quale versione di Strata usa il «cervello» e qual è l’ultima su GitHub. Risposta: su P2002 c’è la v0.1.43.1, l’ultima è la v0.1.45 (uscita il 17 ottobre 2026). L’agente ha avvisato che l’aggiornamento avrebbe riavviato il motore su cui lavora lui stesso: un paio di minuti di fermo, con il ripristino come garanzia.

Al comando «aggiornati» (04:31) l’agente ha lanciato l’aggiornamento separato da sé: git pull → compilazione del motore HIP 0.1.45 → riavvio del servizio, mentre un controllore sorveglia il motore per 5 minuti e torna alla 0.1.43.1 se non riparte. La compilazione è andata pulita (34 MB, 0 errori), ma la sostituzione del file in uso non è riuscita («Text file busy») e il motore si è fermato. L’agente ha conservato il vecchio file come riserva, ha installato il nuovo a mano e ha riavviato il servizio.

Verifica (04:50): gira la v0.1.45, modello Qwen3.8-Flash-Next IQ3_S, contesto 262.144. Velocità con lo stesso script: risposta breve 31,0 (prima 33,5–33,7), generazione di 1024 token 47,7 / 44,4 (prima 53,0–60,1), prefill 1,5K 874 / 531 (prima 488–490). La lettura dell’agente: prefill nettamente migliore, generazione più bassa del ~10–20% in due misure; con due sole misure non la chiama regressione e propone altre 3–4 misure e il ritorno alla 0.1.43.1 se il rallentamento si conferma.

In questo lavoro il modello di riserva era esterno (Grok) e senza filtro. Per il nostro sistema locale non è accettabile, quindi il modello di riserva è stato sostituito con un secondo modello locale. Oggi i modelli cloud vengono chiamati solo tramite il filtro e, quando serve, dopo la conferma esplicita dell’utente.

Monitoraggio

Controllo mattutino della casa e dei computer

La configurazione nell’immagine: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + l’agente. L’agente legge i sensori di Home Assistant (temperatura, umidità, movimento, luce, energia) e controlla backup, dischi e temperatura dei computer. Comunichiamo con lui tramite Telegram.

Cosa ha trovato il controllo: nella stanza dei computer ci sono 28,8 °C, molto più che negli altri ambienti, quindi vanno controllate ventilazione e raffreddamento; le batterie dei sensori in ufficio (20%) e in terrazza (30%) vanno sostituite; il sensore della porta «Leo» indica ON, ma il dato potrebbe essere vecchio e va verificato sul posto.

Viktor non ha nemmeno aperto l’interfaccia di Home Assistant. Strumenti di supporto quel giorno: ChatGPT ha disegnato l’immagine del post, ChatGPT Go + Codex hanno aiutato con la configurazione, e l’agente ogni tanto si rivolgeva a Grok 4.7 come modello aggiuntivo per i ragionamenti complessi.

In questo lavoro il modello di riserva era esterno (Grok) e senza filtro. Per il nostro sistema locale non è accettabile, quindi il modello di riserva è stato sostituito con un secondo modello locale. Oggi i modelli cloud vengono chiamati solo tramite il filtro e, quando serve, dopo la conferma esplicita dell’utente.

Un’illustrazione del post, non uno screenshot.

Velocità del modello

31 tok/s con la RAM quasi libera: il modello si legge dall’SSD

Impostazioni: modello Qwen3.8-Flash-Next IQ3_XXS (~47 GB), contesto 64K (65.536 token), cache KV a 8 bit, modalità low-RAM: una parte degli «esperti» del modello si legge dall’SSD. Scheda video AMD Radeon RX 9070, ~16 GB.

Il risultato sul monitor di Strata: 12.136 token in 396,3 s, generazione 31,0 tok/s, VRAM 15,7 su 16 GB, RAM 3,2 su 31 GB, GPU 45 °C. In memoria video ci sono 5.681 «esperti» (9,2 GB), il resto si legge dal disco.

Conclusione: un modello grande funziona senza enormi quantità di RAM, perché il motore tiene in memoria video ciò che serve di più e legge il resto da un SSD veloce. È la strada verso computer per l’IA locale molto più accessibili.

Velocità del modello

Contesto 256K: 26 richieste su una sola scheda video da 16 GB

L’obiettivo era semplice: capire come automatizzare in seguito queste esecuzioni su hardware diverso e come presentare i risultati per il confronto. Macchina: Intel Core Ultra 7 270K Plus, 31 GB di RAM, AMD Radeon 16 GB.

Il totale da domenica mattina (09:44): 26 richieste, 169.326 token di prompt letti a 108 tok/s (altri 1.923.247 presi dalla cache della conversazione), 166.539 token scritti a una media di 20,5 tok/s. Contesto pieno al 62% (162k su 256k).

Non tutto è filato liscio: nell’elenco c’è una richiesta «Closed» e una «Stopped». Il video nel post originale mostra il modello che scrive una lunga risposta tecnica; lì Viktor spiega anche cosa non ha funzionato.

Velocità del modello

Più RAM: 45 tok/s su un contesto di 164.000 token

Computer: Intel Core Ultra 7 270K Plus (24 thread), AMD Radeon 16 GB, 62 GB di RAM, contesto 262.144 token. Ora il motore usa anche la RAM: 53,5 GB occupati su 62.

Due richieste di circa 162.000 token ciascuna: la prima letta a 1.176 tok/s, generazione 48,3 tok/s; la seconda presa quasi tutta dalla cache della conversazione (162.199 token), generazione 45,2 tok/s.

Il compromesso è chiaro: con più RAM la generazione è nettamente più veloce, ma resta meno memoria per altri compiti. Con 31 GB il motore quasi non toccava la RAM e il computer restava libero per altro lavoro.

Velocità del modello

Un vecchio Xeon e una Tesla P100: 19–27 tok/s

Il modello non entra nella RAM e lavora dalla memoria video (15,7 su 16 GB) e da un disco NVMe via PCIe 3.0. La CPU è al 45% circa, la RAM quasi libera: il computer si può usare anche per altro lavoro.

Sul monitor: generazione attuale 26,9 tok/s; nello storico delle richieste 19,3 tok/s su una risposta breve (253 token) e 25,3 tok/s su una lunga (12.686 token in 504,1 s). Scheda video a 36 °C, 97 W su 250.

Per noi è il riferimento chiave sul prezzo: anche hardware vecchio ed economico, con il motore ben configurato, è già adatto al lavoro reale.