We gebruiken het elke dag

Koeling

Aansturing van de GPU-ventilator

De taak, op screenshot 1: de GPU-ventilator zit op het moederbord; hij moet de GPU-temperatuur volgen, een minuut op vol toerental draaien om te bevestigen dat de aansturing werkt, daarna optimale niveaus krijgen, en na een herstart moet alles automatisch werken.

1. 1
   Verzoek

   Een gewoon Telegram-bericht, zonder technische commando's.

2. 2
   Verkenning

   Eerst stelde de agent zonder beheerdersrechten vast: bord Z10PA-U8, GPU Tesla P100, GPU-temperatuur leesbaar (39 °C), maar nog niets om de ventilator mee aan te sturen. Hij vroeg met één commando om beheerdersrechten en zette het plan uiteen. Met toegang vond hij de chip Nuvoton NCT7904D (9 toerentalingangen, 4 PWM-kanalen) en koppelde, door elk kanaal van 0 tot 255 te laten lopen: pwm2 → fan5, tot ~5300 RPM, dat is de blower van de P100. De andere drie kanalen bleven op de BIOS-automaat.

3. 3
   Een minuut op vol toerental

   pwm2 = 255 gedurende 60 seconden: fan5 ging in 5 seconden van 1468 naar 5294–5421 RPM en de GPU koelde af van 37 naar 31 °C. Daarna ging de aansturing terug naar de curve (255 → 195 → 90); de toerentalmeter bevestigt dat het werkt.

4. 4
   Curve

   ≤35 °C → 35%, 45 °C → 47%, 60 °C → 67%, 75 °C → 86%, ≥85 °C → 100% (de P100 klokt terug bij 91 °C, dus er blijft marge). Het toerental verandert geleidelijk, hooguit ±15% per 5 seconden; als nvidia-smi niet meer reageert, gaat de ventilator naar een noodstand van ~78%.

5. 5
   Herstart

   Het stuurprogramma laadt automatisch en de aansturing draait als dienst die bij het opstarten start. De agent heeft de machine echt herstart en alles opnieuw gecontroleerd: module geladen, dienst actief, fan5 op 1319 RPM, GPU op 35 °C.

• Van ons: één commando om beheerdersrechten te geven, het antwoord «Ready» en één bevestiging onderweg.
• ≈ 30 minuten (06:26–06:57 volgens de screenshots)

Configuratie

Technische vraag, met de stem

Een praktische taak: met een spraakbericht vroegen we hoe het systeem in elkaar zit. Het antwoordde met echte gegevens van onze machines: hardware, schijven, AI-model en snelheid. Is een punt niet duidelijk, vraag dan meteen wat het betekent.

Wat het antwoord laat zien: twee machines, claryel01 en P2002; processor, geheugen, GPU en schijven; softwareversies; AI-model; gemeten snelheid.

Bij deze taak was het reservemodel extern (Grok) en zonder filter. Voor ons lokale systeem is dat niet aanvaardbaar, daarom is het reservemodel vervangen door een tweede lokaal model. Tegenwoordig worden cloudmodellen alleen via het filter aangeroepen en, indien nodig, na uitdrukkelijke bevestiging door de gebruiker.

Is een technische term niet duidelijk? Vraag het meteen aan het systeem, gewoon in het gesprek: het legt het in eenvoudige woorden uit.

Machinepark

Drie machines, één agent

Het verzoek, op screenshot 1 (07:47): per machine met Strata grootte en type geheugen, NVMe, GPU en videogeheugen, Strata-versie, model, agentversie en de snelheid van het model op die machine; kort antwoord in het Engels.

De agent scande zelf het netwerk en bevestigde dat het drie machines zijn (de overige adressen zijn een printer en de wifipoort van de Mac). Alle drie draaien Strata v0.1.45 met hetzelfde model Qwen3.8-Flash-Next IQ3_S (context 262 144), dus de antwoorden zijn consistent welke machine ook antwoordt.

Generatiesnelheid: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (de snelste), P1005 16.2 tok/s: een model van 78 GB bij 31 GB geheugen, daarom doet deze machine achtergrondtaken. Alle drie worden aangestuurd door één agentinstantie op claryel01; de reserve volgt de keten P2002 → Mac Studio → Grok.

Bij deze taak was het reservemodel extern (Grok) en zonder filter. Voor ons lokale systeem is dat niet aanvaardbaar, daarom is het reservemodel vervangen door een tweede lokaal model. Tegenwoordig worden cloudmodellen alleen via het filter aangeroepen en, indien nodig, na uitdrukkelijke bevestiging door de gebruiker.

Installatie

Strata op een nieuwe machine: de agent loste alle valkuilen zelf op

Er is geen kant-en-klare Mac-build: de Metal-engine wordt uit de broncode gecompileerd (~5–15 min). De Mac-build van 0.1.45 bleek kapot; de agent vond de open PR #2895, paste die toe op de release en de herbouw slaagde.

Het model van 79 GB: via HuggingFace over Starlink zou dat ~6,5 MB/s (~3,4 u) zijn geweest, dus kopieerde de agent het met rsync vanaf P2002 via SSH-agent-forwarding, in 2 u 05 min. Daarna gaf elk verzoek aan de engine 400 terug; de agent vond in de broncode de omweg --no-prefill-borrow.

Resultaat: de Mac ≈ P2002 bij generatie (~58 tegen ~57 tok/s) en duidelijk sneller bij prefill (+36%). De agent sloeg alle valkuilen op in de skill strata-mac-deploy, dus herhalen is bijna kopiëren.

Update

De agent heeft de engine van zijn eigen “brein” bijgewerkt

Vraag (04:30): welke Strata-versie gebruikt het “brein” en welke is de nieuwste op GitHub? Antwoord: P2002 draait v0.1.43.1, de nieuwste is v0.1.45 (uitgebracht op 17 oktober 2026). De agent waarschuwde dat de update de engine zou herstarten waarop hij zelf draait: een paar minuten uitval, met terugdraaien als vangnet.

Op het commando “werk jezelf bij” (04:31) startte de agent de update los van zichzelf: git pull → build van de HIP-engine 0.1.45 → herstart van de dienst, terwijl een bewaker de engine 5 minuten controleert en terugdraait naar 0.1.43.1 als die niet opstart. De build was schoon (34 MB, 0 fouten), maar het vervangen van het draaiende bestand mislukte (“Text file busy”) en de engine stopte. De agent bewaarde het oude bestand als reserve, installeerde het nieuwe handmatig en herstartte de dienst.

Controle (04:50): v0.1.45 draait, model Qwen3.8-Flash-Next IQ3_S, context 262.144. Snelheid met hetzelfde script: kort antwoord 31,0 (eerder 33,5–33,7), generatie van 1024 tokens 47,7 / 44,4 (eerder 53,0–60,1), prefill 1,5K 874 / 531 (eerder 488–490). Lezing van de agent: prefill duidelijk beter, generatie in twee metingen ~10–20% lager; bij maar twee runs noemt hij het geen regressie en stelt hij 3–4 extra metingen voor en terugdraaien naar 0.1.43.1 als de vertraging bevestigd wordt.

Bij deze taak was het reservemodel extern (Grok) en zonder filter. Voor ons lokale systeem is dat niet aanvaardbaar, daarom is het reservemodel vervangen door een tweede lokaal model. Tegenwoordig worden cloudmodellen alleen via het filter aangeroepen en, indien nodig, na uitdrukkelijke bevestiging door de gebruiker.

Bewaking

Ochtendcontrole van huis en computers

De combinatie op de afbeelding: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + de agent. De agent leest de Home Assistant-sensoren (temperatuur, vochtigheid, beweging, licht, energie) en controleert back-ups, schijven en computertemperaturen. We praten met hem via Telegram.

Wat de controle vond: in de ruimte met de computers is het 28,8 °C, duidelijk warmer dan in andere ruimtes, dus ventilatie en koeling moeten worden nagekeken; de batterijen van de sensoren op kantoor (20%) en op het terras (30%) moeten worden vervangen; de deursensor “Leo” geeft ON aan, maar de waarde kan verouderd zijn en moet ter plekke worden gecontroleerd.

Viktor heeft de interface van Home Assistant niet eens geopend. Hulpmiddelen die dag: ChatGPT tekende de afbeelding voor het bericht, ChatGPT Go + Codex hielpen bij de inrichting, en de agent riep af en toe Grok 4.7 in als extra model voor complex redeneren.

Bij deze taak was het reservemodel extern (Grok) en zonder filter. Voor ons lokale systeem is dat niet aanvaardbaar, daarom is het reservemodel vervangen door een tweede lokaal model. Tegenwoordig worden cloudmodellen alleen via het filter aangeroepen en, indien nodig, na uitdrukkelijke bevestiging door de gebruiker.

Een illustratie bij het bericht, geen schermafbeelding.

Modelsnelheid

31 tok/s met bijna vrij RAM: het model wordt van de SSD gelezen

Instellingen: model Qwen3.8-Flash-Next IQ3_XXS (~47 GB), context 64K (65.536 tokens), 8-bits KV-cache, low-RAM-modus: een deel van de “experts” van het model wordt van de SSD gelezen. Videokaart AMD Radeon RX 9070, ~16 GB.

Het resultaat op de Strata-monitor: 12.136 tokens in 396,3 s, generatie 31,0 tok/s, VRAM 15,7 van 16 GB, RAM 3,2 van 31 GB, GPU 45 °C. In het videogeheugen zitten 5.681 “experts” (9,2 GB); de rest wordt van de schijf gelezen.

Conclusie: een groot model draait zonder enorme hoeveelheden RAM, omdat de engine het belangrijkste in het videogeheugen houdt en de rest van een snelle SSD leest. Dat is een weg naar veel betaalbaardere computers voor lokale AI.

Modelsnelheid

256K-context: 26 verzoeken op één videokaart van 16 GB

Het doel was eenvoudig: begrijpen hoe we zulke runs later op verschillende hardware automatiseren en hoe we de resultaten voor vergelijking opmaken. Machine: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

De balans sinds zondagochtend (09:44): 26 verzoeken, 169.326 prompttokens gelezen met 108 tok/s (nog eens 1.923.247 uit de gesprekscache), 166.539 tokens geschreven met gemiddeld 20,5 tok/s. De context is voor 62% gevuld (162k van 256k).

Niet alles ging vlekkeloos: in de lijst staan één verzoek “Closed” en één “Stopped”. De video in het oorspronkelijke bericht laat zien hoe het model een lang technisch antwoord schrijft; daar legt Viktor ook uit wat er misging.

Modelsnelheid

Meer RAM: 45 tok/s bij een context van 164.000 tokens

Computer: Intel Core Ultra 7 270K Plus (24 threads), AMD Radeon 16 GB, 62 GB RAM, context 262.144 tokens. Nu gebruikt de engine ook het RAM: 53,5 van 62 GB in gebruik.

Twee verzoeken van elk ongeveer 162.000 tokens: het eerste werd gelezen met 1.176 tok/s, generatie 48,3 tok/s; het tweede kwam bijna volledig uit de gesprekscache (162.199 tokens), generatie 45,2 tok/s.

De afweging is duidelijk: met meer RAM is de generatie merkbaar sneller, maar blijft er minder geheugen over voor andere taken. Met 31 GB raakte de engine het RAM nauwelijks aan en bleef de computer vrij voor ander werk.

Modelsnelheid

Een oude Xeon en een Tesla P100: 19–27 tok/s

Het model past niet in het RAM en draait vanuit het videogeheugen (15,7 van 16 GB) en vanaf een NVMe-schijf via PCIe 3.0. De processor staat op ongeveer 45%, het RAM is bijna vrij: de computer kan ook voor ander werk worden gebruikt.

Op de monitor: generatie nu 26,9 tok/s; in de verzoekgeschiedenis 19,3 tok/s bij een kort antwoord (253 tokens) en 25,3 tok/s bij een lang antwoord (12.686 tokens in 504,1 s). Videokaart op 36 °C, 97 W van 250.

Voor ons is dit het belangrijkste prijsijkpunt: zelfs oude, goedkope hardware is met een goed ingestelde engine al geschikt voor echt werk.