Używamy go codziennie

Chłodzenie

Sterowanie wentylatorem GPU

Zadanie, na zrzucie 1: wentylator GPU jest podłączony do płyty głównej; ma podążać za temperaturą GPU, przez minutę pracować na pełnych obrotach, by potwierdzić, że sterowanie działa, potem dostać optymalne poziomy, a po restarcie wszystko ma działać automatycznie.

1. 1
   Prośba

   Zwykła wiadomość w Telegramie, bez poleceń technicznych.

2. 2
   Rozpoznanie

   Najpierw, bez uprawnień administratora, agent ustalił: płyta Z10PA-U8, GPU Tesla P100, temperatura GPU czytelna (39 °C), ale na razie nie ma czym sterować wentylatorem. Poprosił o uprawnienia administratora jednym poleceniem i przedstawił plan. Po uzyskaniu dostępu znalazł układ Nuvoton NCT7904D (9 wejść obrotomierza, 4 kanały PWM) i, przeprowadzając każdy kanał od 0 do 255, przypisał: pwm2 → fan5, do ~5300 RPM, to dmuchawa P100. Pozostałe trzy kanały zostały na automatyce BIOS.

3. 3
   Minuta na pełnych obrotach

   pwm2 = 255 przez 60 sekund: fan5 w 5 sekund wzrósł z 1468 do 5294–5421 RPM, a GPU ochłodził się z 37 do 31 °C. Potem sterowanie wróciło do krzywej (255 → 195 → 90); działanie potwierdzają odczyty obrotomierza.

4. 4
   Krzywa

   ≤35 °C → 35%, 45 °C → 47%, 60 °C → 67%, 75 °C → 86%, ≥85 °C → 100% (P100 obniża taktowanie przy 91 °C, więc zostaje zapas). Obroty zmieniają się płynnie, najwyżej o ±15% co 5 sekund; jeśli nvidia-smi przestanie odpowiadać, wentylator przechodzi w tryb awaryjny ~78%.

5. 5
   Restart

   Sterownik ładuje się automatycznie, a sterowanie działa jako usługa z autostartem. Agent naprawdę zrestartował maszynę i sprawdził wszystko od zera: moduł załadowany, usługa aktywna, fan5 na 1319 RPM, GPU 35 °C.

• Od nas: jedno polecenie nadające uprawnienia administratora, odpowiedź «Ready» i jedno potwierdzenie w trakcie.
• ≈ 30 minut (06:26–06:57 według zrzutów)

Konfiguracja

Pytanie techniczne, głosem

Praktyczne zadanie: w wiadomości głosowej zapytaliśmy, jak zbudowany jest system. Odpowiedział rzeczywistymi danymi naszych maszyn: sprzęt, dyski, model AI i szybkość. Jeśli jakiś punkt jest niejasny, wystarczy od razu zapytać, co oznacza.

Co pokazuje odpowiedź: dwie maszyny, claryel01 i P2002; procesor, pamięć, GPU i dyski; wersje oprogramowania; model AI; zmierzona szybkość.

W tym zadaniu model zapasowy był zewnętrzny (Grok) i bez filtra. Dla naszego systemu lokalnego to nie do przyjęcia, dlatego model zapasowy zastąpiono drugim modelem lokalnym. Dziś modele chmurowe są wywoływane tylko przez filtr i, w razie potrzeby, po wyraźnym potwierdzeniu użytkownika.

Niejasny termin techniczny? Zapytaj system od razu, bezpośrednio w rozmowie: wyjaśni go prostymi słowami.

Park maszyn

Trzy maszyny, jeden agent

Prośba, na zrzucie 1 (07:47): dla każdej maszyny ze Strata wielkość i typ pamięci, NVMe, GPU i pamięć wideo, wersja Strata, model, wersja agenta i szybkość modelu na tej maszynie; odpowiedź krótko i po angielsku.

Agent sam przeskanował sieć i potwierdził, że maszyny są trzy (pozostałe adresy to drukarka i port Wi-Fi Maca). Wszystkie trzy działają na Strata v0.1.45 z tym samym modelem Qwen3.8-Flash-Next IQ3_S (kontekst 262 144), więc odpowiedzi są spójne, niezależnie od tego, która maszyna odpowiada.

Szybkość generowania: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (najszybsza), P1005 16.2 tok/s: model 78 GB przy 31 GB pamięci, dlatego ta maszyna obsługuje zadania w tle. Wszystkimi trzema steruje jedna instancja agenta na claryel01; rezerwa idzie łańcuchem P2002 → Mac Studio → Grok.

W tym zadaniu model zapasowy był zewnętrzny (Grok) i bez filtra. Dla naszego systemu lokalnego to nie do przyjęcia, dlatego model zapasowy zastąpiono drugim modelem lokalnym. Dziś modele chmurowe są wywoływane tylko przez filtr i, w razie potrzeby, po wyraźnym potwierdzeniu użytkownika.

Instalacja

Strata na nowej maszynie: agent sam pokonał wszystkie pułapki

Nie ma gotowej wersji na Maca: silnik Metal kompiluje się ze źródeł (~5–15 min). Wersja 0.1.45 na Maca okazała się zepsuta; agent znalazł otwarty PR #2895, zastosował go do wydania i ponowna kompilacja się udała.

Model 79 GB: przez HuggingFace przez Starlink byłoby to ~6,5 MB/s (~3,4 h), więc agent skopiował go przez rsync z P2002 z przekierowaniem agenta SSH, w 2 h 05 min. Potem każde zapytanie do silnika zwracało 400; agent znalazł w kodzie źródłowym obejście --no-prefill-borrow.

Wynik: Mac ≈ P2002 w generowaniu (~58 wobec ~57 tok/s) i wyraźnie szybszy w prefill (+36%). Wszystkie pułapki agent zapisał w umiejętności strata-mac-deploy, więc powtórka to niemal kopiowanie.

Aktualizacja

Agent zaktualizował silnik własnego „mózgu”

Pytanie (04:30): jakiej wersji Strata używa „mózg” i która jest najnowsza na GitHubie. Odpowiedź: na P2002 działa v0.1.43.1, najnowsza to v0.1.45 (wydana 17 października 2026). Agent uprzedził, że aktualizacja zrestartuje silnik, na którym sam działa: kilka minut przestoju, z wycofaniem jako zabezpieczeniem.

Na polecenie „zaktualizuj się” (04:31) agent uruchomił aktualizację niezależnie od siebie: git pull → kompilacja silnika HIP 0.1.45 → restart usługi, a strażnik przez 5 minut sprawdza silnik i wraca do 0.1.43.1, jeśli ten się nie podniesie. Kompilacja przeszła czysto (34 MB, 0 błędów), ale podmiana działającego pliku się nie udała („Text file busy”) i silnik się zatrzymał. Agent zachował stary plik jako rezerwę, zainstalował nowy ręcznie i zrestartował usługę.

Sprawdzenie (04:50): działa v0.1.45, model Qwen3.8-Flash-Next IQ3_S, kontekst 262 144. Prędkość tym samym skryptem: krótka odpowiedź 31,0 (było 33,5–33,7), generowanie 1024 tokenów 47,7 / 44,4 (było 53,0–60,1), prefill 1,5K 874 / 531 (było 488–490). Ocena agenta: prefill wyraźnie lepszy, generowanie w dwóch pomiarach niższe o ~10–20%; przy dwóch przebiegach nie nazywa tego regresją i proponuje jeszcze 3–4 pomiary oraz powrót do 0.1.43.1, jeśli spowolnienie się potwierdzi.

W tym zadaniu model zapasowy był zewnętrzny (Grok) i bez filtra. Dla naszego systemu lokalnego to nie do przyjęcia, dlatego model zapasowy zastąpiono drugim modelem lokalnym. Dziś modele chmurowe są wywoływane tylko przez filtr i, w razie potrzeby, po wyraźnym potwierdzeniu użytkownika.

Monitoring

Poranna kontrola domu i komputerów

Zestaw na obrazku: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + agent. Agent odczytuje czujniki Home Assistant (temperatura, wilgotność, ruch, światło, energia) i sprawdza kopie zapasowe, dyski oraz temperaturę komputerów. Rozmawiamy z nim przez Telegram.

Co znalazła kontrola: w pomieszczeniu z komputerami jest 28,8 °C, wyraźnie cieplej niż w innych pomieszczeniach, więc trzeba sprawdzić wentylację i chłodzenie; baterie czujników w biurze (20%) i na tarasie (30%) trzeba wymienić; czujnik drzwi „Leo” pokazuje ON, ale odczyt może być nieaktualny i trzeba go sprawdzić na miejscu.

Viktor nawet nie otwierał przy tym interfejsu Home Assistant. Narzędzia pomocnicze tego dnia: ChatGPT narysował obrazek do posta, ChatGPT Go + Codex pomagały w konfiguracji, a agent od czasu do czasu korzystał z Grok 4.7 jako dodatkowego modelu do złożonego rozumowania.

W tym zadaniu model zapasowy był zewnętrzny (Grok) i bez filtra. Dla naszego systemu lokalnego to nie do przyjęcia, dlatego model zapasowy zastąpiono drugim modelem lokalnym. Dziś modele chmurowe są wywoływane tylko przez filtr i, w razie potrzeby, po wyraźnym potwierdzeniu użytkownika.

Ilustracja do posta, nie zrzut ekranu.

Szybkość modelu

31 tok/s przy prawie wolnej RAM: model jest czytany z SSD

Ustawienia: model Qwen3.8-Flash-Next IQ3_XXS (~47 GB), kontekst 64K (65 536 tokenów), 8-bitowa pamięć KV, tryb low-RAM: część „ekspertów” modelu jest czytana z SSD. Karta graficzna AMD Radeon RX 9070, ~16 GB.

Wynik na monitorze Strata: 12 136 tokenów w 396,3 s, generowanie 31,0 tok/s, VRAM 15,7 z 16 GB, RAM 3,2 z 31 GB, GPU 45 °C. W pamięci wideo jest 5681 „ekspertów” (9,2 GB), reszta jest doczytywana z dysku.

Wniosek: duży model działa bez ogromnej ilości RAM, bo silnik trzyma w pamięci wideo to, co najważniejsze, a resztę doczytuje z szybkiego SSD. To droga do znacznie tańszych komputerów do lokalnej AI.

Szybkość modelu

Kontekst 256K: 26 zapytań na jednej karcie graficznej 16 GB

Cel był prosty: zrozumieć, jak później zautomatyzować takie przebiegi na różnym sprzęcie i jak przedstawiać wyniki do porównań. Maszyna: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Bilans od niedzielnego poranka (09:44): 26 zapytań, 169 326 tokenów zapytań odczytanych z szybkością 108 tok/s (kolejne 1 923 247 wzięte z pamięci rozmowy), 166 539 tokenów napisanych ze średnią szybkością 20,5 tok/s. Kontekst wypełniony w 62% (162k z 256k).

Nie wszystko poszło gładko: na liście jest jedno zapytanie „Closed” i jedno „Stopped”. Wideo w oryginalnym poście pokazuje, jak model pisze długą odpowiedź techniczną; tam Viktor wyjaśnia też, co poszło nie tak.

Szybkość modelu

Więcej RAM: 45 tok/s przy kontekście 164 000 tokenów

Komputer: Intel Core Ultra 7 270K Plus (24 wątki), AMD Radeon 16 GB, 62 GB RAM, kontekst 262 144 tokenów. Teraz silnik używa też RAM: zajęte 53,5 z 62 GB.

Dwa zapytania po około 162 000 tokenów: pierwsze odczytane z szybkością 1176 tok/s, generowanie 48,3 tok/s; drugie niemal w całości z pamięci rozmowy (162 199 tokenów), generowanie 45,2 tok/s.

Kompromis jest jasny: z większą ilością RAM generowanie jest wyraźnie szybsze, ale zostaje mniej pamięci na inne zadania. Przy 31 GB silnik prawie nie ruszał RAM, a komputer pozostawał wolny do innej pracy.

Szybkość modelu

Stary Xeon i Tesla P100: 19–27 tok/s

Model nie mieści się w RAM i działa z pamięci wideo (15,7 z 16 GB) oraz z dysku NVMe przez PCIe 3.0. Procesor jest obciążony w około 45%, RAM prawie wolna: komputer można używać także do innej pracy.

Na monitorze: generowanie teraz 26,9 tok/s; w historii zapytań 19,3 tok/s przy krótkiej odpowiedzi (253 tokeny) i 25,3 tok/s przy długiej (12 686 tokenów w 504,1 s). Karta graficzna 36 °C, 97 W z 250.

Dla nas to główny punkt odniesienia cenowego: nawet stary i tani sprzęt przy dobrze skonfigurowanym silniku nadaje się już do realnej pracy.