CLARYEL CLARYEL Box
Požádat o konfiguraci

CLARYEL · Skutečné použití

Používáme ho každý den

Tady je skutečná práce pro naši firmu, kterou udělal agent CLARYEL: účetnictví, nastavení strojů, infrastruktura. Skutečná data a skutečné odpovědi systému.

CLARYEL každý den pracuje na vlastním systému.

Data zůstávají lokálně, uvnitř CLARYEL Box.

Jak to funguje

  1. Úkol zadáme jednoduchými slovy: hlasem nebo zprávou
  2. Agent CLARYEL se sám zorientuje a udělá celou práci
  3. Dostaneme výsledek a zprávu, často víc, než jsme chtěli

Od nás: jen úkol a souhlas s důležitými kroky.

Business

Každodenní úkoly firmy, které řešíme hlasem přes systém.

Účetnictví

Kontrola faktur: FAKE a duplikáty

Zeptali jsme se, kolik jsme za rok utratili za IT. Systém sám našel faktury FAKE a duplikáty, po našem souhlasu je odstranil a opravil své vlastní číslo.

  1. Otázka
  2. Oprava
  3. Opravený výsledek
Co je na snímku

Otázka: kolik jsme za poslední rok utratili za IT. Agent CLARYEL odpovídá: přibližně €54.691 a sám upozorňuje, že mezi doklady jsou faktury FAKE a duplikáty.

Co je na snímku

Žádáme o odstranění dat FAKE a duplikátů. Agent najde 64 faktur FAKE, před vynuceným smazáním si vyžádá náš souhlas, pak data vyčistí a výsledek ověří.

Co je na snímku

Ověřený konečný stav: 188 platných faktur za €38.627,70. Agent sám opravuje svou dřívější odpověď: výdaje na IT za poslední rok činily €36.993,58.

Snímky jsou v původním jazyce; pod každým je shrnutí.

Před → po (ze snímků 1–3)

  • Odstraněno 64 faktur FAKE
  • 188 platných faktur · €38.627,70
  • IT, poslední rok: ≈€54.691 → €36.993,58

Všechno je skutečné: skutečný systém, skutečné dokumenty, skutečné částky. Přímo z našeho každodenního používání: dokumenty shromážděné z účtu Amazon, z několika e-mailových schránek, z Google Drive a z fyzického archivu našeho systému.

Původní příspěvek na X

Účetnictví

Účetnictví na klíč: od nového počítače po finanční úřad

Celý proces: nastavit počítač od nuly, nainstalovat Ubuntu, potřebné programy, Odoo a NextERP, stáhnout faktury z Amazon Business a odeslat je na Agenzia delle Entrate. Úkoly se zadávají hlasem z telefonu; kontroluje se jen výsledek.

Co je na snímku

Ilustrace k příspěvku, ne snímek obrazovky: sedm kroků (nový počítač, Ubuntu 24.04, Docker/Python/Git a další programy, Odoo, NextERP, faktury z Amazon Business, odeslání na Agenzia delle Entrate) a dole hlasový úkol z telefonu.

Ilustrace k příspěvku, ne snímek obrazovky.

Původní příspěvek na X

ERP

ERP, jehož rozhraní jsme nikdy neotevřeli

Jeden firemní proces už běží celý přes agenta: faktury a přepravní doklady z e-mailu, Google Drive a Amazon Business → ERP a účetnictví → daňový systém → souhrnné přehledy → párování s bankovními výpisy.

Co je na snímku

Ilustrace k příspěvku, ne snímek obrazovky: vlevo člověk mezi horami oken a nastavení, vpravo hlasový úkol pro agenta, který sám pracuje s programy a dodá hotový výsledek.

Ilustrace k příspěvku, ne snímek obrazovky.

Původní příspěvek na X

Konfigurace a infrastruktura

Jak agent CLARYEL sám nastavuje a udržuje naše stroje: hardware, chlazení, modely AI, rychlost.

Chlazení

Řízení ventilátoru GPU

Požádali jsme jednoduchými slovy: ventilátor GPU se má řídit teplotou grafické karty a nastavení má přežít restart. Agent CLARYEL sám zjistil, co je třeba řídit, na minutu roztočil ventilátor naplno, nastavil křivku a vše potvrdil skutečným restartem, zhruba za 30 minut.

  1. Požadavekběžný text, žádné příkazy
  2. PrůzkumZ10PA-U8 · Tesla P100 · NCT7904D
  3. Minuta naplno1468 → 5294–5421 RPM za 5 s · GPU 37 → 31 °C
  4. Křivka≤35 °C 35% → ≥85 °C 100%
  5. Restart1319 RPM, 35 °C: vše naběhlo samo
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
Křivka: teplota GPU → otáčky ventilátoru~78 %: nouzový režim, když čidlo teploty přestane odpovídatPlynule: nejvýše ±15 % za 5 s

Nad rámec úkolu

  • Uložil postup jako dovednost pro další stroje.
  • Poctivě vysvětlil, o co se opírá závěr, že fan5 je ventilátor GPU.
  • Ve stejné relaci také přejmenoval stroj na P1005, o což jsme žádali dříve.
  • Od nás: jeden příkaz pro práva správce, odpověď «Ready» a jedno potvrzení v průběhu.
  • ≈ 30 minut (06:26–06:57 podle snímků)
Co je na snímku

Náš požadavek (06:26) běžným textem. Agent hned začíná průzkum bez práv správce: deska Z10PA-U8, GPU Tesla P100; rozhraní pro řízení ventilátoru zatím chybí; teplota GPU čitelná: 39 °C.

Co je na snímku

Agent nás žádá, abychom jednou spustili příkaz, který mu dá práva správce na P1005 (lze je kdykoli odebrat), a představuje plán: najít čip, který řídí ventilátor, malá služba podle teploty GPU, minuta naplno s kontrolou otáčkoměrem. Adresa stroje je zakryta.

Co je na snímku

Konec plánu: služba s automatickým spuštěním, přejmenování hostitele na P1005; kdyby se řízení ukázalo nemožné, agent to poctivě řekne. Naše odpověď «Ready» (06:29), pak průběh: služba řízení, jedno potvrzení (06:43), «vše přežilo restart» (06:49) a začátek zprávy.

Co je na snímku

Zpráva, body 1–3: čip Nuvoton NCT7904D, přiřazení kanálů (pwm2 → fan5, až ~5300 RPM: turbína P100), minuta naplno (1468 → 5294–5421 RPM za 5 s, GPU 37 → 31 °C) a funkční křivka.

Co je na snímku

Zpráva, bod 4 a shrnutí: automatické spuštění ovladače a služby, skutečný restart (fan5 na 1319 RPM, GPU 35 °C, Strata naběhla sama, port 8080 naslouchá), název hostitele P1005, poctivá poznámka, jak byl ventilátor GPU určen, a postup uložený jako dovednost.

Snímky jsou v původním jazyce; pod každým je shrnutí.

Původní příspěvek na X

Konfigurace

Technický dotaz, hlasem

Praktický úkol: hlasovou zprávou jsme se zeptali, jak je systém uspořádán. Odpověděl skutečnými údaji našich strojů: hardware, disky, model AI a rychlost. Pokud některá položka není jasná, stačí se hned zeptat, co znamená.

Co je na snímku

Odpověď na hlasový dotaz na konfiguraci: dva stroje, claryel01 a P2002, s procesorem, pamětí, GPU, disky, verzemi softwaru, modelem AI a naměřenou rychlostí (~44–48 tok/s). Dole řádek o záložním modelu (Cloud fallback: xAI Grok 4.7).

V této úloze byl záložní model externí (Grok) a bez filtru. Pro náš lokální systém to není přijatelné, proto byl záložní model nahrazen druhým lokálním. Dnes se cloudové modely volají jen přes filtr a v případě potřeby po výslovném potvrzení uživatele.

Strojový park

Tři stroje, jeden agent

Požádali jsme o krátký přehled všech našich strojů se Strata. Agent CLARYEL sám prověřil síť, našel tři stroje a ke každému zjistil paměť, disk, GPU, verze Strata a modelu a rychlost. Všechny tři řídí jeden agent.

rychlost generování

  • P2002hlavní62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studionejrychlejší256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005pro úlohy na pozadí31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Na všech třech: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · kontext 262 144

Co je na snímku

Náš požadavek (07:47) a začátek odpovědi: síť prověřena, stroje jsou tři. První je P2002: 62 GiB DDR5, Lexar NM1090 PRO 2 TB, AMD RDNA4 s 16 GiB, Strata v0.1.45, Qwen3.8-Flash-Next IQ3_S, 46.8 tok/s. Adresa je zakryta.

Co je na snímku

Mac Studio: 256 GB LPDDR5X (M3 Ultra), SSD 2 TB, 60.0 tok/s, nejrychlejší. P1005: 31 GiB DDR4, Tesla P100 16 GB, 16.2 tok/s, pro úlohy na pozadí. Shrnutí: jeden agent na claryel01 řídí všechny tři, všude stejný model; záloha P2002 → Mac Studio → Grok. Adresy jsou zakryty.

V této úloze byl záložní model externí (Grok) a bez filtru. Pro náš lokální systém to není přijatelné, proto byl záložní model nahrazen druhým lokálním. Dnes se cloudové modely volají jen přes filtr a v případě potřeby po výslovném potvrzení uživatele.

Původní příspěvek na X

Instalace

Strata na novém stroji: agent sám překonal všechny nástrahy

Zeptali jsme se, jaké potíže nastaly při spuštění Strata v0.1.45 na Mac Studiu (M3 Ultra, 256 GB). Agent CLARYEL sám zkompiloval engine ze zdrojových kódů, našel a použil opravu, přenesl model o velikosti 79 GB a obešel chybu enginu.

Co je na snímku

Naše otázka (05:16) na potíže se Strata na Mac Studiu. Odpověď, body 1–3: žádné hotové sestavení pro Mac, rozbité sestavení 0.1.45 a oprava z PR #2895, začátek popisu přenosu modelu 79 GB.

Co je na snímku

Body 3–6: přenos modelu (Starlink ~6,5 MB/s, síť ~11 MB/s, rsync z P2002 za 2 h 05 min), chyba ve velikosti písmen v názvu modelu, chyba enginu „každý požadavek 400“ a obejití --no-prefill-borrow, záměna se starým procesem na portu 8080.

Co je na snímku

Body 6–7 a výsledek: „zamrznutí“ při prvním startu (~10 minut čtení 55 GB z disku), Mac ≈ P2002 při generování (~58 oproti ~57 tok/s), prefill +36 %, vše uloženo do dovednosti strata-mac-deploy.

Snímky jsou v původním jazyce; pod každým je shrnutí.

Původní příspěvek na X

Aktualizace

Agent aktualizoval engine vlastního „mozku“

V Telegramu jsme požádali agenta CLARYEL, aby aktualizoval Strata na P2002, stroji, na kterém sám běží. Agent spustil aktualizaci s pojistkou, sám opravil selhání v posledním kroku a poctivě porovnal rychlost před a po.

Co je na snímku

Otázka na verze (04:30), odpověď (v0.1.43.1 na P2002, v0.1.45 na GitHubu) a příkaz „aktualizuj se“ (04:31). Agent popisuje plán: aktualizace odděleně od sebe a hlídač s automatickým návratem k 0.1.43.1.

Co je na snímku

Řádek o přepnutí na záložní model (grok-4.7) v 04:46; zpráva: kód na v0.1.45, engine sestaven (34 MB, 0 chyb), výměna souboru selhala („Text file busy“), agent to opravuje sám. Níže: záznam o aktualizaci dovednosti a naše otázka na aktuální verzi (04:50).

Co je na snímku

Odpověď: na P2002 běží Strata v0.1.45, stará 0.1.43.1 je uložena jako záloha, model Qwen3.8-Flash-Next IQ3_S, kontext 262 144; měření rychlosti před a po aktualizaci.

Co je na snímku

Hodnocení agenta: prefill výrazně zlepšen (až +80 % v jednom měření), generování nižší o ~10–20 % ve dvou nových měřeních; agent navrhuje další 3–4 běhy a návrat, pokud se zpomalení potvrdí.

Snímky jsou v původním jazyce; pod každým je shrnutí.

V této úloze byl záložní model externí (Grok) a bez filtru. Pro náš lokální systém to není přijatelné, proto byl záložní model nahrazen druhým lokálním. Dnes se cloudové modely volají jen přes filtr a v případě potřeby po výslovném potvrzení uživatele.

Původní příspěvek na X

Monitoring

Ranní kontrola domu a počítačů

Ráno agent CLARYEL sám zkontroluje senzory chytré domácnosti Home Assistant, zálohy, stav disků a teplotu připojených počítačů a hlásí jen to, co vyžaduje pozornost.

Co je na snímku

Ilustrace k příspěvku, ne snímek obrazovky: výsledek ranní kontroly — místnost s počítači 28,8 °C, baterie senzorů 20 % (kancelář) a 30 % (terasa), senzor dveří „Leo“ ve stavu ON, který je třeba ověřit.

Co je na snímku

Ilustrace k příspěvku, ne snímek obrazovky: řetězec Strata v0.1.43 → Qwen3.8-Flash-Next (IQ3_S) → agent → senzory Home Assistant, zálohy, disky, teplota počítačů; dole pomocné nástroje (Telegram, ChatGPT, ChatGPT Go + Codex, Grok 4.7).

Ilustrace k příspěvku, ne snímek obrazovky.

V této úloze byl záložní model externí (Grok) a bez filtru. Pro náš lokální systém to není přijatelné, proto byl záložní model nahrazen druhým lokálním. Dnes se cloudové modely volají jen přes filtr a v případě potřeby po výslovném potvrzení uživatele.

Původní příspěvek na X

Hardware a rychlost modelů

Jak tentýž model běží na různém hardwaru, od staré Tesly P100 po nový Radeon. Čísla pocházejí jen z obrazovek.

Rychlost modelu

31 tok/s při téměř volné RAM: model se čte z SSD

Strata v0.1.41, Qwen3.8-Flash-Next IQ3_XXS, Radeon 16 GB a 31 GB RAM. Odpověď o 12 136 tokenech rychlostí 31 tok/s, přičemž obsazeno je jen 3,2 GB RAM.

Co je na snímku

Monitor Strata: generování 31,0 tok/s, prefill 43 tok/s, VRAM 15,7/16 GB, GPU 45 °C, kontext zaplněn z 19 % (12k z 64k), jeden požadavek: 12 136 tokenů za 396,3 s; RAM 3,2/31 GB.

Co je na snímku

Model a engine: qwen3.8-flash-next-iq3_xxs, v0.1.41, kontext 65 536 tokenů, 8bitová KV cache ve VRAM, 5 681 expertů ve VRAM (9,2 GB). Počítač: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 vláken), 31 GB RAM.

Co je na snímku

Zvolené nastavení Strata: Qwen3.8-Flash-Next, IQ3_XXS, kontext 64K, 8bitová KV cache, obrázky vypnuté, režim low-RAM (31 GB RAM, experti částečně čtení z SSD), AMD Radeon RX 9070 (~16 GB VRAM); soubor modelu ~47 GB.

Snímky jsou v původním jazyce; pod každým je shrnutí.

Původní příspěvek na X

Rychlost modelu

Kontext 256K: 26 požadavků na jedné grafické kartě 16 GB

Spustili jsme Strata v0.1.41 s Qwen3.8-Flash-Next IQ3_S na kontextu 262 144 tokenů. Odpovědi až 14 829 tokenů, obsazeno 3,3 z 31 GB RAM: model běží téměř jen ve videopaměti.

Co je na snímku

Snímek z videa: model píše dlouhou technickou odpověď o tom, jak fungují modely Mixture-of-Experts (směrování expertů, KV cache, hierarchie paměti). Celé video je v původním příspěvku.

Co je na snímku

Monitor Strata: generování posledního požadavku 14,8 tok/s, prefill 112 tok/s, VRAM 15,8/16 GB, kontext 62 % (162k/256k), RAM 3,3/31 GB; v tabulce požadavků generování od 13,0 do 19,6 tok/s a odpovědi až 14 829 tokenů; celkem 26 požadavků.

Co je na snímku

Model a engine: qwen3.8-flash-next-iq3_s, v0.1.41, kontext 262 144 tokenů, 8bitová KV cache ve VRAM, 3 114 expertů ve VRAM (6,0 GB). Počítač: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 vláken), 31 GB RAM.

Snímky jsou v původním jazyce; pod každým je shrnutí.

Video je v původním příspěvku; zde je z něj snímek.

Původní příspěvek na X

Rychlost modelu

Více RAM: 45 tok/s na kontextu 164 000 tokenů

Tentýž stroj s větší RAM (62 GB v systému). Strata v0.1.43 s Qwen3.8-Flash-Next IQ3_S: generování 45,2 tok/s při kontextu zaplněném z 63 %.

Co je na snímku

Monitor Strata: generování 45,2 tok/s, prefill 94 tok/s, VRAM 15,9/16 GB, GPU 44 °C, kontext 63 % (164k/256k), RAM 53,5/62 GB; dva požadavky po zhruba 162 000 tokenech, prefill 1 176 tok/s, generování 48,3 a 45,2 tok/s.

Co je na snímku

Model a engine: qwen3.8-flash-next-iq3_s, v0.1.43, kontext 262 144 tokenů, 8bitová KV cache ve VRAM, 3 114 expertů ve VRAM (6,0 GB). Počítač: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 vláken), 62 GB RAM.

Snímky jsou v původním jazyce; pod každým je shrnutí.

Původní příspěvek na X

Rychlost modelu

Starý Xeon a Tesla P100: 19–27 tok/s

Nejskromnější konfigurace: Intel Xeon E5-2690 v4, 31 GB RAM a karta Tesla P100 16 GB. Strata v0.1.45 s Qwen3.8-Flash-Next IQ3_S dává 19–27 tok/s a obsazeno je jen 2,2 GB RAM.

Co je na snímku

Monitor Strata a htop: generování 26,9 tok/s, vytížení Tesla P100 100 %, VRAM 15,7/16 GB, 97 W, PCIe Gen3 x16, CPU 45 %, čtení z disku 164 MB/s, RAM 2,2/31 GB; požadavky: 19,3 tok/s (253 tokenů) a 25,3 tok/s (12 686 tokenů za 504,1 s).

Co je na snímku

Model a engine: qwen3.8-flash-next-iq3_s, v0.1.45, kontext 262 144 tokenů, 8bitová KV cache ve VRAM, 3 051 expertů ve VRAM (5,8 GB). Počítač: Tesla P100 16 GB, Intel Xeon E5-2690 v4 (28 vláken), 31 GB RAM.

Snímky jsou v původním jazyce; pod každým je shrnutí.

Původní příspěvek na X

Účetnictví

Kontrola faktur: FAKE a duplikáty

Skutečný scénář z našeho ERP, ve třech krocích.

  1. Otázka

    Ptáme se, kolik jsme za poslední rok utratili za IT. Systém odpoví (≈ €54.691) a sám upozorní na faktury FAKE a duplicity.

  2. Oprava

    Požádáme ho o odstranění dat FAKE a duplicit. Před vynuceným smazáním žádá o náš souhlas, pak vyčistí a ověří.

  3. Opravený výsledek

    188 platných faktur za €38.627,70. Opravená částka: €36.993,58: systém sám opraví svou předchozí odpověď a potvrdí konečný stav.

Před → po (ze snímků 1–3)

  • Odstraněno 64 faktur FAKE
  • 188 platných faktur · €38.627,70
  • IT, poslední rok: ≈€54.691 → €36.993,58

Reálný scénář z našeho ERP: na otázku po výdajích za IT systém sám najde faktury FAKE a duplicity, po našem souhlasu je odstraní, ověří výsledek a opraví svou vlastní předchozí částku.

Mazání dokumentů je bezpečné: data jsou zálohována, existuje historie změn s možností vrácení a průběžné odsouhlasování, například s bankovními výpisy.

Chlazení

Řízení ventilátoru GPU

Úkol, na snímku 1: ventilátor GPU je připojen k základní desce; má sledovat teplotu GPU, minutu běžet naplno, aby se potvrdilo, že řízení funguje, pak dostat optimální úrovně a po restartu má vše fungovat automaticky.

  1. Požadavek

    Obyčejná zpráva v Telegramu, bez technických příkazů.

  2. Průzkum

    Nejprve, bez práv správce, agent zjistil: deska Z10PA-U8, GPU Tesla P100, teplota GPU čitelná (39 °C), ale zatím není čím ventilátor řídit. Požádal o práva správce jediným příkazem a představil plán. S přístupem našel čip Nuvoton NCT7904D (9 vstupů otáčkoměru, 4 kanály PWM) a projetím každého kanálu od 0 do 255 přiřadil: pwm2 → fan5, až ~5300 RPM, tedy turbína P100. Ostatní tři kanály zůstaly na automatice BIOS.

  3. Minuta naplno

    pwm2 = 255 po dobu 60 sekund: fan5 za 5 sekund vzrostl z 1468 na 5294–5421 RPM a GPU se ochladil z 37 na 31 °C. Pak se řízení vrátilo ke křivce (255 → 195 → 90); funkčnost potvrzují údaje otáčkoměru.

  4. Křivka

    ≤35 °C → 35 %, 45 °C → 47 %, 60 °C → 67 %, 75 °C → 86 %, ≥85 °C → 100 % (P100 snižuje takty při 91 °C, takže zůstává rezerva). Otáčky se mění plynule, nejvýše o ±15 % za 5 sekund; pokud nvidia-smi přestane odpovídat, ventilátor přejde do nouzového režimu ~78 %.

  5. Restart

    Ovladač se načítá automaticky a řízení běží jako služba s automatickým spuštěním. Agent stroj skutečně restartoval a vše ověřil od nuly: modul načten, služba aktivní, fan5 na 1319 RPM, GPU 35 °C.

Nad rámec úkolu

  • Uložil postup jako dovednost pro další stroje.
  • Poctivě vysvětlil, o co se opírá závěr, že fan5 je ventilátor GPU.
  • Ve stejné relaci také přejmenoval stroj na P1005, o což jsme žádali dříve.
  • Od nás: jeden příkaz pro práva správce, odpověď «Ready» a jedno potvrzení v průběhu.
  • ≈ 30 minut (06:26–06:57 podle snímků)

Konfigurace

Technický dotaz, hlasem

Praktický úkol: hlasovou zprávou jsme se zeptali, jak je systém uspořádán. Odpověděl skutečnými údaji našich strojů: hardware, disky, model AI a rychlost. Pokud některá položka není jasná, stačí se hned zeptat, co znamená.

Co odpověď ukazuje: dva stroje, claryel01 a P2002; procesor, paměť, GPU a disky; verze softwaru; model AI; naměřená rychlost.

V této úloze byl záložní model externí (Grok) a bez filtru. Pro náš lokální systém to není přijatelné, proto byl záložní model nahrazen druhým lokálním. Dnes se cloudové modely volají jen přes filtr a v případě potřeby po výslovném potvrzení uživatele.

Není vám jasný technický pojem? Zeptejte se systému hned, přímo v dialogu: vysvětlí vám ho jednoduchými slovy.

Strojový park

Tři stroje, jeden agent

Požadavek, na snímku 1 (07:47): pro každý stroj se Strata velikost a typ paměti, NVMe, GPU a videopaměť, verze Strata, model, verze agenta a rychlost modelu na tom stroji; odpověď stručně a anglicky.

Agent sám prohledal síť a potvrdil, že stroje jsou tři (ostatní adresy jsou tiskárna a Wi-Fi port Macu). Všechny tři běží na Strata v0.1.45 se stejným modelem Qwen3.8-Flash-Next IQ3_S (kontext 262 144), takže odpovědi jsou jednotné, ať odpovídá kterýkoli stroj.

rychlost generování

  • P2002hlavní62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studionejrychlejší256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005pro úlohy na pozadí31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Na všech třech: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · kontext 262 144

Rychlost generování: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (nejrychlejší), P1005 16.2 tok/s: model 78 GB při 31 GB paměti, proto tento stroj obstarává úlohy na pozadí. Všechny tři řídí jedna instance agenta na claryel01; záloha jde řetězcem P2002 → Mac Studio → Grok.

V této úloze byl záložní model externí (Grok) a bez filtru. Pro náš lokální systém to není přijatelné, proto byl záložní model nahrazen druhým lokálním. Dnes se cloudové modely volají jen přes filtr a v případě potřeby po výslovném potvrzení uživatele.

Účetnictví

Účetnictví na klíč: od nového počítače po finanční úřad

Viktor tento proces už prošel s cloudovými agenty, téměř bez dotyku rozhraní programů: úkoly hlasem, kontrola výsledku. Teď takové skutečné procesy přenášíme na lokální AI CLARYEL.

Kroky: nový počítač od nuly → Ubuntu a nastavení → potřebné programy → účetnictví Odoo → ERP NextERP → import faktur z Amazon Business → odeslání na Agenzia delle Entrate.

První postřeh: lokálně takové úkoly zatím trvají déle než v cloudu. Nejdřív zjišťujeme, co funguje bez úprav, a teprve potom optimalizujeme.

Ilustrace k příspěvku, ne snímek obrazovky.

ERP

ERP, jehož rozhraní jsme nikdy neotevřeli

Neučíme se tlačítka a nabídky: žádáme agenta, aby program nainstaloval a provedl potřebné funkce, přes API, MCP nebo ovládáním vlastního počítače agenta. Potřebujeme výsledek, ne rozhraní.

Proces krok za krokem: shromáždit faktury a přepravní doklady z e-mailu, Google Drive a účtu Amazon Business; zadat je do ERP a účetnictví; předat data do daňového systému; připravit souhrnné přehledy; vše spárovat s bankovními výpisy, které jsou také na Google Drive.

S nastavením stejně: místo abychom se v každém vyznali, řekneme agentovi „má to fungovat takhle: udělej to, zkontroluj a řekni mi výsledek“. My zadáme úkol a zkontrolujeme výsledek. Zatím to nejde úplně se všemi programy.

Ilustrace k příspěvku, ne snímek obrazovky.

Instalace

Strata na novém stroji: agent sám překonal všechny nástrahy

Hotové sestavení pro Mac neexistuje: engine Metal se kompiluje ze zdrojů (~5–15 min). Sestavení 0.1.45 pro Mac bylo rozbité; agent našel otevřený PR #2895, použil ho na vydání a nové sestavení prošlo.

Model 79 GB: přes HuggingFace přes Starlink by to bylo ~6,5 MB/s (~3,4 h), proto ho agent zkopíroval přes rsync z P2002 s přesměrováním SSH agenta, za 2 h 05 min. Pak každý požadavek na engine vracel 400; agent našel ve zdrojovém kódu obejití --no-prefill-borrow.

Výsledek: Mac ≈ P2002 při generování (~58 oproti ~57 tok/s) a výrazně rychlejší při prefill (+36 %). Všechny nástrahy agent uložil do dovednosti strata-mac-deploy, takže opakování je téměř kopírování.

Aktualizace

Agent aktualizoval engine vlastního „mozku“

Otázka (04:30): jakou verzi Strata používá „mozek“ a která je nejnovější na GitHubu. Odpověď: na P2002 běží v0.1.43.1, nejnovější je v0.1.45 (vydána 17. října 2026). Agent upozornil, že aktualizace restartuje engine, na kterém sám běží: pár minut výpadku, s návratem jako pojistkou.

Na příkaz „aktualizuj se“ (04:31) agent spustil aktualizaci odděleně od sebe: git pull → sestavení enginu HIP 0.1.45 → restart služby, přičemž hlídač 5 minut kontroluje engine a vrátí se k 0.1.43.1, pokud nenaběhne. Sestavení proběhlo čistě (34 MB, 0 chyb), ale výměna běžícího souboru selhala („Text file busy“) a engine se zastavil. Agent ponechal starý soubor jako zálohu, nový nainstaloval ručně a restartoval službu.

Kontrola (04:50): běží v0.1.45, model Qwen3.8-Flash-Next IQ3_S, kontext 262 144. Rychlost stejným skriptem: krátká odpověď 31,0 (dříve 33,5–33,7), generování 1024 tokenů 47,7 / 44,4 (dříve 53,0–60,1), prefill 1,5K 874 / 531 (dříve 488–490). Hodnocení agenta: prefill výrazně lepší, generování ve dvou měřeních nižší o ~10–20 %; při pouhých dvou bězích to nenazývá regresí a navrhuje další 3–4 měření a návrat k 0.1.43.1, pokud se zpomalení potvrdí.

V této úloze byl záložní model externí (Grok) a bez filtru. Pro náš lokální systém to není přijatelné, proto byl záložní model nahrazen druhým lokálním. Dnes se cloudové modely volají jen přes filtr a v případě potřeby po výslovném potvrzení uživatele.

Monitoring

Ranní kontrola domu a počítačů

Sestava na obrázku: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + agent. Agent čte senzory Home Assistant (teplota, vlhkost, pohyb, světlo, energie) a kontroluje zálohy, disky a teplotu počítačů. Komunikujeme s ním přes Telegram.

Co kontrola našla: v místnosti s počítači je 28,8 °C, znatelně tepleji než v jiných místnostech, je třeba zkontrolovat větrání a chlazení; baterie senzorů v kanceláři (20 %) a na terase (30 %) je třeba vyměnit; senzor dveří „Leo“ ukazuje ON, ale údaj může být zastaralý a je třeba ho ověřit na místě.

Viktor přitom rozhraní Home Assistant ani neotevřel. Pomocné nástroje toho dne: ChatGPT nakreslil obrázek k příspěvku, ChatGPT Go + Codex pomáhaly s nastavením a agent se čas od času obracel na Grok 4.7 jako na doplňkový model pro složité uvažování.

V této úloze byl záložní model externí (Grok) a bez filtru. Pro náš lokální systém to není přijatelné, proto byl záložní model nahrazen druhým lokálním. Dnes se cloudové modely volají jen přes filtr a v případě potřeby po výslovném potvrzení uživatele.

Ilustrace k příspěvku, ne snímek obrazovky.

Rychlost modelu

31 tok/s při téměř volné RAM: model se čte z SSD

Nastavení: model Qwen3.8-Flash-Next IQ3_XXS (~47 GB), kontext 64K (65 536 tokenů), 8bitová KV cache, režim low-RAM: část „expertů“ modelu se čte z SSD. Grafická karta AMD Radeon RX 9070, ~16 GB.

Výsledek na monitoru Strata: 12 136 tokenů za 396,3 s, generování 31,0 tok/s, VRAM 15,7 z 16 GB, RAM 3,2 z 31 GB, GPU 45 °C. Ve videopaměti je 5 681 „expertů“ (9,2 GB), zbytek se dočítá z disku.

Závěr: velký model běží bez obrovského množství RAM, protože engine drží ve videopaměti to nejdůležitější a zbytek dočítá z rychlého SSD. To je cesta k výrazně dostupnějším počítačům pro lokální AI.

Rychlost modelu

Kontext 256K: 26 požadavků na jedné grafické kartě 16 GB

Cíl byl jednoduchý: pochopit, jak později takové běhy automatizovat na různém hardwaru a jak výsledky připravit pro srovnání. Stroj: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Bilance od nedělního rána (09:44): 26 požadavků, 169 326 tokenů požadavků přečteno rychlostí 108 tok/s (dalších 1 923 247 převzato z cache konverzace), 166 539 tokenů napsáno průměrnou rychlostí 20,5 tok/s. Kontext je zaplněn z 62 % (162k z 256k).

Ne vše proběhlo hladce: v seznamu je jeden požadavek „Closed“ a jeden „Stopped“. Video v původním příspěvku ukazuje, jak model píše dlouhou technickou odpověď; tam Viktor také vysvětluje, co se pokazilo.

Rychlost modelu

Více RAM: 45 tok/s na kontextu 164 000 tokenů

Počítač: Intel Core Ultra 7 270K Plus (24 vláken), AMD Radeon 16 GB, 62 GB RAM, kontext 262 144 tokenů. Teď engine používá i RAM: obsazeno 53,5 z 62 GB.

Dva požadavky po zhruba 162 000 tokenech: první přečten rychlostí 1 176 tok/s, generování 48,3 tok/s; druhý téměř celý převzat z cache konverzace (162 199 tokenů), generování 45,2 tok/s.

Kompromis je jasný: s větší RAM je generování znatelně rychlejší, ale na jiné úlohy zbývá méně paměti. S 31 GB engine RAM téměř nepoužíval a počítač zůstával volný pro jinou práci.

Rychlost modelu

Starý Xeon a Tesla P100: 19–27 tok/s

Model se do RAM nevejde a běží z videopaměti (15,7 z 16 GB) a z NVMe disku přes PCIe 3.0. Procesor je vytížen zhruba na 45 %, RAM je téměř volná: počítač lze používat i k jiné práci.

Na monitoru: generování nyní 26,9 tok/s; v historii požadavků 19,3 tok/s u krátké odpovědi (253 tokenů) a 25,3 tok/s u dlouhé (12 686 tokenů za 504,1 s). Grafická karta 36 °C, 97 W z 250.

Pro nás je to hlavní cenové měřítko: i starý a levný hardware se správně nastaveným enginem už je vhodný pro skutečnou práci.

Proč je cloud nebezpečný

Všechny firemní dokumenty v cizím cloudu? To je riziko, ne pohodlí

Když smlouvy, nabídky, e-maily a know-how skončí v cloudové AI nebo SaaS, firma závisí na cizích pravidlech: poskytovatel zpracovává data na svých serverech, může měnit podmínky užití dat, ceny a limity a jeho infrastruktura i dodavatelé mohou vypadnout nebo být napadeni. Na americké poskytovatele se vztahuje CLOUD Act a právní základ předávání mezi EU a USA je znovu zpochybňován. S CLARYEL zůstávají dokumenty a AI na hardwaru zákazníka: šifrovaný disk, zálohy, šifrovaný vzdálený přístup a databáze, kterou lze kdykoli vypnout. Na základních konfiguracích je to pomalejší než cloud, ale bez limitů tokenů a bez překvapení na účtu.1,3–5,7,9–15

Pro italskou firmu jde také o obchodní tajemství: čl. 98 zákoníku průmyslového vlastnictví chrání informace jen tehdy, jsou-li utajovány „přiměřeně vhodnými opatřeními“. Prozrazení obchodního tajemství se trestá odnětím svobody až na 2 roky (čl. 623 italského trestního zákoníku), s přitížením při použití IT prostředků.17,18

Rychlé externí modely: jen přes filtr

V případě potřeby může systém CLARYEL volat rychlé, špičkové externí modely. Před odesláním odstraní z požadavku osobní údaje a obchodní tajemství a zachová smysl požadavku. V případě potřeby vám ukáže filtrovaný požadavek a do cloudu ho odešle až po vašem výslovném potvrzení.

Filtr pomáhá snižovat rizika; neslibuje 100% anonymizaci.

Upřímně: kanál příkazů (Telegram) je externí služba, takže zprávy a hlasové zprávy procházejí servery Telegramu. Dokumenty, znalostní báze a zpracování AI zůstávají lokálně.

Zdroje

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. AWS — US-EAST-1 service disruption summary (Oct 2025)
  15. Cloudflare — outage on 18 November 2025
  16. The Register — unauthorized API usage bills (2026)
  17. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  18. Codice penale, art. 623 — Normattiva

Obecné informace, nikoli právní poradenství. Lokální systém pomáhá snižovat rizika; odpovědnost za dodržování předpisů zůstává na firmě.

Proč je cloud nebezpečný

Dát cloudovému agentovi klíče od infrastruktury znamená otevřít dveře k nejcennějším datům

Každý klíč API, token OAuth nebo tunel svěřený cloudovému agentovi jsou další dveře pro útočníka. Odcizené přihlašovací údaje jsou nejčastější cestou dovnitř; jediná kompromitovaná integrace vedla ke krádeži dat v mnoha firmách; prompt injection může vynést data bez kliknutí; infikované balíčky už používají agenty AI k hledání tajemství. Cloudový agent s přístupem k vašim strojům a klíčům je místem úniku a cestou do lokálního systému, kde jsou všechna nebo nejcitlivější data. Lokální architektura CLARYEL snižuje počet vnějších přístupových bodů a žádá člověka o potvrzení rizikových akcí, v souladu s OWASP a požadavky NIS2 na dodavatelský řetězec.1–7

Zdroje

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

Obecné informace, nikoli právní poradenství. Lokální systém pomáhá snižovat rizika; odpovědnost za dodržování předpisů zůstává na firmě.

Proč je cloud nebezpečný

Ladění hardwaru a modelů zůstává uvnitř: žádný cloudový agent u vašich strojů

Měření na této stránce provedl agent CLARYEL na našich vlastních strojích, aniž by k nim dal přístup cloudové službě. Odcizené přihlašovací údaje a vystavené panely agentů ukazují proč: kdo má klíče, má systém. Lokální rychlost závisí na hardwaru a na malých konfiguracích je nižší než v cloudu; na oplátku objem práce neomezují tarify, kvóty ani účet za tokeny.1,2

Zdroje

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

Obecné informace, nikoli právní poradenství. Lokální systém pomáhá snižovat rizika; odpovědnost za dodržování předpisů zůstává na firmě.