CLARYEL CLARYEL Box
Begär konfiguration

CLARYEL · Verklig användning

Vi använder det varje dag

Här är verkligt arbete för vårt företag, utfört av CLARYEL-agenten: bokföring, konfiguration av maskiner, infrastruktur. Verkliga data och systemets verkliga svar.

CLARYEL arbetar varje dag med sitt eget system.

Data stannar lokalt, inuti CLARYEL Box.

Så fungerar det

  1. Vi ger uppgiften med enkla ord: med rösten eller i ett meddelande
  2. CLARYEL-agenten sätter sig själv in i saken och gör hela jobbet
  3. Vi får resultatet och en rapport, ofta mer än vi bad om

Från oss: bara uppgiften och godkännande av viktiga åtgärder.

Business

Företagets vardagliga uppgifter som vi sköter med rösten via systemet.

Bokföring

Fakturakontroll: FAKE och dubbletter

Vi frågade hur mycket vi lagt på IT under ett år. Systemet hittade själv FAKE-fakturor och dubbletter, tog bort dem efter vårt godkännande och rättade sin egen siffra.

  1. Frågan
  2. Rättelsen
  3. Rättat resultat
Vad skärmbilden visar

Frågan: hur mycket vi lagt på IT det senaste året. CLARYEL-agenten svarar: omkring €54.691, och påpekar själv att det bland dokumenten finns FAKE-fakturor och dubbletter.

Vad skärmbilden visar

Vi ber om att FAKE-data och dubbletter tas bort. Agenten hittar 64 FAKE-fakturor, ber om vårt godkännande före den tvingade raderingen, rensar sedan data och kontrollerar resultatet.

Vad skärmbilden visar

Kontrollerat slutläge: 188 giltiga fakturor på €38.627,70. Agenten rättar själv sitt tidigare svar: IT-utgifterna det senaste året var €36.993,58.

Skärmbilderna är på originalspråket; under varje finns en sammanfattning.

Före → efter (från skärmbild 1–3)

  • 64 FAKE-fakturor borttagna
  • 188 giltiga fakturor · €38.627,70
  • IT, senaste året: ≈€54.691 → €36.993,58

Allt är verkligt: ett verkligt system, verkliga dokument, verkliga belopp. Direkt från vår dagliga användning: dokument insamlade från Amazon-kontot, flera e-postinkorgar, Google Drive och vårt systems fysiska arkiv.

Ursprungligt inlägg på X

Bokföring

Bokföring nyckelfärdigt: från ny dator till skattemyndigheten

Hela processen: sätta upp en dator från grunden, installera Ubuntu, nödvändiga program, Odoo och NextERP, hämta fakturor från Amazon Business och skicka in dem till Agenzia delle Entrate. Uppgifterna ges med rösten från telefonen; bara resultatet kontrolleras.

Vad skärmbilden visar

En illustration till inlägget, inte en skärmdump: sju steg (ny dator, Ubuntu 24.04, Docker/Python/Git och andra program, Odoo, NextERP, fakturor från Amazon Business, inlämning till Agenzia delle Entrate) och längst ned en röstuppgift från telefonen.

En illustration till inlägget, inte en skärmdump.

Ursprungligt inlägg på X

ERP

Ett ERP vars gränssnitt vi aldrig har öppnat

En affärsprocess går redan helt via agenten: fakturor och transportdokument från e-post, Google Drive och Amazon Business → ERP och bokföring → skattesystem → sammanställda rapporter → avstämning mot kontoutdrag.

Vad skärmbilden visar

En illustration till inlägget, inte en skärmdump: till vänster en människa bland högar av fönster och inställningar, till höger en röstuppgift till agenten, som själv arbetar med programmen och levererar ett färdigt resultat.

En illustration till inlägget, inte en skärmdump.

Ursprungligt inlägg på X

Konfiguration och infrastruktur

Hur CLARYEL-agenten själv konfigurerar och sköter våra maskiner: hårdvara, kylning, AI-modeller, hastighet.

Kylning

Styrning av GPU-fläkten

Vi bad med enkla ord: GPU-fläkten ska följa grafikkortets temperatur och inställningarna ska klara en omstart. CLARYEL-agenten tog själv reda på vad som skulle styras, körde fläkten på fullt varv i en minut, ställde in kurvan och bekräftade allt med en verklig omstart, på cirka 30 minuter.

  1. Begäranvanlig text, inga kommandon
  2. KartläggningZ10PA-U8 · Tesla P100 · NCT7904D
  3. En minut på fullt varv1468 → 5294–5421 RPM på 5 s · GPU 37 → 31 °C
  4. Kurva≤35 °C 35% → ≥85 °C 100%
  5. Omstart1319 RPM, 35 °C: allt kom igång av sig självt
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
Kurva: GPU-temperatur → fläktvarv~78 %: nödläge om temperaturgivaren slutar svaraMjukt: högst ±15 % per 5 s

Utöver uppgiften

  • Sparade förfarandet som en färdighet för nästa maskiner.
  • Förklarade ärligt vad slutsatsen att fan5 är GPU-fläkten bygger på.
  • Bytte i samma session också namn på maskinen till P1005, som vi bett om tidigare.
  • Från oss: ett kommando för administratörsrättigheter, svaret «Ready» och en bekräftelse under arbetet.
  • ≈ 30 minuter (06:26–06:57 enligt skärmbilderna)
Vad skärmbilden visar

Vår begäran (06:26) i vanlig text. Agenten börjar genast kartläggningen utan administratörsrättigheter: moderkort Z10PA-U8, GPU Tesla P100; inget gränssnitt för fläktstyrning ännu; GPU-temperaturen läsbar: 39 °C.

Vad skärmbilden visar

Agenten ber oss köra ett kommando en gång som ger den administratörsrättigheter på P1005 (kan när som helst återkallas) och lägger fram planen: hitta kretsen som styr fläkten, en liten tjänst baserad på GPU-temperaturen, en minut på fullt varv kontrollerad med varvräknaren. Maskinens adress är dold.

Vad skärmbilden visar

Slutet av planen: tjänst med autostart, byte av värdnamn till P1005; om styrning visar sig omöjlig säger agenten det ärligt. Vårt svar «Ready» (06:29), sedan förloppet: styrtjänsten, en bekräftelse (06:43), «allt klarade omstarten» (06:49) och början på rapporten.

Vad skärmbilden visar

Rapport, punkt 1–3: kretsen Nuvoton NCT7904D, kanalkopplingen (pwm2 → fan5, upp till ~5300 RPM: P100:ans fläkt), en minut på fullt varv (1468 → 5294–5421 RPM på 5 s, GPU 37 → 31 °C) och den fungerande kurvan.

Vad skärmbilden visar

Rapport, punkt 4 och sammanfattning: autostart av drivrutin och tjänst, verklig omstart (fan5 på 1319 RPM, GPU 35 °C, Strata startade av sig själv, port 8080 lyssnar), värdnamnet P1005, en ärlig kommentar om hur GPU-fläkten identifierades och förfarandet sparat som en färdighet.

Skärmbilderna är på originalspråket; under varje finns en sammanfattning.

Ursprungligt inlägg på X

Konfiguration

Teknisk fråga, med rösten

En praktisk uppgift: i ett röstmeddelande frågade vi hur systemet är uppbyggt. Det svarade med verkliga data från våra maskiner: hårdvara, diskar, AI-modell och hastighet. Är en punkt oklar räcker det att direkt fråga vad den betyder.

Vad skärmbilden visar

Svaret på röstfrågan om konfigurationen: två maskiner, claryel01 och P2002, med processor, minne, GPU, diskar, programversioner, AI-modell och uppmätt hastighet (~44–48 tok/s). Längst ner raden om reservmodellen (Cloud fallback: xAI Grok 4.7).

I det här uppdraget var reservmodellen extern (Grok) och utan filter. För vårt lokala system är det inte acceptabelt, så reservmodellen ersattes med en andra lokal modell. I dag anropas molnmodeller bara via filtret och, vid behov, efter användarens uttryckliga bekräftelse.

Maskinparken

Tre maskiner, en agent

Vi bad om en kort profil av alla våra maskiner med Strata. CLARYEL-agenten kontrollerade själv nätverket, hittade tre maskiner och samlade för var och en minne, disk, GPU, Strata- och modellversioner samt hastighet. Alla tre styrs av en och samma agent.

genereringshastighet

  • P2002huvudmaskin62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studiosnabbast256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005för bakgrundsuppgifter31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

På alla tre: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · kontext 262 144

Vad skärmbilden visar

Vår begäran (07:47) och början på svaret: nätverket kontrollerat, det finns tre maskiner. Den första är P2002: 62 GiB DDR5, Lexar NM1090 PRO 2 TB, AMD RDNA4 med 16 GiB, Strata v0.1.45, Qwen3.8-Flash-Next IQ3_S, 46.8 tok/s. Adressen är dold.

Vad skärmbilden visar

Mac Studio: 256 GB LPDDR5X (M3 Ultra), SSD 2 TB, 60.0 tok/s, snabbast. P1005: 31 GiB DDR4, Tesla P100 16 GB, 16.2 tok/s, för bakgrundsuppgifter. Sammanfattning: en agent på claryel01 styr alla tre, samma modell överallt; reserv P2002 → Mac Studio → Grok. Adresserna är dolda.

I det här uppdraget var reservmodellen extern (Grok) och utan filter. För vårt lokala system är det inte acceptabelt, så reservmodellen ersattes med en andra lokal modell. I dag anropas molnmodeller bara via filtret och, vid behov, efter användarens uttryckliga bekräftelse.

Ursprungligt inlägg på X

Installation

Strata på en ny maskin: agenten tog sig själv förbi alla fallgropar

Vi frågade vilka svårigheter som uppstod när Strata v0.1.45 skulle köras på en Mac Studio (M3 Ultra, 256 GB). CLARYEL-agenten byggde motorn från källkod, hittade och tillämpade en rättning, flyttade modellen på 79 GB och gick själv runt ett motorfel.

Vad skärmbilden visar

Vår fråga (05:16) om svårigheterna med Strata på Mac Studio. Svaret, punkt 1–3: ingen färdig Mac-build, den trasiga 0.1.45-builden och rättningen från PR #2895, början på berättelsen om flytten av modellen på 79 GB.

Vad skärmbilden visar

Punkt 3–6: flytten av modellen (Starlink ~6,5 MB/s, nätverk ~11 MB/s, rsync från P2002 på 2 h 05 min), ett fel med stora/små bokstäver i modellnamnet, motorfelet ”varje förfrågan 400” och lösningen --no-prefill-borrow, förväxling med en gammal process på port 8080.

Vad skärmbilden visar

Punkt 6–7 och resultat: ”hängningen” vid första start (~10 minuter för att läsa 55 GB från disk), Mac ≈ P2002 vid generering (~58 mot ~57 tok/s), prefill +36 %, allt sparat i färdigheten strata-mac-deploy.

Skärmbilderna är på originalspråket; under varje finns en sammanfattning.

Ursprungligt inlägg på X

Uppdatering

Agenten uppdaterade motorn i sin egen ”hjärna”

I Telegram bad vi CLARYEL-agenten att uppdatera Strata på P2002, maskinen den själv körs på. Agenten startade uppdateringen med ett skyddsnät, rättade själv ett fel i sista steget och jämförde ärligt hastigheten före och efter.

Vad skärmbilden visar

Versionsfrågan (04:30), svaret (v0.1.43.1 på P2002, v0.1.45 på GitHub) och kommandot ”uppdatera dig själv” (04:31). Agenten beskriver planen: uppdatering separat från sig själv och en vakt med automatisk återgång till 0.1.43.1.

Vad skärmbilden visar

Raden om bytet till reservmodellen (grok-4.7) kl. 04:46; rapporten: koden på v0.1.45, motorn byggd (34 MB, 0 fel), filbytet misslyckades (”Text file busy”), agenten rättar själv. Nedanför: anteckningen om färdighetsuppdateringen och vår fråga om aktuell version (04:50).

Vad skärmbilden visar

Svaret: P2002 kör Strata v0.1.45, den gamla 0.1.43.1 sparad som reserv, modell Qwen3.8-Flash-Next IQ3_S, kontext 262 144; hastighetsmätningar före och efter uppdateringen.

Vad skärmbilden visar

Agentens bedömning: prefill klart förbättrad (upp till +80 % i en mätning), generering ~10–20 % lägre i två nya mätningar; agenten föreslår 3–4 körningar till och återställning om nedgången bekräftas.

Skärmbilderna är på originalspråket; under varje finns en sammanfattning.

I det här uppdraget var reservmodellen extern (Grok) och utan filter. För vårt lokala system är det inte acceptabelt, så reservmodellen ersattes med en andra lokal modell. I dag anropas molnmodeller bara via filtret och, vid behov, efter användarens uttryckliga bekräftelse.

Ursprungligt inlägg på X

Övervakning

Morgonkontroll av hemmet och datorerna

På morgonen kontrollerar CLARYEL-agenten själv smarta hemmets sensorer i Home Assistant, säkerhetskopiorna, diskarnas skick och temperaturen på de anslutna datorerna, och rapporterar bara det som kräver uppmärksamhet.

Vad skärmbilden visar

En illustration till inlägget, inte en skärmdump: resultatet av morgonkontrollen — rummet med datorerna 28,8 °C, sensorbatterier på 20 % (kontoret) och 30 % (terrassen), dörrsensorn ”Leo” i läget ON, som bör kontrolleras.

Vad skärmbilden visar

En illustration till inlägget, inte en skärmdump: kedjan Strata v0.1.43 → Qwen3.8-Flash-Next (IQ3_S) → agent → Home Assistant-sensorer, säkerhetskopior, diskar, datorernas temperatur; längst ned hjälpverktygen (Telegram, ChatGPT, ChatGPT Go + Codex, Grok 4.7).

En illustration till inlägget, inte en skärmdump.

I det här uppdraget var reservmodellen extern (Grok) och utan filter. För vårt lokala system är det inte acceptabelt, så reservmodellen ersattes med en andra lokal modell. I dag anropas molnmodeller bara via filtret och, vid behov, efter användarens uttryckliga bekräftelse.

Ursprungligt inlägg på X

Hårdvara och modellhastighet

Hur samma modell körs på olika hårdvara, från ett gammalt Tesla P100 till ett nytt Radeon. Siffrorna kommer bara från skärmarna.

Modellhastighet

31 tok/s med nästan ledigt RAM: modellen läses från SSD

Strata v0.1.41, Qwen3.8-Flash-Next IQ3_XXS, ett Radeon på 16 GB och 31 GB RAM. Ett svar på 12 136 token i 31 tok/s, med bara 3,2 GB RAM upptaget.

Vad skärmbilden visar

Strata-monitor: generering 31,0 tok/s, prefill 43 tok/s, VRAM 15,7/16 GB, GPU 45 °C, kontexten fylld till 19 % (12k av 64k), en förfrågan: 12 136 token på 396,3 s; RAM 3,2/31 GB.

Vad skärmbilden visar

Modell och motor: qwen3.8-flash-next-iq3_xxs, v0.1.41, kontext 65 536 token, 8-bitars KV-cache i VRAM, 5 681 experter i VRAM (9,2 GB). Dator: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 trådar), 31 GB RAM.

Vad skärmbilden visar

Valda Strata-inställningar: Qwen3.8-Flash-Next, IQ3_XXS, kontext 64K, 8-bitars KV-cache, bilder av, low-RAM-läge (31 GB RAM, experter delvis lästa från SSD), AMD Radeon RX 9070 (~16 GB VRAM); modellfil ~47 GB.

Skärmbilderna är på originalspråket; under varje finns en sammanfattning.

Ursprungligt inlägg på X

Modellhastighet

256K-kontext: 26 förfrågningar på ett enda grafikkort på 16 GB

Vi körde Strata v0.1.41 med Qwen3.8-Flash-Next IQ3_S på en kontext på 262 144 token. Svar på upp till 14 829 token, med 3,3 av 31 GB RAM upptaget: modellen arbetar nästan bara i videominnet.

Vad skärmbilden visar

En bildruta ur videon: modellen skriver ett långt tekniskt svar om hur Mixture-of-Experts-modeller fungerar (routning av experter, KV-cache, minneshierarki). Hela videon finns i originalinlägget.

Vad skärmbilden visar

Strata-monitor: generering för senaste förfrågan 14,8 tok/s, prefill 112 tok/s, VRAM 15,8/16 GB, kontext 62 % (162k/256k), RAM 3,3/31 GB; i förfrågningstabellen generering från 13,0 till 19,6 tok/s och svar på upp till 14 829 token; totalt 26 förfrågningar.

Vad skärmbilden visar

Modell och motor: qwen3.8-flash-next-iq3_s, v0.1.41, kontext 262 144 token, 8-bitars KV-cache i VRAM, 3 114 experter i VRAM (6,0 GB). Dator: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 trådar), 31 GB RAM.

Skärmbilderna är på originalspråket; under varje finns en sammanfattning.

Videon finns i originalinlägget; här är en bildruta ur den.

Ursprungligt inlägg på X

Modellhastighet

Mer RAM: 45 tok/s på en kontext på 164 000 token

Samma maskin med mer RAM (62 GB i systemet). Strata v0.1.43 med Qwen3.8-Flash-Next IQ3_S: generering i 45,2 tok/s med kontexten fylld till 63 %.

Vad skärmbilden visar

Strata-monitor: generering 45,2 tok/s, prefill 94 tok/s, VRAM 15,9/16 GB, GPU 44 °C, kontext 63 % (164k/256k), RAM 53,5/62 GB; två förfrågningar på cirka 162 000 token, prefill 1 176 tok/s, generering 48,3 och 45,2 tok/s.

Vad skärmbilden visar

Modell och motor: qwen3.8-flash-next-iq3_s, v0.1.43, kontext 262 144 token, 8-bitars KV-cache i VRAM, 3 114 experter i VRAM (6,0 GB). Dator: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 trådar), 62 GB RAM.

Skärmbilderna är på originalspråket; under varje finns en sammanfattning.

Ursprungligt inlägg på X

Modellhastighet

En gammal Xeon och ett Tesla P100: 19–27 tok/s

Den mest blygsamma konfigurationen: Intel Xeon E5-2690 v4, 31 GB RAM och ett Tesla P100 på 16 GB. Strata v0.1.45 med Qwen3.8-Flash-Next IQ3_S ger 19–27 tok/s, med bara 2,2 GB RAM upptaget.

Vad skärmbilden visar

Strata-monitor och htop: generering 26,9 tok/s, belastning Tesla P100 100 %, VRAM 15,7/16 GB, 97 W, PCIe Gen3 x16, CPU 45 %, diskläsning 164 MB/s, RAM 2,2/31 GB; förfrågningar: 19,3 tok/s (253 token) och 25,3 tok/s (12 686 token på 504,1 s).

Vad skärmbilden visar

Modell och motor: qwen3.8-flash-next-iq3_s, v0.1.45, kontext 262 144 token, 8-bitars KV-cache i VRAM, 3 051 experter i VRAM (5,8 GB). Dator: Tesla P100 16 GB, Intel Xeon E5-2690 v4 (28 trådar), 31 GB RAM.

Skärmbilderna är på originalspråket; under varje finns en sammanfattning.

Ursprungligt inlägg på X

Bokföring

Fakturakontroll: FAKE och dubbletter

Ett verkligt scenario från vårt ERP, i tre steg.

  1. Frågan

    Vi frågar hur mycket vi har lagt på IT det senaste året. Systemet svarar (≈ €54.691) och flaggar på egen hand FAKE-fakturor och dubbletter.

  2. Rättelsen

    Vi ber det ta bort FAKE-data och dubbletterna. Före den tvingade raderingen ber det om vårt godkännande, sedan rensar och kontrollerar det.

  3. Rättat resultat

    188 giltiga fakturor för €38.627,70. Rättat belopp: €36.993,58: systemet rättar själv sitt eget tidigare svar och bekräftar sluttillståndet.

Före → efter (från skärmbild 1–3)

  • 64 FAKE-fakturor borttagna
  • 188 giltiga fakturor · €38.627,70
  • IT, senaste året: ≈€54.691 → €36.993,58

Ett verkligt scenario från vårt ERP: tillfrågat om IT-utgifterna hittar systemet själv FAKE-fakturor och dubbletter, tar bort dem efter vårt godkännande, kontrollerar resultatet och rättar sitt eget tidigare belopp.

Att radera dokument är säkert: data säkerhetskopieras, det finns en ändringshistorik med möjlighet att återställa och en ständig avstämning, till exempel mot kontoutdrag.

Kylning

Styrning av GPU-fläkten

Uppgiften, på skärmbild 1: GPU-fläkten är ansluten till moderkortet; den ska följa GPU-temperaturen, gå på fullt varv i en minut för att bekräfta att styrningen fungerar, sedan få optimala nivåer, och efter omstart ska allt fungera automatiskt.

  1. Begäran

    Ett vanligt meddelande i Telegram, utan tekniska kommandon.

  2. Kartläggning

    Först, utan administratörsrättigheter, konstaterade agenten: moderkort Z10PA-U8, GPU Tesla P100, GPU-temperaturen läsbar (39 °C), men ännu inget att styra fläkten med. Den bad om administratörsrättigheter med ett enda kommando och lade fram planen. Med åtkomst hittade den kretsen Nuvoton NCT7904D (9 varvräknaringångar, 4 PWM-kanaler) och genom att köra varje kanal från 0 till 255 kopplade den: pwm2 → fan5, upp till ~5300 RPM, alltså P100:ans fläkt. De övriga tre kanalerna lämnades på BIOS-automatik.

  3. En minut på fullt varv

    pwm2 = 255 i 60 sekunder: på 5 sekunder steg fan5 från 1468 till 5294–5421 RPM och GPU:n svalnade från 37 till 31 °C. Sedan återgick styrningen till kurvan (255 → 195 → 90); varvräknarens värden bekräftar att den fungerar.

  4. Kurva

    ≤35 °C → 35 %, 45 °C → 47 %, 60 °C → 67 %, 75 °C → 86 %, ≥85 °C → 100 % (P100 sänker klockfrekvensen vid 91 °C, så det finns marginal). Varvtalet ändras mjukt, högst ±15 % per 5 sekunder; om nvidia-smi slutar svara går fläkten i nödläge ~78 %.

  5. Omstart

    Drivrutinen laddas automatiskt och styrningen körs som en tjänst med autostart. Agenten startade verkligen om maskinen och kontrollerade allt från början: modulen laddad, tjänsten aktiv, fan5 på 1319 RPM, GPU 35 °C.

Utöver uppgiften

  • Sparade förfarandet som en färdighet för nästa maskiner.
  • Förklarade ärligt vad slutsatsen att fan5 är GPU-fläkten bygger på.
  • Bytte i samma session också namn på maskinen till P1005, som vi bett om tidigare.
  • Från oss: ett kommando för administratörsrättigheter, svaret «Ready» och en bekräftelse under arbetet.
  • ≈ 30 minuter (06:26–06:57 enligt skärmbilderna)

Konfiguration

Teknisk fråga, med rösten

En praktisk uppgift: i ett röstmeddelande frågade vi hur systemet är uppbyggt. Det svarade med verkliga data från våra maskiner: hårdvara, diskar, AI-modell och hastighet. Är en punkt oklar räcker det att direkt fråga vad den betyder.

Vad svaret visar: två maskiner, claryel01 och P2002; processor, minne, GPU och diskar; programversioner; AI-modell; uppmätt hastighet.

I det här uppdraget var reservmodellen extern (Grok) och utan filter. För vårt lokala system är det inte acceptabelt, så reservmodellen ersattes med en andra lokal modell. I dag anropas molnmodeller bara via filtret och, vid behov, efter användarens uttryckliga bekräftelse.

Är en teknisk term oklar? Fråga systemet direkt i samtalet: det förklarar den med enkla ord.

Maskinparken

Tre maskiner, en agent

Begäran, på skärmbild 1 (07:47): för varje maskin med Strata minnets storlek och typ, NVMe, GPU och videominne, Strata-version, modell, agentversion och modellens hastighet på den maskinen; svaret kort och på engelska.

Agenten skannade själv nätverket och bekräftade att det finns tre maskiner (övriga adresser är en skrivare och Macens Wi-Fi-port). Alla tre kör Strata v0.1.45 med samma modell Qwen3.8-Flash-Next IQ3_S (kontext 262 144), så svaren är enhetliga oavsett vilken maskin som svarar.

genereringshastighet

  • P2002huvudmaskin62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studiosnabbast256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005för bakgrundsuppgifter31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

På alla tre: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · kontext 262 144

Genereringshastighet: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (snabbast), P1005 16.2 tok/s: en modell på 78 GB med 31 GB minne, därför tar den maskinen bakgrundsuppgifter. Alla tre styrs av en enda agentinstans på claryel01; reserven går i kedjan P2002 → Mac Studio → Grok.

I det här uppdraget var reservmodellen extern (Grok) och utan filter. För vårt lokala system är det inte acceptabelt, så reservmodellen ersattes med en andra lokal modell. I dag anropas molnmodeller bara via filtret och, vid behov, efter användarens uttryckliga bekräftelse.

Bokföring

Bokföring nyckelfärdigt: från ny dator till skattemyndigheten

Viktor har redan gått igenom den här processen med molnagenter, nästan utan att röra programmens gränssnitt: uppgifter med rösten, kontroll av resultatet. Nu flyttar vi sådana verkliga processer till CLARYEL lokal AI.

Steg: ny dator från grunden → Ubuntu och inställning → nödvändiga program → bokföring Odoo → ERP NextERP → import av fakturor från Amazon Business → inlämning till Agenzia delle Entrate.

Första iakttagelsen: lokalt tar sådana uppgifter ännu längre tid än i molnet. Först tittar vi på vad som fungerar direkt, och först därefter optimerar vi.

En illustration till inlägget, inte en skärmdump.

ERP

Ett ERP vars gränssnitt vi aldrig har öppnat

Vi lär oss inte knappar och menyer: vi ber agenten installera programmet och utföra de funktioner vi behöver, via API, MCP eller genom att styra agentens egen dator. Vi behöver resultatet, inte gränssnittet.

Processen steg för steg: samla fakturor och transportdokument från e-post, Google Drive och Amazon Business-kontot; föra in dem i ERP och bokföring; skicka uppgifterna till skattesystemet; ta fram sammanställda rapporter; stämma av allt mot kontoutdragen, som också ligger på Google Drive.

Med inställningar likadant: i stället för att sätta oss in i var och en säger vi till agenten ”det ska fungera så här: gör det, kontrollera och berätta resultatet”. Vi ger uppgiften och kontrollerar utfallet. Det fungerar ännu inte fullt ut med alla program.

En illustration till inlägget, inte en skärmdump.

Installation

Strata på en ny maskin: agenten tog sig själv förbi alla fallgropar

Det finns ingen färdig Mac-build: Metal-motorn kompileras från källkod (~5–15 min). Mac-builden av 0.1.45 visade sig vara trasig; agenten hittade den öppna PR #2895, tillämpade den på releasen och ombyggnaden gick igenom.

Modellen på 79 GB: via HuggingFace över Starlink hade det gått i ~6,5 MB/s (~3,4 h), så agenten kopierade den med rsync från P2002 via vidarebefordran av SSH-agenten, på 2 h 05 min. Sedan gav varje förfrågan till motorn 400; agenten hittade i källkoden lösningen --no-prefill-borrow.

Resultat: Mac ≈ P2002 vid generering (~58 mot ~57 tok/s) och klart snabbare vid prefill (+36 %). Agenten sparade alla fallgropar i färdigheten strata-mac-deploy, så en upprepning är nästan en kopia.

Uppdatering

Agenten uppdaterade motorn i sin egen ”hjärna”

Fråga (04:30): vilken Strata-version kör ”hjärnan” och vilken är den senaste på GitHub? Svar: P2002 kör v0.1.43.1, den senaste är v0.1.45 (släppt 17 oktober 2026). Agenten varnade för att uppdateringen skulle starta om motorn den själv körs på: ett par minuters avbrott, med återställning som skyddsnät.

På kommandot ”uppdatera dig själv” (04:31) startade agenten uppdateringen separat från sig själv: git pull → bygge av HIP-motorn 0.1.45 → omstart av tjänsten, medan en vakt kontrollerar motorn i 5 minuter och återgår till 0.1.43.1 om den inte kommer upp. Bygget var rent (34 MB, 0 fel), men det gick inte att ersätta den körande filen (”Text file busy”) och motorn stannade. Agenten behöll den gamla filen som reserv, installerade den nya manuellt och startade om tjänsten.

Kontroll (04:50): v0.1.45 körs, modell Qwen3.8-Flash-Next IQ3_S, kontext 262 144. Hastighet med samma skript: kort svar 31,0 (före 33,5–33,7), generering av 1024 token 47,7 / 44,4 (före 53,0–60,1), prefill 1,5K 874 / 531 (före 488–490). Agentens bedömning: prefill klart bättre, generering ~10–20 % lägre i två mätningar; med bara två körningar kallar den det inte en regression och föreslår 3–4 mätningar till och återgång till 0.1.43.1 om nedgången bekräftas.

I det här uppdraget var reservmodellen extern (Grok) och utan filter. För vårt lokala system är det inte acceptabelt, så reservmodellen ersattes med en andra lokal modell. I dag anropas molnmodeller bara via filtret och, vid behov, efter användarens uttryckliga bekräftelse.

Övervakning

Morgonkontroll av hemmet och datorerna

Kombinationen på bilden: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + agenten. Agenten läser Home Assistant-sensorer (temperatur, luftfuktighet, rörelse, ljus, energi) och kontrollerar säkerhetskopior, diskar och datorernas temperatur. Vi pratar med den via Telegram.

Vad kontrollen hittade: i rummet med datorerna är det 28,8 °C, märkbart varmare än i andra rum, så ventilation och kylning bör kontrolleras; sensorbatterierna på kontoret (20 %) och på terrassen (30 %) behöver bytas; dörrsensorn ”Leo” visar ON, men värdet kan vara inaktuellt och bör kontrolleras på plats.

Viktor öppnade inte ens Home Assistants gränssnitt. Hjälpverktyg den dagen: ChatGPT ritade bilden till inlägget, ChatGPT Go + Codex hjälpte till med inställningarna och agenten vände sig då och då till Grok 4.7 som extra modell för komplexa resonemang.

I det här uppdraget var reservmodellen extern (Grok) och utan filter. För vårt lokala system är det inte acceptabelt, så reservmodellen ersattes med en andra lokal modell. I dag anropas molnmodeller bara via filtret och, vid behov, efter användarens uttryckliga bekräftelse.

En illustration till inlägget, inte en skärmdump.

Modellhastighet

31 tok/s med nästan ledigt RAM: modellen läses från SSD

Inställningar: modell Qwen3.8-Flash-Next IQ3_XXS (~47 GB), kontext 64K (65 536 token), 8-bitars KV-cache, low-RAM-läge: en del av modellens ”experter” läses från SSD. Grafikkort AMD Radeon RX 9070, ~16 GB.

Resultatet i Strata-monitorn: 12 136 token på 396,3 s, generering 31,0 tok/s, VRAM 15,7 av 16 GB, RAM 3,2 av 31 GB, GPU 45 °C. I videominnet finns 5 681 ”experter” (9,2 GB); resten läses från disken.

Slutsats: en stor modell körs utan enorma mängder RAM, eftersom motorn håller det viktigaste i videominnet och läser resten från en snabb SSD. Det är en väg till betydligt mer prisvärda datorer för lokal AI.

Modellhastighet

256K-kontext: 26 förfrågningar på ett enda grafikkort på 16 GB

Målet var enkelt: att förstå hur vi senare automatiserar sådana körningar på olika hårdvara och hur resultaten ska presenteras för jämförelse. Maskin: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Summan sedan söndag morgon (09:44): 26 förfrågningar, 169 326 prompttoken lästa i 108 tok/s (ytterligare 1 923 247 hämtade från samtalscachen), 166 539 token skrivna i snitt 20,5 tok/s. Kontexten är fylld till 62 % (162k av 256k).

Allt gick inte smidigt: listan visar en förfrågan ”Closed” och en ”Stopped”. Videon i originalinlägget visar hur modellen skriver ett långt tekniskt svar; där förklarar Viktor också vad som gick fel.

Modellhastighet

Mer RAM: 45 tok/s på en kontext på 164 000 token

Dator: Intel Core Ultra 7 270K Plus (24 trådar), AMD Radeon 16 GB, 62 GB RAM, kontext 262 144 token. Nu använder motorn även RAM: 53,5 av 62 GB upptaget.

Två förfrågningar på cirka 162 000 token vardera: den första lästes i 1 176 tok/s, generering 48,3 tok/s; den andra kom nästan helt från samtalscachen (162 199 token), generering 45,2 tok/s.

Avvägningen är tydlig: med mer RAM är genereringen märkbart snabbare, men mindre minne blir kvar för andra uppgifter. Med 31 GB rörde motorn knappt RAM, och datorn var fri för annat arbete.

Modellhastighet

En gammal Xeon och ett Tesla P100: 19–27 tok/s

Modellen får inte plats i RAM och körs från videominnet (15,7 av 16 GB) och från en NVMe-disk via PCIe 3.0. Processorn ligger på cirka 45 %, RAM är nästan ledigt: datorn kan även användas för annat arbete.

På monitorn: generering nu 26,9 tok/s; i förfrågningshistoriken 19,3 tok/s på ett kort svar (253 token) och 25,3 tok/s på ett långt (12 686 token på 504,1 s). Grafikkortet 36 °C, 97 W av 250.

För oss är detta den viktigaste prisreferensen: även gammal, billig hårdvara med en rätt inställd motor duger redan för verkligt arbete.

Varför molnet är farligt

Alla företagets dokument i någon annans moln? Det är en risk, inte en bekvämlighet

När avtal, offerter, mejl och kunnande hamnar i en moln-AI eller SaaS blir företaget beroende av någon annans regler: leverantören behandlar data på sina egna servrar, kan ändra villkor för dataanvändning, priser och gränser, och dess infrastruktur och underleverantörer kan gå ner eller drabbas av intrång. CLOUD Act gäller amerikanska leverantörer, och den rättsliga grunden för överföringar mellan EU och USA ifrågasätts igen. Med CLARYEL stannar dokument och AI på kundens hårdvara: krypterad disk, säkerhetskopior, krypterad fjärråtkomst och en databas som kan stängas av när som helst. På baskonfigurationer är det långsammare än molnet, men utan tokengränser och utan överraskningar på fakturan.1,3–5,7,9–15

För ett italienskt företag handlar det också om företagshemligheter: art. 98 i lagen om industriellt rättsskydd skyddar information endast om den hålls hemlig med ”rimligt lämpliga åtgärder”. Röjande av företagshemligheter straffas med fängelse i upp till 2 år (art. 623 i italienska brottsbalken), med straffskärpning om IT-medel används.17,18

Snabba externa modeller: bara via ett filter

Vid behov kan CLARYEL-systemet anropa snabba, toppmoderna externa modeller. Före sändning tar det bort personuppgifter och företagshemligheter från förfrågan och behåller samtidigt dess innebörd. Vid behov visar det den filtrerade förfrågan och skickar den till molnet först efter er uttryckliga bekräftelse.

Filtret hjälper till att minska riskerna; det lovar inte 100 % anonymisering.

Ärligt talat: kommandokanalen (Telegram) är en extern tjänst, så meddelanden och röstmeddelanden passerar Telegrams servrar. Dokument, kunskapsbas och AI-bearbetning stannar lokalt.

Källor

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. AWS — US-EAST-1 service disruption summary (Oct 2025)
  15. Cloudflare — outage on 18 November 2025
  16. The Register — unauthorized API usage bills (2026)
  17. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  18. Codice penale, art. 623 — Normattiva

Allmän information, inte juridisk rådgivning. Ett lokalt system hjälper till att minska riskerna; ansvaret för regelefterlevnaden ligger kvar hos företaget.

Varför molnet är farligt

Att ge en molnagent nycklarna till infrastrukturen öppnar dörren till de mest värdefulla uppgifterna

Varje API-nyckel, OAuth-token eller tunnel som ges till en molnagent är ytterligare en dörr för en angripare. Stulna inloggningsuppgifter är den vanligaste vägen in; en enda komprometterad integration ledde till datastöld hos många företag; promptinjektion kan läcka data utan klick; infekterade paket använder redan AI-agenter för att leta efter hemligheter. En molnagent med åtkomst till era maskiner och nycklar är en läckpunkt och en väg in i det lokala systemet, där all eller den känsligaste datan finns. CLARYEL:s lokala arkitektur minskar externa åtkomstpunkter och ber en människa bekräfta riskfyllda åtgärder, i linje med OWASP och NIS2:s krav på leverantörskedjan.1–7

Källor

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

Allmän information, inte juridisk rådgivning. Ett lokalt system hjälper till att minska riskerna; ansvaret för regelefterlevnaden ligger kvar hos företaget.

Varför molnet är farligt

Justering av hårdvara och modeller stannar internt: ingen molnagent nära era maskiner

Mätningarna på den här sidan gjordes av CLARYEL-agenten på våra egna maskiner, utan att ge någon molntjänst åtkomst till dem. Stulna inloggningsuppgifter och exponerade agentpaneler visar varför: den som har nycklarna har systemet. Den lokala hastigheten beror på hårdvaran och är på små konfigurationer lägre än i molnet; i gengäld begränsas arbetsvolymen inte av tariffer, kvoter eller en tokenfaktura.1,2

Källor

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

Allmän information, inte juridisk rådgivning. Ett lokalt system hjälper till att minska riskerna; ansvaret för regelefterlevnaden ligger kvar hos företaget.