CLARYEL CLARYEL Box
Anmod om konfiguration

CLARYEL · Rigtig brug

Vi bruger det hver dag

Her er rigtigt arbejde for vores virksomhed, udført af CLARYEL-agenten: bogføring, opsætning af maskiner, infrastruktur. Rigtige data og systemets rigtige svar.

CLARYEL arbejder hver dag med sit eget system.

Data forbliver lokalt, inde i CLARYEL Box.

Sådan virker det

  1. Vi giver opgaven med enkle ord: med stemmen eller i en besked
  2. CLARYEL-agenten sætter sig selv ind i sagen og gør hele arbejdet
  3. Vi får resultatet og en rapport, ofte mere end vi bad om

Fra os: kun opgaven og godkendelse af vigtige handlinger.

Business

Virksomhedens daglige opgaver, som vi klarer med stemmen via systemet.

Bogføring

Fakturakontrol: FAKE og dubletter

Vi spurgte, hvor meget vi havde brugt på IT på et år. Systemet fandt selv FAKE-fakturaer og dubletter, fjernede dem efter vores godkendelse og rettede sit eget tal.

  1. Spørgsmålet
  2. Rettelsen
  3. Rettet resultat
Hvad skærmbilledet viser

Spørgsmålet: hvor meget vi brugte på IT det seneste år. CLARYEL-agenten svarer: omkring €54.691, og påpeger selv, at der blandt dokumenterne er FAKE-fakturaer og dubletter.

Hvad skærmbilledet viser

Vi beder om at fjerne FAKE-data og dubletter. Agenten finder 64 FAKE-fakturaer, beder om vores godkendelse før den tvungne sletning, rydder derefter op i data og kontrollerer resultatet.

Hvad skærmbilledet viser

Kontrolleret slutstatus: 188 gyldige fakturaer på €38.627,70. Agenten retter selv sit tidligere svar: IT-udgifterne det seneste år var €36.993,58.

Skærmbillederne er på originalsproget; under hvert er der et resumé.

Før → efter (fra skærmbillede 1–3)

  • 64 FAKE-fakturaer fjernet
  • 188 gyldige fakturaer · €38.627,70
  • IT, seneste år: ≈€54.691 → €36.993,58

Alt er ægte: et ægte system, ægte dokumenter, ægte beløb. Direkte fra vores daglige brug: dokumenter indsamlet fra Amazon-kontoen, flere e-mailindbakker, Google Drive og vores systems fysiske arkiv.

Oprindeligt opslag på X

Bogføring

Bogføring nøglefærdigt: fra ny computer til skattemyndighederne

Hele processen: opsætte en computer fra bunden, installere Ubuntu, de nødvendige programmer, Odoo og NextERP, hente fakturaer fra Amazon Business og indsende dem til Agenzia delle Entrate. Opgaverne gives med stemmen fra telefonen; kun resultatet kontrolleres.

Hvad skærmbilledet viser

En illustration til opslaget, ikke et skærmbillede: syv trin (ny computer, Ubuntu 24.04, Docker/Python/Git og andre programmer, Odoo, NextERP, fakturaer fra Amazon Business, indsendelse til Agenzia delle Entrate) og nederst en stemmeopgave fra telefonen.

En illustration til opslaget, ikke et skærmbillede.

Oprindeligt opslag på X

ERP

Et ERP, hvis brugerflade vi aldrig har åbnet

Én forretningsproces kører allerede helt via agenten: fakturaer og transportdokumenter fra e-mail, Google Drive og Amazon Business → ERP og bogføring → skattesystem → samlede rapporter → afstemning med kontoudtog.

Hvad skærmbilledet viser

En illustration til opslaget, ikke et skærmbillede: til venstre et menneske mellem bjerge af vinduer og indstillinger, til højre en stemmeopgave til agenten, der selv arbejder med programmerne og leverer et færdigt resultat.

En illustration til opslaget, ikke et skærmbillede.

Oprindeligt opslag på X

Opsætning og infrastruktur

Sådan sætter CLARYEL-agenten selv vores maskiner op og vedligeholder dem: hardware, køling, AI-modeller, hastighed.

Køling

Styring af GPU-blæseren

Vi bad med enkle ord: GPU-blæseren skal følge grafikkortets temperatur, og indstillingerne skal overleve en genstart. CLARYEL-agenten fandt selv ud af, hvad der skulle styres, kørte blæseren på fuld fart i et minut, indstillede kurven og bekræftede det hele med en rigtig genstart, på cirka 30 minutter.

  1. Anmodningalmindelig tekst, ingen kommandoer
  2. AfdækningZ10PA-U8 · Tesla P100 · NCT7904D
  3. Et minut på fuld fart1468 → 5294–5421 RPM på 5 s · GPU 37 → 31 °C
  4. Kurve≤35 °C 35% → ≥85 °C 100%
  5. Genstart1319 RPM, 35 °C: alt startede af sig selv
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
Kurve: GPU-temperatur → blæserhastighed~78 %: nøddrift, hvis temperaturføleren holder op med at svareBlødt: højst ±15 % pr. 5 s

Ud over opgaven

  • Gemte fremgangsmåden som en færdighed til de næste maskiner.
  • Forklarede ærligt, hvad konklusionen om, at fan5 er GPU-blæseren, bygger på.
  • Omdøbte i samme session også maskinen til P1005, som vi havde bedt om tidligere.
  • Fra os: én kommando til administratorrettigheder, svaret «Ready» og én bekræftelse undervejs.
  • ≈ 30 minutter (06:26–06:57 ifølge skærmbillederne)
Hvad skærmbilledet viser

Vores anmodning (06:26) i almindelig tekst. Agenten begynder straks afdækningen uden administratorrettigheder: bundkort Z10PA-U8, GPU Tesla P100; endnu ingen grænseflade til blæserstyring; GPU-temperaturen læsbar: 39 °C.

Hvad skærmbilledet viser

Agenten beder os køre en kommando én gang, som giver den administratorrettigheder på P1005 (kan tilbagekaldes når som helst), og fremlægger planen: finde chippen, der styrer blæseren, en lille tjeneste baseret på GPU-temperaturen, et minut på fuld fart kontrolleret med omdrejningsmåleren. Maskinens adresse er skjult.

Hvad skærmbilledet viser

Slutningen af planen: tjeneste med autostart, omdøbning af værtsnavnet til P1005; hvis styring viser sig umulig, siger agenten det ærligt. Vores svar «Ready» (06:29), derefter forløbet: styringstjenesten, én bekræftelse (06:43), «alt overlevede genstarten» (06:49) og starten på rapporten.

Hvad skærmbilledet viser

Rapport, punkt 1–3: chippen Nuvoton NCT7904D, kortlægningen af kanaler (pwm2 → fan5, op til ~5300 RPM: P100'ens blæser), et minut på fuld fart (1468 → 5294–5421 RPM på 5 s, GPU 37 → 31 °C) og den fungerende kurve.

Hvad skærmbilledet viser

Rapport, punkt 4 og opsummering: autostart af driver og tjeneste, rigtig genstart (fan5 på 1319 RPM, GPU 35 °C, Strata startede af sig selv, port 8080 lytter), værtsnavnet P1005, en ærlig bemærkning om, hvordan GPU-blæseren blev identificeret, og fremgangsmåden gemt som en færdighed.

Skærmbillederne er på originalsproget; under hvert er der et resumé.

Oprindeligt opslag på X

Opsætning

Teknisk spørgsmål, med stemmen

En praktisk opgave: i en talebesked spurgte vi, hvordan systemet er opbygget. Det svarede med reelle data fra vores maskiner: hardware, diske, AI-model og hastighed. Er et punkt uklart, spørger man bare med det samme, hvad det betyder.

Hvad skærmbilledet viser

Svaret på stemmespørgsmålet om opsætningen: to maskiner, claryel01 og P2002, med processor, hukommelse, GPU, diske, softwareversioner, AI-model og målt hastighed (~44–48 tok/s). Nederst linjen om reservemodellen (Cloud fallback: xAI Grok 4.7).

I denne opgave var reservemodellen ekstern (Grok) og uden filter. For vores lokale system er det ikke acceptabelt, så reservemodellen blev erstattet af en anden lokal model. I dag kaldes cloudmodeller kun gennem filteret og, når det er nødvendigt, efter brugerens udtrykkelige bekræftelse.

Maskinparken

Tre maskiner, én agent

Vi bad om en kort profil af alle vores maskiner med Strata. CLARYEL-agenten kontrollerede selv netværket, fandt tre maskiner og samlede for hver hukommelse, disk, GPU, Strata- og modelversioner samt hastighed. Alle tre styres af én og samme agent.

genereringshastighed

  • P2002hovedmaskine62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studiohurtigst256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005til baggrundsopgaver31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

På alle tre: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · kontekst 262 144

Hvad skærmbilledet viser

Vores anmodning (07:47) og starten på svaret: netværket kontrolleret, der er tre maskiner. Den første er P2002: 62 GiB DDR5, Lexar NM1090 PRO 2 TB, AMD RDNA4 med 16 GiB, Strata v0.1.45, Qwen3.8-Flash-Next IQ3_S, 46.8 tok/s. Adressen er skjult.

Hvad skærmbilledet viser

Mac Studio: 256 GB LPDDR5X (M3 Ultra), SSD 2 TB, 60.0 tok/s, hurtigst. P1005: 31 GiB DDR4, Tesla P100 16 GB, 16.2 tok/s, til baggrundsopgaver. Opsummering: én agent på claryel01 styrer alle tre, samme model overalt; reserve P2002 → Mac Studio → Grok. Adresserne er skjult.

I denne opgave var reservemodellen ekstern (Grok) og uden filter. For vores lokale system er det ikke acceptabelt, så reservemodellen blev erstattet af en anden lokal model. I dag kaldes cloudmodeller kun gennem filteret og, når det er nødvendigt, efter brugerens udtrykkelige bekræftelse.

Oprindeligt opslag på X

Installation

Strata på en ny maskine: agenten klarede selv alle faldgruber

Vi spurgte, hvilke vanskeligheder der opstod, da Strata v0.1.45 skulle køre på en Mac Studio (M3 Ultra, 256 GB). CLARYEL-agenten byggede selv motoren fra kildekode, fandt og anvendte en rettelse, flyttede modellen på 79 GB og omgik en motorfejl.

Hvad skærmbilledet viser

Vores spørgsmål (05:16) om vanskelighederne med Strata på Mac Studio. Svaret, punkt 1–3: ingen færdig Mac-build, det ødelagte 0.1.45-build og rettelsen fra PR #2895, begyndelsen på fortællingen om flytningen af modellen på 79 GB.

Hvad skærmbilledet viser

Punkt 3–6: flytning af modellen (Starlink ~6,5 MB/s, netværk ~11 MB/s, rsync fra P2002 på 2 t 05 min), en fejl med store/små bogstaver i modelnavnet, motorfejlen “hver forespørgsel 400” og løsningen --no-prefill-borrow, forveksling med en gammel proces på port 8080.

Hvad skærmbilledet viser

Punkt 6–7 og resultat: “hængningen” ved første start (~10 minutter til at læse 55 GB fra disken), Mac ≈ P2002 ved generering (~58 mod ~57 tok/s), prefill +36 %, alt gemt i færdigheden strata-mac-deploy.

Skærmbillederne er på originalsproget; under hvert er der et resumé.

Oprindeligt opslag på X

Opdatering

Agenten opdaterede motoren i sin egen “hjerne”

I Telegram bad vi CLARYEL-agenten om at opdatere Strata på P2002, maskinen den selv kører på. Agenten startede opdateringen med et sikkerhedsnet, rettede selv en fejl i sidste trin og sammenlignede ærligt hastigheden før og efter.

Hvad skærmbilledet viser

Versionsspørgsmålet (04:30), svaret (v0.1.43.1 på P2002, v0.1.45 på GitHub) og kommandoen “opdater dig selv” (04:31). Agenten beskriver planen: opdatering adskilt fra sig selv og en vagt med automatisk tilbagerulning til 0.1.43.1.

Hvad skærmbilledet viser

Linjen om skiftet til reservemodellen (grok-4.7) kl. 04:46; rapporten: kode på v0.1.45, motor bygget (34 MB, 0 fejl), filudskiftningen mislykkedes (“Text file busy”), agenten retter selv. Nedenunder: noten om opdateringen af færdigheden og vores spørgsmål om den aktuelle version (04:50).

Hvad skærmbilledet viser

Svaret: P2002 kører Strata v0.1.45, den gamle 0.1.43.1 er gemt som reserve, model Qwen3.8-Flash-Next IQ3_S, kontekst 262.144; hastighedsmålinger før og efter opdateringen.

Hvad skærmbilledet viser

Agentens vurdering: prefill klart forbedret (op til +80 % i én måling), generering ~10–20 % lavere i to nye målinger; agenten foreslår 3–4 kørsler mere og tilbagerulning, hvis opbremsningen bekræftes.

Skærmbillederne er på originalsproget; under hvert er der et resumé.

I denne opgave var reservemodellen ekstern (Grok) og uden filter. For vores lokale system er det ikke acceptabelt, så reservemodellen blev erstattet af en anden lokal model. I dag kaldes cloudmodeller kun gennem filteret og, når det er nødvendigt, efter brugerens udtrykkelige bekræftelse.

Oprindeligt opslag på X

Overvågning

Morgentjek af hjemmet og computerne

Om morgenen tjekker CLARYEL-agenten selv sensorerne i Home Assistant-smarthjemmet, sikkerhedskopierne, diskenes tilstand og temperaturen på de tilsluttede computere, og melder kun det, der kræver opmærksomhed.

Hvad skærmbilledet viser

En illustration til opslaget, ikke et skærmbillede: resultatet af morgentjekket — rummet med computerne på 28,8 °C, sensorbatterier på 20 % (kontor) og 30 % (terrasse), dørsensoren “Leo” i tilstanden ON, som bør tjekkes.

Hvad skærmbilledet viser

En illustration til opslaget, ikke et skærmbillede: kæden Strata v0.1.43 → Qwen3.8-Flash-Next (IQ3_S) → agent → Home Assistant-sensorer, sikkerhedskopier, diske, computernes temperatur; nederst hjælpeværktøjerne (Telegram, ChatGPT, ChatGPT Go + Codex, Grok 4.7).

En illustration til opslaget, ikke et skærmbillede.

I denne opgave var reservemodellen ekstern (Grok) og uden filter. For vores lokale system er det ikke acceptabelt, så reservemodellen blev erstattet af en anden lokal model. I dag kaldes cloudmodeller kun gennem filteret og, når det er nødvendigt, efter brugerens udtrykkelige bekræftelse.

Oprindeligt opslag på X

Hardware og modelhastighed

Hvordan den samme model kører på forskellig hardware, fra et gammelt Tesla P100 til et nyt Radeon. Tallene kommer kun fra skærmene.

Modelhastighed

31 tok/s med næsten ledig RAM: modellen læses fra SSD’en

Strata v0.1.41, Qwen3.8-Flash-Next IQ3_XXS, et Radeon på 16 GB og 31 GB RAM. Et svar på 12.136 tokens med 31 tok/s, mens kun 3,2 GB RAM er i brug.

Hvad skærmbilledet viser

Strata-monitor: generering 31,0 tok/s, prefill 43 tok/s, VRAM 15,7/16 GB, GPU 45 °C, konteksten fyldt 19 % (12k af 64k), én forespørgsel: 12.136 tokens på 396,3 s; RAM 3,2/31 GB.

Hvad skærmbilledet viser

Model og motor: qwen3.8-flash-next-iq3_xxs, v0.1.41, kontekst 65.536 tokens, 8-bit KV-cache i VRAM, 5.681 eksperter i VRAM (9,2 GB). Computer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 tråde), 31 GB RAM.

Hvad skærmbilledet viser

Valgte Strata-indstillinger: Qwen3.8-Flash-Next, IQ3_XXS, kontekst 64K, 8-bit KV-cache, billeder slået fra, low-RAM-tilstand (31 GB RAM, eksperter delvist læst fra SSD), AMD Radeon RX 9070 (~16 GB VRAM); modelfil ~47 GB.

Skærmbillederne er på originalsproget; under hvert er der et resumé.

Oprindeligt opslag på X

Modelhastighed

256K-kontekst: 26 forespørgsler på ét grafikkort på 16 GB

Vi kørte Strata v0.1.41 med Qwen3.8-Flash-Next IQ3_S på en kontekst på 262.144 tokens. Svar på op til 14.829 tokens, med 3,3 af 31 GB RAM i brug: modellen arbejder næsten kun i videohukommelsen.

Hvad skærmbilledet viser

Et billede fra videoen: modellen skriver et langt teknisk svar om, hvordan Mixture-of-Experts-modeller fungerer (routing af eksperter, KV-cache, hukommelseshierarki). Hele videoen ligger i det oprindelige opslag.

Hvad skærmbilledet viser

Strata-monitor: generering for seneste forespørgsel 14,8 tok/s, prefill 112 tok/s, VRAM 15,8/16 GB, kontekst 62 % (162k/256k), RAM 3,3/31 GB; i forespørgselstabellen generering fra 13,0 til 19,6 tok/s og svar på op til 14.829 tokens; i alt 26 forespørgsler.

Hvad skærmbilledet viser

Model og motor: qwen3.8-flash-next-iq3_s, v0.1.41, kontekst 262.144 tokens, 8-bit KV-cache i VRAM, 3.114 eksperter i VRAM (6,0 GB). Computer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 tråde), 31 GB RAM.

Skærmbillederne er på originalsproget; under hvert er der et resumé.

Videoen ligger i det oprindelige opslag; her er et billede fra den.

Oprindeligt opslag på X

Modelhastighed

Mere RAM: 45 tok/s på en kontekst på 164.000 tokens

Den samme maskine med mere RAM (62 GB i systemet). Strata v0.1.43 med Qwen3.8-Flash-Next IQ3_S: generering med 45,2 tok/s med konteksten fyldt 63 %.

Hvad skærmbilledet viser

Strata-monitor: generering 45,2 tok/s, prefill 94 tok/s, VRAM 15,9/16 GB, GPU 44 °C, kontekst 63 % (164k/256k), RAM 53,5/62 GB; to forespørgsler på ca. 162.000 tokens, prefill 1.176 tok/s, generering 48,3 og 45,2 tok/s.

Hvad skærmbilledet viser

Model og motor: qwen3.8-flash-next-iq3_s, v0.1.43, kontekst 262.144 tokens, 8-bit KV-cache i VRAM, 3.114 eksperter i VRAM (6,0 GB). Computer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 tråde), 62 GB RAM.

Skærmbillederne er på originalsproget; under hvert er der et resumé.

Oprindeligt opslag på X

Modelhastighed

En gammel Xeon og et Tesla P100: 19–27 tok/s

Den mest beskedne konfiguration: Intel Xeon E5-2690 v4, 31 GB RAM og et Tesla P100 på 16 GB. Strata v0.1.45 med Qwen3.8-Flash-Next IQ3_S giver 19–27 tok/s, mens kun 2,2 GB RAM er i brug.

Hvad skærmbilledet viser

Strata-monitor og htop: generering 26,9 tok/s, belastning Tesla P100 100 %, VRAM 15,7/16 GB, 97 W, PCIe Gen3 x16, CPU 45 %, disklæsning 164 MB/s, RAM 2,2/31 GB; forespørgsler: 19,3 tok/s (253 tokens) og 25,3 tok/s (12.686 tokens på 504,1 s).

Hvad skærmbilledet viser

Model og motor: qwen3.8-flash-next-iq3_s, v0.1.45, kontekst 262.144 tokens, 8-bit KV-cache i VRAM, 3.051 eksperter i VRAM (5,8 GB). Computer: Tesla P100 16 GB, Intel Xeon E5-2690 v4 (28 tråde), 31 GB RAM.

Skærmbillederne er på originalsproget; under hvert er der et resumé.

Oprindeligt opslag på X

Bogføring

Fakturakontrol: FAKE og dubletter

Et rigtigt scenarie fra vores ERP, i tre trin.

  1. Spørgsmålet

    Vi spørger, hvor meget vi har brugt på IT det seneste år. Systemet svarer (≈ €54.691) og påpeger selv FAKE-fakturaer og dubletter.

  2. Rettelsen

    Vi beder det fjerne FAKE-data og dubletterne. Før den tvungne sletning beder det om vores godkendelse, derefter rydder det op og kontrollerer.

  3. Rettet resultat

    188 gyldige fakturaer for €38.627,70. Rettet beløb: €36.993,58: systemet retter selv sit eget tidligere svar og bekræfter sluttilstanden.

Før → efter (fra skærmbillede 1–3)

  • 64 FAKE-fakturaer fjernet
  • 188 gyldige fakturaer · €38.627,70
  • IT, seneste år: ≈€54.691 → €36.993,58

Et virkeligt scenarie fra vores ERP: adspurgt om IT-udgifterne finder systemet selv FAKE-fakturaer og dubletter, fjerner dem efter vores godkendelse, kontrollerer resultatet og retter sit eget tidligere beløb.

Det er sikkert at slette dokumenter: data sikkerhedskopieres, der er en ændringshistorik med mulighed for at rulle tilbage og en løbende afstemning, for eksempel med kontoudtog.

Køling

Styring af GPU-blæseren

Opgaven, på skærmbillede 1: GPU-blæseren er sluttet til bundkortet; den skal følge GPU-temperaturen, køre et minut på fuld fart for at bekræfte, at styringen virker, derefter få optimale niveauer, og efter genstart skal alt virke automatisk.

  1. Anmodning

    En almindelig besked i Telegram, uden tekniske kommandoer.

  2. Afdækning

    Først, uden administratorrettigheder, fastslog agenten: bundkort Z10PA-U8, GPU Tesla P100, GPU-temperaturen læsbar (39 °C), men endnu intet at styre blæseren med. Den bad om administratorrettigheder med en enkelt kommando og fremlagde planen. Med adgang fandt den chippen Nuvoton NCT7904D (9 omdrejningsindgange, 4 PWM-kanaler) og ved at køre hver kanal fra 0 til 255 kortlagde den: pwm2 → fan5, op til ~5300 RPM, altså P100'ens blæser. De andre tre kanaler blev på BIOS-automatik.

  3. Et minut på fuld fart

    pwm2 = 255 i 60 sekunder: på 5 sekunder steg fan5 fra 1468 til 5294–5421 RPM, og GPU'en kølede ned fra 37 til 31 °C. Derefter vendte styringen tilbage til kurven (255 → 195 → 90); omdrejningsmålerens værdier bekræfter, at den virker.

  4. Kurve

    ≤35 °C → 35 %, 45 °C → 47 %, 60 °C → 67 %, 75 °C → 86 %, ≥85 °C → 100 % (P100 sænker frekvensen ved 91 °C, så der er margin). Hastigheden ændres blødt, højst ±15 % pr. 5 sekunder; hvis nvidia-smi holder op med at svare, går blæseren i nøddrift ~78 %.

  5. Genstart

    Driveren indlæses automatisk, og styringen kører som en tjeneste med autostart. Agenten genstartede maskinen for alvor og kontrollerede alt fra bunden: modul indlæst, tjeneste aktiv, fan5 på 1319 RPM, GPU 35 °C.

Ud over opgaven

  • Gemte fremgangsmåden som en færdighed til de næste maskiner.
  • Forklarede ærligt, hvad konklusionen om, at fan5 er GPU-blæseren, bygger på.
  • Omdøbte i samme session også maskinen til P1005, som vi havde bedt om tidligere.
  • Fra os: én kommando til administratorrettigheder, svaret «Ready» og én bekræftelse undervejs.
  • ≈ 30 minutter (06:26–06:57 ifølge skærmbillederne)

Opsætning

Teknisk spørgsmål, med stemmen

En praktisk opgave: i en talebesked spurgte vi, hvordan systemet er opbygget. Det svarede med reelle data fra vores maskiner: hardware, diske, AI-model og hastighed. Er et punkt uklart, spørger man bare med det samme, hvad det betyder.

Hvad svaret viser: to maskiner, claryel01 og P2002; processor, hukommelse, GPU og diske; softwareversioner; AI-model; målt hastighed.

I denne opgave var reservemodellen ekstern (Grok) og uden filter. For vores lokale system er det ikke acceptabelt, så reservemodellen blev erstattet af en anden lokal model. I dag kaldes cloudmodeller kun gennem filteret og, når det er nødvendigt, efter brugerens udtrykkelige bekræftelse.

Er et teknisk begreb uklart? Spørg systemet med det samme, direkte i dialogen: det forklarer det med enkle ord.

Maskinparken

Tre maskiner, én agent

Anmodningen, på skærmbillede 1 (07:47): for hver maskine med Strata hukommelsens størrelse og type, NVMe, GPU og videohukommelse, Strata-version, model, agentversion og modellens hastighed på den maskine; svaret kort og på engelsk.

Agenten scannede selv netværket og bekræftede, at der er tre maskiner (de øvrige adresser er en printer og Mac'ens Wi-Fi-port). Alle tre kører Strata v0.1.45 med samme model Qwen3.8-Flash-Next IQ3_S (kontekst 262 144), så svarene er ensartede, uanset hvilken maskine der svarer.

genereringshastighed

  • P2002hovedmaskine62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studiohurtigst256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005til baggrundsopgaver31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

På alle tre: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · kontekst 262 144

Genereringshastighed: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (hurtigst), P1005 16.2 tok/s: en model på 78 GB med 31 GB hukommelse, derfor tager den maskine baggrundsopgaver. Alle tre styres af én agentinstans på claryel01; reserven går i kæden P2002 → Mac Studio → Grok.

I denne opgave var reservemodellen ekstern (Grok) og uden filter. For vores lokale system er det ikke acceptabelt, så reservemodellen blev erstattet af en anden lokal model. I dag kaldes cloudmodeller kun gennem filteret og, når det er nødvendigt, efter brugerens udtrykkelige bekræftelse.

Bogføring

Bogføring nøglefærdigt: fra ny computer til skattemyndighederne

Viktor har allerede gennemført denne proces med cloud-agenter, næsten uden at røre programmernes brugerflader: opgaver med stemmen, kontrol af resultatet. Nu flytter vi sådanne virkelige processer over på CLARYEL lokal AI.

Trin: ny computer fra bunden → Ubuntu og opsætning → nødvendige programmer → bogføring Odoo → ERP NextERP → import af fakturaer fra Amazon Business → indsendelse til Agenzia delle Entrate.

Første iagttagelse: lokalt tager sådanne opgaver endnu længere tid end i skyen. Først ser vi, hvad der virker uden tilpasning, og først derefter optimerer vi.

En illustration til opslaget, ikke et skærmbillede.

ERP

Et ERP, hvis brugerflade vi aldrig har åbnet

Vi lærer ikke knapper og menuer: vi beder agenten installere programmet og udføre de nødvendige funktioner, via API, MCP eller ved at betjene agentens egen computer. Vi har brug for resultatet, ikke brugerfladen.

Processen trin for trin: samle fakturaer og transportdokumenter fra e-mail, Google Drive og Amazon Business-kontoen; indføre dem i ERP og bogføring; sende dataene til skattesystemet; lave samlede rapporter; afstemme det hele med kontoudtogene, som også ligger på Google Drive.

Med indstillinger på samme måde: i stedet for at sætte os ind i hver enkelt siger vi til agenten “det skal virke sådan: gør det, kontrollér det og fortæl mig resultatet”. Vi giver opgaven og kontrollerer udfaldet. Det lykkes endnu ikke fuldt ud med alle programmer.

En illustration til opslaget, ikke et skærmbillede.

Installation

Strata på en ny maskine: agenten klarede selv alle faldgruber

Der findes ingen færdig Mac-build: Metal-motoren kompileres fra kildekode (~5–15 min). Mac-buildet af 0.1.45 viste sig at være i stykker; agenten fandt den åbne PR #2895, anvendte den på udgivelsen, og genopbygningen lykkedes.

Modellen på 79 GB: via HuggingFace over Starlink ville det have været ~6,5 MB/s (~3,4 t), så agenten kopierede den med rsync fra P2002 via videresendelse af SSH-agenten, på 2 t 05 min. Derefter returnerede hver forespørgsel til motoren 400; agenten fandt i kildekoden løsningen --no-prefill-borrow.

Resultat: Mac ≈ P2002 ved generering (~58 mod ~57 tok/s) og klart hurtigere ved prefill (+36 %). Agenten gemte alle faldgruber i færdigheden strata-mac-deploy, så en gentagelse er næsten en kopi.

Opdatering

Agenten opdaterede motoren i sin egen “hjerne”

Spørgsmål (04:30): hvilken Strata-version kører “hjernen”, og hvilken er den nyeste på GitHub? Svar: P2002 kører v0.1.43.1, den nyeste er v0.1.45 (udgivet 17. oktober 2026). Agenten advarede om, at opdateringen ville genstarte den motor, den selv kører på: et par minutters nedetid, med tilbagerulning som sikkerhedsnet.

På kommandoen “opdater dig selv” (04:31) startede agenten opdateringen adskilt fra sig selv: git pull → bygning af HIP-motoren 0.1.45 → genstart af tjenesten, mens en vagt tjekker motoren i 5 minutter og ruller tilbage til 0.1.43.1, hvis den ikke kommer op. Bygningen var ren (34 MB, 0 fejl), men udskiftningen af den kørende fil mislykkedes (“Text file busy”), og motoren stoppede. Agenten beholdt den gamle fil som reserve, installerede den nye manuelt og genstartede tjenesten.

Kontrol (04:50): v0.1.45 kører, model Qwen3.8-Flash-Next IQ3_S, kontekst 262.144. Hastighed med samme script: kort svar 31,0 (før 33,5–33,7), generering af 1024 tokens 47,7 / 44,4 (før 53,0–60,1), prefill 1,5K 874 / 531 (før 488–490). Agentens vurdering: prefill klart bedre, generering ~10–20 % lavere i to målinger; med kun to kørsler kalder den det ikke en regression og foreslår 3–4 målinger mere og tilbagerulning til 0.1.43.1, hvis opbremsningen bekræftes.

I denne opgave var reservemodellen ekstern (Grok) og uden filter. For vores lokale system er det ikke acceptabelt, så reservemodellen blev erstattet af en anden lokal model. I dag kaldes cloudmodeller kun gennem filteret og, når det er nødvendigt, efter brugerens udtrykkelige bekræftelse.

Overvågning

Morgentjek af hjemmet og computerne

Kombinationen på billedet: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + agenten. Agenten læser Home Assistant-sensorer (temperatur, luftfugtighed, bevægelse, lys, energi) og tjekker sikkerhedskopier, diske og computernes temperatur. Vi taler med den via Telegram.

Hvad tjekket fandt: i rummet med computerne er der 28,8 °C, mærkbart varmere end i andre rum, så ventilation og køling bør tjekkes; sensorbatterierne på kontoret (20 %) og på terrassen (30 %) skal skiftes; dørsensoren “Leo” viser ON, men værdien kan være forældet og bør tjekkes på stedet.

Viktor åbnede ikke engang Home Assistants brugerflade. Hjælpeværktøjer den dag: ChatGPT tegnede billedet til opslaget, ChatGPT Go + Codex hjalp med opsætningen, og agenten henvendte sig af og til til Grok 4.7 som ekstra model til kompleks ræsonnering.

I denne opgave var reservemodellen ekstern (Grok) og uden filter. For vores lokale system er det ikke acceptabelt, så reservemodellen blev erstattet af en anden lokal model. I dag kaldes cloudmodeller kun gennem filteret og, når det er nødvendigt, efter brugerens udtrykkelige bekræftelse.

En illustration til opslaget, ikke et skærmbillede.

Modelhastighed

31 tok/s med næsten ledig RAM: modellen læses fra SSD’en

Indstillinger: model Qwen3.8-Flash-Next IQ3_XXS (~47 GB), kontekst 64K (65.536 tokens), 8-bit KV-cache, low-RAM-tilstand: en del af modellens “eksperter” læses fra SSD’en. Grafikkort AMD Radeon RX 9070, ~16 GB.

Resultatet på Strata-monitoren: 12.136 tokens på 396,3 s, generering 31,0 tok/s, VRAM 15,7 af 16 GB, RAM 3,2 af 31 GB, GPU 45 °C. I videohukommelsen ligger 5.681 “eksperter” (9,2 GB); resten læses fra disken.

Konklusion: en stor model kører uden enorme mængder RAM, fordi motoren holder det vigtigste i videohukommelsen og læser resten fra en hurtig SSD. Det er en vej til markant billigere computere til lokal AI.

Modelhastighed

256K-kontekst: 26 forespørgsler på ét grafikkort på 16 GB

Målet var enkelt: at forstå, hvordan vi senere automatiserer sådanne kørsler på forskellig hardware, og hvordan resultaterne skal præsenteres til sammenligning. Maskine: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Status siden søndag morgen (09:44): 26 forespørgsler, 169.326 prompttokens læst med 108 tok/s (yderligere 1.923.247 hentet fra samtalecachen), 166.539 tokens skrevet med i snit 20,5 tok/s. Konteksten er fyldt 62 % (162k af 256k).

Ikke alt gik glat: listen viser én forespørgsel “Closed” og én “Stopped”. Videoen i det oprindelige opslag viser modellen skrive et langt teknisk svar; dér forklarer Viktor også, hvad der gik galt.

Modelhastighed

Mere RAM: 45 tok/s på en kontekst på 164.000 tokens

Computer: Intel Core Ultra 7 270K Plus (24 tråde), AMD Radeon 16 GB, 62 GB RAM, kontekst 262.144 tokens. Nu bruger motoren også RAM: 53,5 af 62 GB i brug.

To forespørgsler på ca. 162.000 tokens hver: den første blev læst med 1.176 tok/s, generering 48,3 tok/s; den anden kom næsten helt fra samtalecachen (162.199 tokens), generering 45,2 tok/s.

Afvejningen er klar: med mere RAM er genereringen mærkbart hurtigere, men der er mindre hukommelse tilbage til andre opgaver. Med 31 GB rørte motoren knap RAM, og computeren var fri til andet arbejde.

Modelhastighed

En gammel Xeon og et Tesla P100: 19–27 tok/s

Modellen kan ikke være i RAM og kører fra videohukommelsen (15,7 af 16 GB) og fra en NVMe-disk via PCIe 3.0. Processoren ligger på ca. 45 %, RAM er næsten ledig: computeren kan også bruges til andet arbejde.

På monitoren: generering nu 26,9 tok/s; i forespørgselshistorikken 19,3 tok/s på et kort svar (253 tokens) og 25,3 tok/s på et langt (12.686 tokens på 504,1 s). Grafikkortet på 36 °C, 97 W af 250.

For os er dette det vigtigste prispejlemærke: selv gammel, billig hardware med en korrekt indstillet motor er allerede egnet til rigtigt arbejde.

Hvorfor skyen er farlig

Alle virksomhedens dokumenter i en andens sky? Det er en risiko, ikke en bekvemmelighed

Når kontrakter, tilbud, e-mails og knowhow ender i en cloud-AI eller SaaS, bliver virksomheden afhængig af andres regler: leverandøren behandler data på sine egne servere, kan ændre vilkår for databrug, priser og grænser, og dens infrastruktur og underleverandører kan gå ned eller blive brudt ind i. CLOUD Act gælder for amerikanske leverandører, og retsgrundlaget for overførsler mellem EU og USA er igen sat under pres. Med CLARYEL bliver dokumenter og AI på kundens hardware: krypteret disk, backup, krypteret fjernadgang og en database, der kan slukkes når som helst. På basiskonfigurationer er det langsommere end skyen, men uden tokengrænser og uden overraskelser på regningen.1,3–5,7,9–15

For en italiensk virksomhed handler det også om forretningshemmeligheder: art. 98 i loven om industriel ejendomsret beskytter kun oplysninger, hvis de holdes hemmelige med „rimeligt passende foranstaltninger“. Videregivelse af forretningshemmeligheder straffes med fængsel i op til 2 år (art. 623 i den italienske straffelov), med skærpelse hvis der bruges it-midler.17,18

Hurtige eksterne modeller: kun gennem et filter

Når det er nødvendigt, kan CLARYEL-systemet kalde hurtige, førende eksterne modeller. Før afsendelse fjerner det personoplysninger og forretningshemmeligheder fra forespørgslen og bevarer samtidig dens mening. Når det er nødvendigt, viser det jer den filtrerede forespørgsel og sender den først til skyen efter jeres udtrykkelige bekræftelse.

Filteret hjælper med at mindske risici; det lover ikke 100 % anonymisering.

Ærligt talt: kommandokanalen (Telegram) er en ekstern tjeneste, så beskeder og talebeskeder går gennem Telegrams servere. Dokumenter, vidensbase og AI-behandling bliver lokalt.

Kilder

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. AWS — US-EAST-1 service disruption summary (Oct 2025)
  15. Cloudflare — outage on 18 November 2025
  16. The Register — unauthorized API usage bills (2026)
  17. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  18. Codice penale, art. 623 — Normattiva

Generel information, ikke juridisk rådgivning. Et lokalt system hjælper med at mindske risici; ansvaret for overholdelse af reglerne ligger stadig hos virksomheden.

Hvorfor skyen er farlig

At give en cloud-agent nøglerne til infrastrukturen åbner døren til de mest værdifulde data

Hver API-nøgle, OAuth-token eller tunnel, der gives til en cloud-agent, er endnu en dør for en angriber. Stjålne loginoplysninger er den hyppigste vej ind; én kompromitteret integration førte til datatyveri hos mange virksomheder; promptinjektion kan lække data uden klik; inficerede pakker bruger allerede AI-agenter til at lede efter hemmeligheder. En cloud-agent med adgang til jeres maskiner og nøgler er et lækpunkt og en vej ind i det lokale system, hvor alle eller de mest følsomme data ligger. CLARYEL’s lokale arkitektur reducerer eksterne adgangspunkter og beder et menneske bekræfte risikable handlinger, i tråd med OWASP og NIS2’s krav til forsyningskæden.1–7

Kilder

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

Generel information, ikke juridisk rådgivning. Et lokalt system hjælper med at mindske risici; ansvaret for overholdelse af reglerne ligger stadig hos virksomheden.

Hvorfor skyen er farlig

Tuning af hardware og modeller bliver internt: ingen cloud-agent i nærheden af jeres maskiner

Målingerne på denne side blev udført af CLARYEL-agenten på vores egne maskiner, uden at give en cloudtjeneste adgang til dem. Stjålne loginoplysninger og eksponerede agentpaneler viser hvorfor: den, der har nøglerne, har systemet. Den lokale hastighed afhænger af hardwaren og er på små konfigurationer lavere end i skyen; til gengæld begrænses arbejdsmængden ikke af takster, kvoter eller en tokenregning.1,2

Kilder

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

Generel information, ikke juridisk rådgivning. Et lokalt system hjælper med at mindske risici; ansvaret for overholdelse af reglerne ligger stadig hos virksomheden.