CLARYEL · Todellinen käyttö

Käytämme sitä joka päivä

Tässä on CLARYEL-agentin tekemää todellista työtä yrityksellemme: kirjanpitoa, koneiden määritystä, infrastruktuuria. Todellista dataa ja järjestelmän todellisia vastauksia.

CLARYEL työskentelee joka päivä omalla järjestelmällään.

Tiedot pysyvät paikallisesti, CLARYEL Boxin sisällä.

Näin se toimii

  1. Annamme tehtävän yksinkertaisin sanoin: äänellä tai viestillä
  2. CLARYEL-agentti selvittää asiat itse ja tekee koko työn
  3. Saamme tuloksen ja raportin, usein enemmän kuin pyysimme

Meiltä: vain tehtävä ja hyväksyntä tärkeille toimille.

Business

Yrityksen arkisia tehtäviä, jotka hoidamme äänellä järjestelmän kautta.

Kirjanpito

Laskujen tarkistus: FAKE ja kaksoiskappaleet

Kysyimme, paljonko käytimme vuodessa IT:hen. Järjestelmä löysi itse FAKE-laskut ja kaksoiskappaleet, poisti ne hyväksyntämme jälkeen ja korjasi oman lukunsa.

  1. Kysymys
  2. Korjaus
  3. Korjattu tulos
Mitä kuvakaappauksessa on

Kysymys: paljonko käytimme IT:hen viime vuonna. CLARYEL-agentti vastaa: noin €54.691, ja huomauttaa itse, että asiakirjojen joukossa on FAKE-laskuja ja kaksoiskappaleita.

Mitä kuvakaappauksessa on

Pyydämme poistamaan FAKE-tiedot ja kaksoiskappaleet. Agentti löytää 64 FAKE-laskua, pyytää hyväksyntämme ennen pakotettua poistoa, siivoaa sitten tiedot ja tarkistaa tuloksen.

Mitä kuvakaappauksessa on

Tarkistettu lopputilanne: 188 kelvollista laskua, yhteensä €38.627,70. Agentti korjaa itse aiemman vastauksensa: viime vuoden IT-kulut olivat €36.993,58.

Kuvakaappaukset ovat alkuperäisellä kielellä; jokaisen alla on tiivistelmä.

Ennen → jälkeen (kuvakaappauksista 1–3)

  • 64 FAKE-laskua poistettu
  • 188 kelvollista laskua · €38.627,70
  • IT, viime vuosi: ≈€54.691 → €36.993,58

Kaikki on todellista: todellinen järjestelmä, todelliset asiakirjat, todelliset summat. Suoraan päivittäisestä käytöstämme: asiakirjat on kerätty Amazon-tililtä, useista sähköpostilaatikoista, Google Drivesta ja järjestelmämme fyysisestä arkistosta.

Kirjanpito

Kirjanpito avaimet käteen: uudesta tietokoneesta verottajalle

Koko prosessi: tietokoneen asennus tyhjästä, Ubuntun, tarvittavien ohjelmien, Odoon ja NextERP:n asennus, laskujen haku Amazon Businessista ja niiden lähetys Agenzia delle Entratelle. Tehtävät annetaan puheella puhelimesta; vain tulos tarkistetaan.

Mitä kuvakaappauksessa on

Kuvitus julkaisuun, ei kuvakaappaus: seitsemän vaihetta (uusi tietokone, Ubuntu 24.04, Docker/Python/Git ja muut ohjelmat, Odoo, NextERP, Amazon Businessin laskut, lähetys Agenzia delle Entratelle) ja alhaalla puhetehtävä puhelimesta.

Kuvitus julkaisuun, ei kuvakaappaus.

ERP

ERP, jonka käyttöliittymää emme ole koskaan avanneet

Yksi liiketoimintaprosessi kulkee jo kokonaan agentin kautta: laskut ja kuljetusasiakirjat sähköpostista, Google Drivesta ja Amazon Businessista → ERP ja kirjanpito → verojärjestelmä → yhteenvetoraportit → täsmäytys tiliotteisiin.

Mitä kuvakaappauksessa on

Kuvitus julkaisuun, ei kuvakaappaus: vasemmalla ihminen ikkuna- ja asetusvuorten keskellä, oikealla puhetehtävä agentille, joka työskentelee itse ohjelmien kanssa ja toimittaa valmiin tuloksen.

Kuvitus julkaisuun, ei kuvakaappaus.

Määritys ja infrastruktuuri

Näin CLARYEL-agentti itse määrittää ja ylläpitää koneitamme: laitteisto, jäähdytys, tekoälymallit, nopeus.

Jäähdytys

GPU-tuulettimen ohjaus

Pyysimme yksinkertaisin sanoin: GPU-tuulettimen pitää seurata näytönohjaimen lämpötilaa, ja asetusten pitää säilyä uudelleenkäynnistyksessä. CLARYEL-agentti selvitti itse, mitä pitää ohjata, pyöritti tuuletinta minuutin täysillä, asetti käyrän ja vahvisti kaiken todellisella uudelleenkäynnistyksellä, noin 30 minuutissa.

  1. Pyyntötavallista tekstiä, ei komentoja
  2. SelvitysZ10PA-U8 · Tesla P100 · NCT7904D
  3. Minuutti täysillä1468 → 5294–5421 RPM 5 s:ssa · GPU 37 → 31 °C
  4. Käyrä≤35 °C 35% → ≥85 °C 100%
  5. Uudelleenkäynnistys1319 RPM, 35 °C: kaikki käynnistyi itsestään
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
Käyrä: GPU:n lämpötila → tuulettimen kierrokset~78 %: hätätila, jos lämpötila-anturi lakkaa vastaamastaPehmeästi: enintään ±15 % 5 s:n välein

Tehtävän lisäksi

  • Tallensi menettelyn taidoksi seuraavia koneita varten.
  • Selitti rehellisesti, mihin päätelmä fan5:n olevan GPU-tuuletin perustuu.
  • Nimesi samassa istunnossa koneen myös uudelleen P1005:ksi, kuten olimme aiemmin pyytäneet.
  • Meiltä: yksi komento ylläpitäjän oikeuksiin, vastaus «Ready» ja yksi vahvistus työn aikana.
  • ≈ 30 minuuttia (06:26–06:57 kuvakaappausten mukaan)
Mitä kuvakaappauksessa on

Pyyntömme (06:26) tavallisena tekstinä. Agentti aloittaa heti selvityksen ilman ylläpitäjän oikeuksia: emolevy Z10PA-U8, GPU Tesla P100; tuulettimen ohjausrajapintaa ei vielä ole; GPU:n lämpötila luettavissa: 39 °C.

Mitä kuvakaappauksessa on

Agentti pyytää meitä ajamaan kerran komennon, joka antaa sille ylläpitäjän oikeudet P1005:een (voidaan perua milloin tahansa), ja esittää suunnitelman: löytää tuuletinta ohjaava piiri, pieni palvelu GPU:n lämpötilan mukaan, minuutti täysillä kierroslukumittarilla tarkistettuna. Koneen osoite on peitetty.

Mitä kuvakaappauksessa on

Suunnitelman loppu: automaattisesti käynnistyvä palvelu, isäntänimen vaihto P1005:ksi; jos ohjaus osoittautuisi mahdottomaksi, agentti sanoo sen rehellisesti. Vastauksemme «Ready» (06:29), sitten eteneminen: ohjauspalvelu, yksi vahvistus (06:43), «kaikki selvisi uudelleenkäynnistyksestä» (06:49) ja raportin alku.

Mitä kuvakaappauksessa on

Raportti, kohdat 1–3: piiri Nuvoton NCT7904D, kanavien yhdistäminen (pwm2 → fan5, jopa ~5300 RPM: P100:n puhallin), minuutti täysillä (1468 → 5294–5421 RPM 5 s:ssa, GPU 37 → 31 °C) ja toimiva käyrä.

Mitä kuvakaappauksessa on

Raportti, kohta 4 ja yhteenveto: ajurin ja palvelun automaattinen käynnistys, todellinen uudelleenkäynnistys (fan5 1319 RPM, GPU 35 °C, Strata käynnistyi itsestään, portti 8080 kuuntelee), isäntänimi P1005, rehellinen huomautus siitä, miten GPU-tuuletin tunnistettiin, ja menettely tallennettuna taidoksi.

Kuvakaappaukset ovat alkuperäisellä kielellä; jokaisen alla on tiivistelmä.

Määritys

Tekninen kysymys, puheella

Käytännön tehtävä: kysyimme ääniviestillä, miten järjestelmä on rakennettu. Se vastasi koneidemme todellisilla tiedoilla: laitteisto, levyt, tekoälymalli ja nopeus. Jos jokin kohta on epäselvä, voi heti kysyä, mitä se tarkoittaa.

Mitä kuvakaappauksessa on

Vastaus äänikysymykseen kokoonpanosta: kaksi konetta, claryel01 ja P2002, prosessori, muisti, GPU, levyt, ohjelmistoversiot, tekoälymalli ja mitattu nopeus (~44–48 tok/s). Alimpana rivi varamallista (Cloud fallback: xAI Grok 4.7).

Tässä työssä varamalli oli ulkoinen (Grok) eikä siinä ollut suodatinta. Paikalliselle järjestelmällemme se ei ole hyväksyttävää, joten varamalli korvattiin toisella paikallisella mallilla. Nykyään pilvimalleja kutsutaan vain suodattimen kautta ja tarvittaessa käyttäjän nimenomaisen vahvistuksen jälkeen.

Konekanta

Kolme konetta, yksi agentti

Pyysimme lyhyen profiilin kaikista Strata-koneistamme. CLARYEL-agentti tarkisti itse verkon, löysi kolme konetta ja keräsi kustakin muistin, levyn, GPU:n, Strata- ja malliversiot sekä nopeuden. Kaikkia kolmea ohjaa yksi ja sama agentti.

generointinopeus

  • P2002pääkone62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studionopein256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005taustatehtäviin31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Kaikissa kolmessa: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · konteksti 262 144

Mitä kuvakaappauksessa on

Pyyntömme (07:47) ja vastauksen alku: verkko tarkistettu, koneita on kolme. Ensimmäinen on P2002: 62 GiB DDR5, Lexar NM1090 PRO 2 TB, AMD RDNA4 16 GiB:llä, Strata v0.1.45, Qwen3.8-Flash-Next IQ3_S, 46.8 tok/s. Osoite on peitetty.

Mitä kuvakaappauksessa on

Mac Studio: 256 GB LPDDR5X (M3 Ultra), 2 TB SSD, 60.0 tok/s, nopein. P1005: 31 GiB DDR4, Tesla P100 16 GB, 16.2 tok/s, taustatehtäviin. Yhteenveto: yksi agentti claryel01:ssä ohjaa kaikkia kolmea, sama malli kaikkialla; varajärjestelmä P2002 → Mac Studio → Grok. Osoitteet on peitetty.

Tässä työssä varamalli oli ulkoinen (Grok) eikä siinä ollut suodatinta. Paikalliselle järjestelmällemme se ei ole hyväksyttävää, joten varamalli korvattiin toisella paikallisella mallilla. Nykyään pilvimalleja kutsutaan vain suodattimen kautta ja tarvittaessa käyttäjän nimenomaisen vahvistuksen jälkeen.

Asennus

Strata uudelle koneelle: agentti selvitti itse kaikki sudenkuopat

Kysyimme, mitä vaikeuksia tuli vastaan, kun Strata v0.1.45 käynnistettiin Mac Studiossa (M3 Ultra, 256 Gt). CLARYEL-agentti käänsi moottorin itse lähdekoodista, löysi ja otti käyttöön korjauksen, siirsi 79 Gt:n mallin ja kiersi moottorin virheen.

Mitä kuvakaappauksessa on

Kysymyksemme (05:16) Strata-vaikeuksista Mac Studiossa. Vastaus, kohdat 1–3: ei valmista Mac-versiota, rikkinäinen 0.1.45-käännös ja korjaus PR:stä #2895, alku kertomukselle 79 Gt:n mallin siirrosta.

Mitä kuvakaappauksessa on

Kohdat 3–6: mallin siirto (Starlink ~6,5 Mt/s, verkko ~11 Mt/s, rsync P2002:lta 2 h 05 min), kirjainkokovirhe mallin nimessä, moottorin virhe ”jokainen pyyntö 400” ja kiertotie --no-prefill-borrow, sekaannus vanhan prosessin kanssa portissa 8080.

Mitä kuvakaappauksessa on

Kohdat 6–7 ja tulos: ”jumittuminen” ensimmäisessä käynnistyksessä (~10 minuuttia 55 Gt:n lukemiseen levyltä), Mac ≈ P2002 generoinnissa (~58 vs ~57 tok/s), prefill +36 %, kaikki tallennettu taitoon strata-mac-deploy.

Kuvakaappaukset ovat alkuperäisellä kielellä; jokaisen alla on tiivistelmä.

Päivitys

Agentti päivitti oman ”aivojensa” moottorin

Telegramissa pyysimme CLARYEL-agenttia päivittämään Stratan P2002:lla, koneella, jolla se itse toimii. Agentti käynnisti päivityksen turvaverkon kanssa, korjasi itse viimeisen vaiheen virheen ja vertasi rehellisesti nopeutta ennen ja jälkeen.

Mitä kuvakaappauksessa on

Versiokysymys (04:30), vastaus (v0.1.43.1 P2002:lla, v0.1.45 GitHubissa) ja komento ”päivitä itsesi” (04:31). Agentti kuvaa suunnitelman: päivitys erillään itsestään ja vahti, joka palauttaa automaattisesti version 0.1.43.1.

Mitä kuvakaappauksessa on

Rivi siirtymisestä varamalliin (grok-4.7) klo 04:46; raportti: koodi versiossa v0.1.45, moottori käännetty (34 Mt, 0 virhettä), tiedoston vaihto epäonnistui (”Text file busy”), agentti korjaa itse. Alla: merkintä taidon päivityksestä ja kysymyksemme nykyisestä versiosta (04:50).

Mitä kuvakaappauksessa on

Vastaus: P2002:lla toimii Strata v0.1.45, vanha 0.1.43.1 on tallessa varalla, malli Qwen3.8-Flash-Next IQ3_S, konteksti 262 144; nopeusmittaukset ennen ja jälkeen päivityksen.

Mitä kuvakaappauksessa on

Agentin arvio: prefill selvästi parantunut (jopa +80 % yhdessä mittauksessa), generointi ~10–20 % hitaampi kahdessa uudessa mittauksessa; agentti ehdottaa 3–4 lisäajoa ja palautusta, jos hidastuminen vahvistuu.

Kuvakaappaukset ovat alkuperäisellä kielellä; jokaisen alla on tiivistelmä.

Tässä työssä varamalli oli ulkoinen (Grok) eikä siinä ollut suodatinta. Paikalliselle järjestelmällemme se ei ole hyväksyttävää, joten varamalli korvattiin toisella paikallisella mallilla. Nykyään pilvimalleja kutsutaan vain suodattimen kautta ja tarvittaessa käyttäjän nimenomaisen vahvistuksen jälkeen.

Valvonta

Aamutarkistus kotiin ja tietokoneisiin

Aamulla CLARYEL-agentti tarkistaa itse Home Assistant -älykodin anturit, varmuuskopiot, levyjen kunnon ja liitettyjen tietokoneiden lämpötilan ja ilmoittaa vain siitä, mikä vaatii huomiota.

Mitä kuvakaappauksessa on

Kuvitus julkaisuun, ei kuvakaappaus: aamutarkistuksen tulos — tietokonehuone 28,8 °C, anturien paristot 20 % (toimisto) ja 30 % (terassi), oven ”Leo” anturi tilassa ON, joka kannattaa tarkistaa.

Mitä kuvakaappauksessa on

Kuvitus julkaisuun, ei kuvakaappaus: ketju Strata v0.1.43 → Qwen3.8-Flash-Next (IQ3_S) → agentti → Home Assistant -anturit, varmuuskopiot, levyt, tietokoneiden lämpötilat; alhaalla aputyökalut (Telegram, ChatGPT, ChatGPT Go + Codex, Grok 4.7).

Kuvitus julkaisuun, ei kuvakaappaus.

Tässä työssä varamalli oli ulkoinen (Grok) eikä siinä ollut suodatinta. Paikalliselle järjestelmällemme se ei ole hyväksyttävää, joten varamalli korvattiin toisella paikallisella mallilla. Nykyään pilvimalleja kutsutaan vain suodattimen kautta ja tarvittaessa käyttäjän nimenomaisen vahvistuksen jälkeen.

Laitteisto ja mallien nopeus

Miten sama malli toimii eri laitteistoilla vanhasta Tesla P100:sta uuteen Radeoniin. Luvut ovat vain näytöiltä.

Mallin nopeus

31 tok/s RAM lähes vapaana: malli luetaan SSD:ltä

Strata v0.1.41, Qwen3.8-Flash-Next IQ3_XXS, 16 Gt:n Radeon ja 31 Gt RAM-muistia. 12 136 tokenin vastaus nopeudella 31 tok/s, ja RAM-muistia on käytössä vain 3,2 Gt.

Mitä kuvakaappauksessa on

Strata-monitori: generointi 31,0 tok/s, prefill 43 tok/s, VRAM 15,7/16 Gt, GPU 45 °C, konteksti 19 % täynnä (12k/64k), yksi pyyntö: 12 136 tokenia 396,3 sekunnissa; RAM 3,2/31 Gt.

Mitä kuvakaappauksessa on

Malli ja moottori: qwen3.8-flash-next-iq3_xxs, v0.1.41, konteksti 65 536 tokenia, 8-bittinen KV-välimuisti VRAMissa, 5 681 asiantuntijaa VRAMissa (9,2 Gt). Tietokone: AMD Radeon 16 Gt, Intel Core Ultra 7 270K Plus (24 säiettä), 31 Gt RAM.

Mitä kuvakaappauksessa on

Valitut Strata-asetukset: Qwen3.8-Flash-Next, IQ3_XXS, konteksti 64K, 8-bittinen KV-välimuisti, kuvat pois, low-RAM-tila (31 Gt RAM, asiantuntijat osin SSD:ltä), AMD Radeon RX 9070 (~16 Gt VRAM); mallitiedosto ~47 Gt.

Kuvakaappaukset ovat alkuperäisellä kielellä; jokaisen alla on tiivistelmä.

Mallin nopeus

256K-konteksti: 26 pyyntöä yhdellä 16 Gt:n näytönohjaimella

Käynnistimme Strata v0.1.41:n Qwen3.8-Flash-Next IQ3_S -mallilla 262 144 tokenin kontekstissa. Vastauksia jopa 14 829 tokenia, RAM-muistia käytössä 3,3/31 Gt: malli toimii lähes kokonaan videomuistissa.

Mitä kuvakaappauksessa on

Kuva videolta: malli kirjoittaa pitkää teknistä vastausta siitä, miten Mixture-of-Experts-mallit toimivat (asiantuntijoiden reititys, KV-välimuisti, muistihierarkia). Koko video on alkuperäisessä julkaisussa.

Mitä kuvakaappauksessa on

Strata-monitori: viimeisen pyynnön generointi 14,8 tok/s, prefill 112 tok/s, VRAM 15,8/16 Gt, konteksti 62 % (162k/256k), RAM 3,3/31 Gt; pyyntötaulukossa generointi 13,0–19,6 tok/s ja vastauksia jopa 14 829 tokenia; yhteensä 26 pyyntöä.

Mitä kuvakaappauksessa on

Malli ja moottori: qwen3.8-flash-next-iq3_s, v0.1.41, konteksti 262 144 tokenia, 8-bittinen KV-välimuisti VRAMissa, 3 114 asiantuntijaa VRAMissa (6,0 Gt). Tietokone: AMD Radeon 16 Gt, Intel Core Ultra 7 270K Plus (24 säiettä), 31 Gt RAM.

Kuvakaappaukset ovat alkuperäisellä kielellä; jokaisen alla on tiivistelmä.

Video on alkuperäisessä julkaisussa; tässä kuva siitä.

Mallin nopeus

Enemmän RAM-muistia: 45 tok/s 164 000 tokenin kontekstissa

Sama kone suuremmalla RAM-muistilla (järjestelmässä 62 Gt). Strata v0.1.43 ja Qwen3.8-Flash-Next IQ3_S: generointi 45,2 tok/s kontekstin ollessa 63 % täynnä.

Mitä kuvakaappauksessa on

Strata-monitori: generointi 45,2 tok/s, prefill 94 tok/s, VRAM 15,9/16 Gt, GPU 44 °C, konteksti 63 % (164k/256k), RAM 53,5/62 Gt; kaksi noin 162 000 tokenin pyyntöä, prefill 1 176 tok/s, generointi 48,3 ja 45,2 tok/s.

Mitä kuvakaappauksessa on

Malli ja moottori: qwen3.8-flash-next-iq3_s, v0.1.43, konteksti 262 144 tokenia, 8-bittinen KV-välimuisti VRAMissa, 3 114 asiantuntijaa VRAMissa (6,0 Gt). Tietokone: AMD Radeon 16 Gt, Intel Core Ultra 7 270K Plus (24 säiettä), 62 Gt RAM.

Kuvakaappaukset ovat alkuperäisellä kielellä; jokaisen alla on tiivistelmä.

Mallin nopeus

Vanha Xeon ja Tesla P100: 19–27 tok/s

Vaatimattomin kokoonpano: Intel Xeon E5-2690 v4, 31 Gt RAM ja Tesla P100 16 Gt -näytönohjain. Strata v0.1.45 ja Qwen3.8-Flash-Next IQ3_S antavat 19–27 tok/s, ja RAM-muistia on käytössä vain 2,2 Gt.

Mitä kuvakaappauksessa on

Strata-monitori ja htop: generointi 26,9 tok/s, Tesla P100:n kuorma 100 %, VRAM 15,7/16 Gt, 97 W, PCIe Gen3 x16, CPU 45 %, levyn luku 164 Mt/s, RAM 2,2/31 Gt; pyynnöt: 19,3 tok/s (253 tokenia) ja 25,3 tok/s (12 686 tokenia 504,1 sekunnissa).

Mitä kuvakaappauksessa on

Malli ja moottori: qwen3.8-flash-next-iq3_s, v0.1.45, konteksti 262 144 tokenia, 8-bittinen KV-välimuisti VRAMissa, 3 051 asiantuntijaa VRAMissa (5,8 Gt). Tietokone: Tesla P100 16 Gt, Intel Xeon E5-2690 v4 (28 säiettä), 31 Gt RAM.

Kuvakaappaukset ovat alkuperäisellä kielellä; jokaisen alla on tiivistelmä.

Kirjanpito

Laskujen tarkistus: FAKE ja kaksoiskappaleet

Todellinen tapaus ERP-järjestelmästämme, kolmessa vaiheessa.

  1. Kysymys

    Kysymme, paljonko käytimme IT:hen viime vuonna. Järjestelmä vastaa (≈ €54.691) ja ilmoittaa itse FAKE-laskuista ja kaksoiskappaleista.

  2. Korjaus

    Pyydämme sitä poistamaan FAKE-tiedot ja kaksoiskappaleet. Ennen pakotettua poistoa se pyytää hyväksyntämme, sitten se siivoaa ja tarkistaa.

  3. Korjattu tulos

    188 voimassa olevaa laskua, yhteensä €38.627,70. Korjattu summa: €36.993,58: järjestelmä korjaa itse oman aiemman vastauksensa ja vahvistaa lopputilan.

Ennen → jälkeen (kuvakaappauksista 1–3)

  • 64 FAKE-laskua poistettu
  • 188 kelvollista laskua · €38.627,70
  • IT, viime vuosi: ≈€54.691 → €36.993,58

Todellinen skenaario ERP:stämme: kysyttäessä IT-kuluista järjestelmä löytää itse FAKE-laskut ja kaksoiskappaleet, poistaa ne hyväksyntämme jälkeen, tarkistaa tuloksen ja korjaa oman aiemman summansa.

Asiakirjojen poistaminen on turvallista: tiedot varmuuskopioidaan, muutoshistoria mahdollistaa palauttamisen ja täsmäytys tehdään jatkuvasti, esimerkiksi tiliotteita vasten.

Jäähdytys

GPU-tuulettimen ohjaus

Tehtävä, kuvakaappauksessa 1: GPU-tuuletin on kytketty emolevyyn; sen pitää seurata GPU:n lämpötilaa, käydä minuutti täysillä, jotta ohjauksen toimivuus vahvistuu, saada sitten optimaaliset tasot, ja uudelleenkäynnistyksen jälkeen kaiken pitää toimia automaattisesti.

  1. Pyyntö

    Tavallinen Telegram-viesti ilman teknisiä komentoja.

  2. Selvitys

    Ensin, ilman ylläpitäjän oikeuksia, agentti totesi: emolevy Z10PA-U8, GPU Tesla P100, GPU:n lämpötila luettavissa (39 °C), mutta tuuletinta ei vielä voi ohjata millään. Se pyysi ylläpitäjän oikeuksia yhdellä komennolla ja esitti suunnitelman. Pääsyn saatuaan se löysi piirin Nuvoton NCT7904D (9 kierroslukutuloa, 4 PWM-kanavaa) ja ajamalla jokaisen kanavan 0:sta 255:een se yhdisti: pwm2 → fan5, jopa ~5300 RPM, eli P100:n puhallin. Muut kolme kanavaa jäivät BIOSin automatiikalle.

  3. Minuutti täysillä

    pwm2 = 255 60 sekunnin ajan: 5 sekunnissa fan5 nousi 1468:sta 5294–5421 RPM:ään ja GPU jäähtyi 37:stä 31 °C:een. Sitten ohjaus palasi käyrälle (255 → 195 → 90); kierroslukumittarin lukemat vahvistavat toimivuuden.

  4. Käyrä

    ≤35 °C → 35 %, 45 °C → 47 %, 60 °C → 67 %, 75 °C → 86 %, ≥85 °C → 100 % (P100 laskee kellotaajuuksia 91 °C:ssa, joten marginaalia jää). Kierrokset muuttuvat pehmeästi, enintään ±15 % 5 sekunnin välein; jos nvidia-smi lakkaa vastaamasta, tuuletin siirtyy hätätilaan ~78 %.

  5. Uudelleenkäynnistys

    Ajuri latautuu automaattisesti, ja ohjaus toimii automaattisesti käynnistyvänä palveluna. Agentti todella käynnisti koneen uudelleen ja tarkisti kaiken alusta: moduuli ladattu, palvelu aktiivinen, fan5 1319 RPM, GPU 35 °C.

Tehtävän lisäksi

  • Tallensi menettelyn taidoksi seuraavia koneita varten.
  • Selitti rehellisesti, mihin päätelmä fan5:n olevan GPU-tuuletin perustuu.
  • Nimesi samassa istunnossa koneen myös uudelleen P1005:ksi, kuten olimme aiemmin pyytäneet.
  • Meiltä: yksi komento ylläpitäjän oikeuksiin, vastaus «Ready» ja yksi vahvistus työn aikana.
  • ≈ 30 minuuttia (06:26–06:57 kuvakaappausten mukaan)

Määritys

Tekninen kysymys, puheella

Käytännön tehtävä: kysyimme ääniviestillä, miten järjestelmä on rakennettu. Se vastasi koneidemme todellisilla tiedoilla: laitteisto, levyt, tekoälymalli ja nopeus. Jos jokin kohta on epäselvä, voi heti kysyä, mitä se tarkoittaa.

Mitä vastaus näyttää: kaksi konetta, claryel01 ja P2002; prosessori, muisti, GPU ja levyt; ohjelmistoversiot; tekoälymalli; mitattu nopeus.

Tässä työssä varamalli oli ulkoinen (Grok) eikä siinä ollut suodatinta. Paikalliselle järjestelmällemme se ei ole hyväksyttävää, joten varamalli korvattiin toisella paikallisella mallilla. Nykyään pilvimalleja kutsutaan vain suodattimen kautta ja tarvittaessa käyttäjän nimenomaisen vahvistuksen jälkeen.

Onko jokin tekninen termi epäselvä? Kysy järjestelmältä heti, suoraan keskustelussa: se selittää sen yksinkertaisin sanoin.

Konekanta

Kolme konetta, yksi agentti

Pyyntö, kuvakaappauksessa 1 (07:47): jokaisesta Strata-koneesta muistin koko ja tyyppi, NVMe, GPU ja videomuisti, Strata-versio, malli, agentin versio ja mallin nopeus kyseisellä koneella; vastaus lyhyesti ja englanniksi.

Agentti skannasi itse verkon ja vahvisti, että koneita on kolme (muut osoitteet ovat tulostin ja Macin Wi-Fi-portti). Kaikissa kolmessa on Strata v0.1.45 ja sama malli Qwen3.8-Flash-Next IQ3_S (konteksti 262 144), joten vastaukset ovat yhdenmukaisia riippumatta siitä, mikä kone vastaa.

generointinopeus

  • P2002pääkone62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studionopein256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005taustatehtäviin31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Kaikissa kolmessa: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · konteksti 262 144

Generointinopeus: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (nopein), P1005 16.2 tok/s: 78 Gt:n malli 31 Gt:n muistilla, siksi tämä kone hoitaa taustatehtävät. Kaikkia kolmea ohjaa yksi agentti-instanssi claryel01:ssä; varajärjestelmä kulkee ketjua P2002 → Mac Studio → Grok.

Tässä työssä varamalli oli ulkoinen (Grok) eikä siinä ollut suodatinta. Paikalliselle järjestelmällemme se ei ole hyväksyttävää, joten varamalli korvattiin toisella paikallisella mallilla. Nykyään pilvimalleja kutsutaan vain suodattimen kautta ja tarvittaessa käyttäjän nimenomaisen vahvistuksen jälkeen.

Kirjanpito

Kirjanpito avaimet käteen: uudesta tietokoneesta verottajalle

Viktor on jo käynyt tämän prosessin läpi pilviagenttien kanssa koskematta juuri ohjelmien käyttöliittymiin: tehtävät puheella, tuloksen tarkistus. Nyt siirrämme tällaisia todellisia prosesseja CLARYELin paikalliselle tekoälylle.

Vaiheet: uusi tietokone tyhjästä → Ubuntu ja asetukset → tarvittavat ohjelmat → kirjanpito Odoo → ERP NextERP → laskujen tuonti Amazon Businessista → lähetys Agenzia delle Entratelle.

Ensimmäinen havainto: paikallisesti tällaiset tehtävät vievät vielä enemmän aikaa kuin pilvessä. Katsomme ensin, mikä toimii sellaisenaan, ja vasta sitten optimoimme.

Kuvitus julkaisuun, ei kuvakaappaus.

ERP

ERP, jonka käyttöliittymää emme ole koskaan avanneet

Emme opettele painikkeita ja valikoita: pyydämme agenttia asentamaan ohjelman ja suorittamaan tarvittavat toiminnot API:n, MCP:n kautta tai käyttämällä agentin omaa tietokonetta. Tarvitsemme tuloksen, emme käyttöliittymää.

Prosessi vaihe vaiheelta: kerätä laskut ja kuljetusasiakirjat sähköpostista, Google Drivesta ja Amazon Business -tililtä; kirjata ne ERP:hen ja kirjanpitoon; välittää tiedot verojärjestelmään; laatia yhteenvetoraportit; täsmäyttää kaikki tiliotteisiin, jotka ovat myös Google Drivessa.

Asetusten kanssa samoin: sen sijaan että perehtyisimme jokaiseen, sanomme agentille ”tämän pitää toimia näin: tee se, tarkista ja kerro tulos”. Me annamme tehtävän ja tarkistamme lopputuloksen. Kaikkien ohjelmien kanssa tämä ei vielä onnistu täysin.

Kuvitus julkaisuun, ei kuvakaappaus.

Asennus

Strata uudelle koneelle: agentti selvitti itse kaikki sudenkuopat

Valmista Mac-versiota ei ole: Metal-moottori käännetään lähdekoodista (~5–15 min). Version 0.1.45 Mac-käännös osoittautui rikkinäiseksi; agentti löysi avoimen PR:n #2895, otti sen käyttöön julkaisuun, ja uusi käännös onnistui.

79 Gt:n malli: HuggingFacesta Starlinkin kautta nopeus olisi ollut ~6,5 Mt/s (~3,4 h), joten agentti kopioi sen rsyncillä P2002:lta SSH-agentin välityksellä, 2 h 05 min. Sen jälkeen jokainen pyyntö moottorille palautti 400; agentti löysi lähdekoodista kiertotien --no-prefill-borrow.

Tulos: Mac ≈ P2002 generoinnissa (~58 vs ~57 tok/s) ja selvästi nopeampi prefillissä (+36 %). Agentti tallensi kaikki sudenkuopat taitoon strata-mac-deploy, joten toisto on lähes kopiointia.

Päivitys

Agentti päivitti oman ”aivojensa” moottorin

Kysymys (04:30): mikä Strata-versio ”aivoilla” on ja mikä on uusin GitHubissa? Vastaus: P2002:lla on v0.1.43.1, uusin on v0.1.45 (julkaistu 17. lokakuuta 2026). Agentti varoitti, että päivitys käynnistää uudelleen moottorin, jolla se itse toimii: pari minuuttia katkosta, palautus turvana.

Komennolla ”päivitä itsesi” (04:31) agentti käynnisti päivityksen erillään itsestään: git pull → HIP-moottorin 0.1.45 käännös → palvelun uudelleenkäynnistys, ja vahti tarkkailee moottoria 5 minuuttia ja palaa versioon 0.1.43.1, jos se ei käynnisty. Käännös meni puhtaasti (34 Mt, 0 virhettä), mutta käynnissä olevan tiedoston vaihto epäonnistui (”Text file busy”) ja moottori pysähtyi. Agentti säilytti vanhan tiedoston varalla, asensi uuden käsin ja käynnisti palvelun uudelleen.

Tarkistus (04:50): v0.1.45 käynnissä, malli Qwen3.8-Flash-Next IQ3_S, konteksti 262 144. Nopeus samalla skriptillä: lyhyt vastaus 31,0 (ennen 33,5–33,7), 1024 tokenin generointi 47,7 / 44,4 (ennen 53,0–60,1), 1,5K prefill 874 / 531 (ennen 488–490). Agentin arvio: prefill selvästi parempi, generointi kahdessa mittauksessa ~10–20 % hitaampi; vain kahden ajon perusteella se ei kutsu tätä regressioksi ja ehdottaa 3–4 lisämittausta ja palautusta versioon 0.1.43.1, jos hidastuminen vahvistuu.

Tässä työssä varamalli oli ulkoinen (Grok) eikä siinä ollut suodatinta. Paikalliselle järjestelmällemme se ei ole hyväksyttävää, joten varamalli korvattiin toisella paikallisella mallilla. Nykyään pilvimalleja kutsutaan vain suodattimen kautta ja tarvittaessa käyttäjän nimenomaisen vahvistuksen jälkeen.

Valvonta

Aamutarkistus kotiin ja tietokoneisiin

Yhdistelmä kuvassa: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + agentti. Agentti lukee Home Assistantin antureita (lämpötila, kosteus, liike, valo, energia) ja tarkistaa varmuuskopiot, levyt ja tietokoneiden lämpötilat. Keskustelemme sen kanssa Telegramissa.

Mitä tarkistus löysi: tietokonehuoneessa on 28,8 °C, selvästi lämpimämpää kuin muissa tiloissa, joten ilmanvaihto ja jäähdytys kannattaa tarkistaa; toimiston (20 %) ja terassin (30 %) anturien paristot on vaihdettava; oven ”Leo” anturi näyttää ON, mutta lukema voi olla vanhentunut ja se on tarkistettava paikan päällä.

Viktor ei edes avannut Home Assistantin käyttöliittymää. Aputyökalut sinä päivänä: ChatGPT piirsi julkaisun kuvan, ChatGPT Go + Codex auttoivat asetuksissa, ja agentti kääntyi ajoittain Grok 4.7:n puoleen lisämallina monimutkaiseen päättelyyn.

Tässä työssä varamalli oli ulkoinen (Grok) eikä siinä ollut suodatinta. Paikalliselle järjestelmällemme se ei ole hyväksyttävää, joten varamalli korvattiin toisella paikallisella mallilla. Nykyään pilvimalleja kutsutaan vain suodattimen kautta ja tarvittaessa käyttäjän nimenomaisen vahvistuksen jälkeen.

Kuvitus julkaisuun, ei kuvakaappaus.

Mallin nopeus

31 tok/s RAM lähes vapaana: malli luetaan SSD:ltä

Asetukset: malli Qwen3.8-Flash-Next IQ3_XXS (~47 Gt), konteksti 64K (65 536 tokenia), 8-bittinen KV-välimuisti, low-RAM-tila: osa mallin ”asiantuntijoista” luetaan SSD:ltä. Näytönohjain AMD Radeon RX 9070, ~16 Gt.

Tulos Strata-monitorissa: 12 136 tokenia 396,3 sekunnissa, generointi 31,0 tok/s, VRAM 15,7/16 Gt, RAM 3,2/31 Gt, GPU 45 °C. Videomuistissa on 5 681 ”asiantuntijaa” (9,2 Gt), loput luetaan levyltä.

Johtopäätös: suuri malli toimii ilman valtavaa RAM-määrää, koska moottori pitää tärkeimmän videomuistissa ja lukee loput nopealta SSD:ltä. Se on tie selvästi edullisempiin tietokoneisiin paikalliselle tekoälylle.

Mallin nopeus

256K-konteksti: 26 pyyntöä yhdellä 16 Gt:n näytönohjaimella

Tavoite oli yksinkertainen: ymmärtää, miten tällaiset ajot myöhemmin automatisoidaan eri laitteistoilla ja miten tulokset esitetään vertailua varten. Kone: Intel Core Ultra 7 270K Plus, 31 Gt RAM, AMD Radeon 16 Gt.

Yhteenveto sunnuntaiaamusta (09:44) lähtien: 26 pyyntöä, 169 326 kehotetokenia luettu nopeudella 108 tok/s (lisäksi 1 923 247 keskusteluvälimuistista), 166 539 tokenia kirjoitettu keskimäärin 20,5 tok/s. Konteksti on 62 % täynnä (162k/256k).

Kaikki ei mennyt sujuvasti: listassa on yksi pyyntö ”Closed” ja yksi ”Stopped”. Alkuperäisen julkaisun video näyttää, kuinka malli kirjoittaa pitkää teknistä vastausta; siellä Viktor myös kertoo, mikä meni pieleen.

Mallin nopeus

Enemmän RAM-muistia: 45 tok/s 164 000 tokenin kontekstissa

Tietokone: Intel Core Ultra 7 270K Plus (24 säiettä), AMD Radeon 16 Gt, 62 Gt RAM, konteksti 262 144 tokenia. Nyt moottori käyttää myös RAM-muistia: 53,5/62 Gt käytössä.

Kaksi noin 162 000 tokenin pyyntöä: ensimmäinen luettiin nopeudella 1 176 tok/s, generointi 48,3 tok/s; toinen tuli lähes kokonaan keskusteluvälimuistista (162 199 tokenia), generointi 45,2 tok/s.

Kompromissi on selvä: suuremmalla RAM-muistilla generointi on selvästi nopeampaa, mutta muille tehtäville jää vähemmän muistia. 31 Gt:llä moottori tuskin koski RAM-muistiin, ja tietokone jäi vapaaksi muuhun työhön.

Mallin nopeus

Vanha Xeon ja Tesla P100: 19–27 tok/s

Malli ei mahdu RAM-muistiin ja toimii videomuistista (15,7/16 Gt) ja NVMe-levyltä PCIe 3.0:n kautta. Prosessorin kuorma on noin 45 %, RAM lähes vapaa: tietokonetta voi käyttää myös muuhun työhön.

Monitorissa: generointi nyt 26,9 tok/s; pyyntöhistoriassa 19,3 tok/s lyhyessä vastauksessa (253 tokenia) ja 25,3 tok/s pitkässä (12 686 tokenia 504,1 sekunnissa). Näytönohjain 36 °C, 97 W / 250.

Meille tämä on tärkein hintavertailukohta: jopa vanha ja edullinen laitteisto oikein säädetyllä moottorilla sopii jo oikeaan työhön.

Miksi pilvi on vaarallinen

Kaikki yrityksen asiakirjat jonkun toisen pilvessä? Se on riski, ei mukavuus

Kun sopimukset, tarjoukset, sähköpostit ja osaaminen päätyvät pilvitekoälyyn tai SaaS-palveluun, yritys on riippuvainen toisten säännöistä: palveluntarjoaja käsittelee tietoja omilla palvelimillaan, voi muuttaa tietojen käyttöehtoja, hintoja ja rajoja, ja sen infrastruktuuri ja alihankkijat voivat kaatua tai joutua murron kohteeksi. Yhdysvaltalaisiin palveluntarjoajiin sovelletaan CLOUD Actia, ja EU:n ja Yhdysvaltojen välisten siirtojen oikeusperusta on jälleen kyseenalainen. CLARYELin kanssa asiakirjat ja tekoäly pysyvät asiakkaan laitteistolla: salattu levy, varmuuskopiot, salattu etäkäyttö ja tietokanta, jonka voi sammuttaa milloin tahansa. Peruskokoonpanoissa se on pilveä hitaampi, mutta ilman tunnisterajoja ja ilman yllätyksiä laskussa.1,3–5,7,9–15

Italialaiselle yritykselle kyse on myös liikesalaisuuksista: teollisoikeuslain 98 § suojaa tietoja vain, jos ne pidetään salassa ”kohtuudella riittävin toimenpitein”. Liikesalaisuuksien paljastamisesta voi seurata enintään 2 vuotta vankeutta (Italian rikoslain 623 §), ja rangaistus kovenee, jos käytetään tietoteknisiä välineitä.17,18

Nopeat ulkoiset mallit: vain suodattimen kautta

Tarvittaessa CLARYEL-järjestelmä voi kutsua nopeita, huippuluokan ulkoisia malleja. Ennen lähettämistä se poistaa pyynnöstä henkilötiedot ja liikesalaisuudet säilyttäen pyynnön merkityksen. Tarvittaessa se näyttää teille suodatetun pyynnön ja lähettää sen pilveen vasta nimenomaisen vahvistuksenne jälkeen.

Suodatin auttaa pienentämään riskejä; se ei lupaa 100-prosenttista anonymisointia.

Rehellisesti: komentokanava (Telegram) on ulkoinen palvelu, joten viestit ja ääniviestit kulkevat Telegramin palvelimien kautta. Asiakirjat, tietopohja ja tekoälykäsittely pysyvät paikallisina.

Lähteet

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. AWS — US-EAST-1 service disruption summary (Oct 2025)
  15. Cloudflare — outage on 18 November 2025
  16. The Register — unauthorized API usage bills (2026)
  17. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  18. Codice penale, art. 623 — Normattiva

Yleistä tietoa, ei oikeudellista neuvontaa. Paikallinen järjestelmä auttaa pienentämään riskejä; vastuu säännösten noudattamisesta jää yritykselle.

Miksi pilvi on vaarallinen

Kun pilviagentti saa infrastruktuurin avaimet, ovi avautuu arvokkaimpiin tietoihin

Jokainen pilviagentille annettu API-avain, OAuth-tunniste tai tunneli on hyökkääjälle yksi ovi lisää. Varastetut tunnukset ovat yleisin sisäänpääsytie; yksi vaarannettu integraatio johti tietovarkauksiin monissa yrityksissä; kehoteinjektio voi vuotaa tietoja ilman klikkausta; saastuneet paketit käyttävät jo tekoälyagentteja salaisuuksien etsimiseen. Pilviagentti, jolla on pääsy koneisiinne ja avaimiinne, on vuotokohta ja reitti paikalliseen järjestelmään, jossa kaikki tai arkaluonteisimmat tiedot ovat. CLARYELin paikallinen arkkitehtuuri vähentää ulkoisia pääsypisteitä ja pyytää ihmistä vahvistamaan riskialttiit toimet OWASPin ja NIS2:n toimitusketjuvaatimusten mukaisesti.1–7

Lähteet

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

Yleistä tietoa, ei oikeudellista neuvontaa. Paikallinen järjestelmä auttaa pienentämään riskejä; vastuu säännösten noudattamisesta jää yritykselle.

Miksi pilvi on vaarallinen

Laitteiston ja mallien viritys pysyy sisällä: ei pilviagenttia koneidenne lähellä

Tämän sivun mittaukset teki CLARYEL-agentti omilla koneillamme antamatta pilvipalvelulle pääsyä niihin. Varastetut tunnukset ja avoimet agenttipaneelit osoittavat miksi: jolla on avaimet, sillä on järjestelmä. Paikallinen nopeus riippuu laitteistosta ja on pienissä kokoonpanoissa pilveä alhaisempi; vastineeksi työn määrää eivät rajoita tariffit, kiintiöt tai tunnistelasku.1,2

Lähteet

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

Yleistä tietoa, ei oikeudellista neuvontaa. Paikallinen järjestelmä auttaa pienentämään riskejä; vastuu säännösten noudattamisesta jää yritykselle.