CLARYEL · Pemakaian nyata

Kami memakainya setiap hari

Inilah pekerjaan nyata untuk perusahaan kami yang dikerjakan agen CLARYEL: akuntansi, pengaturan mesin, infrastruktur. Data nyata dan jawaban nyata dari sistem.

CLARYEL bekerja setiap hari dengan sistemnya sendiri.

Data tetap lokal, di dalam CLARYEL Box.

Cara kerjanya

  1. Kami memberi tugas dengan kata-kata sederhana: lewat suara atau pesan
  2. Agen CLARYEL memahami sendiri situasinya dan mengerjakan semuanya
  3. Kami menerima hasil dan laporan, sering lebih dari yang diminta

Dari kami: hanya tugas dan persetujuan untuk tindakan penting.

Business

Tugas harian perusahaan yang kami selesaikan dengan suara lewat sistem.

Akuntansi

Pemeriksaan faktur: FAKE dan duplikat

Kami bertanya berapa yang kami habiskan untuk TI dalam setahun. Sistem sendiri menemukan faktur FAKE dan duplikat, menghapusnya setelah kami setujui, dan mengoreksi angkanya sendiri.

  1. Pertanyaannya
  2. Koreksinya
  3. Hasil yang dikoreksi
Isi tangkapan layar

Pertanyaannya: berapa yang kami habiskan untuk TI tahun lalu. Agen CLARYEL menjawab: sekitar €54.691, dan sendiri menandai bahwa di antara dokumen ada faktur FAKE dan duplikat.

Isi tangkapan layar

Kami meminta data FAKE dan duplikat dihapus. Agen menemukan 64 faktur FAKE, meminta persetujuan kami sebelum penghapusan paksa, lalu membersihkan data dan memeriksa hasilnya.

Isi tangkapan layar

Kondisi akhir yang sudah diperiksa: 188 faktur sah senilai €38.627,70. Agen sendiri mengoreksi jawabannya sebelumnya: pengeluaran TI tahun lalu adalah €36.993,58.

Tangkapan layar dalam bahasa aslinya; di bawah masing-masing ada ringkasan.

Sebelum → sesudah (dari tangkapan layar 1–3)

  • 64 faktur FAKE dihapus
  • 188 faktur valid · €38.627,70
  • IT, setahun terakhir: ≈€54.691 → €36.993,58

Semuanya nyata: sistem nyata, dokumen nyata, jumlah nyata. Langsung dari penggunaan harian kami: dokumen dikumpulkan dari akun Amazon, beberapa kotak masuk email, Google Drive, dan arsip fisik sistem kami.

Akuntansi

Akuntansi siap pakai: dari komputer baru hingga kantor pajak

Seluruh proses: menyiapkan komputer dari nol, memasang Ubuntu, perangkat lunak yang diperlukan, Odoo dan NextERP, mengambil faktur dari Amazon Business, dan mengirimkannya ke Agenzia delle Entrate. Tugas diberikan dengan suara dari ponsel; hanya hasilnya yang diperiksa.

Isi tangkapan layar

Ilustrasi untuk unggahan, bukan tangkapan layar: tujuh langkah (komputer baru, Ubuntu 24.04, Docker/Python/Git dan perangkat lunak lain, Odoo, NextERP, faktur Amazon Business, pengiriman ke Agenzia delle Entrate) dan di bawah tugas suara dari ponsel.

Ilustrasi untuk unggahan, bukan tangkapan layar.

ERP

ERP yang antarmukanya belum pernah kami buka

Satu proses bisnis sudah berjalan sepenuhnya melalui agen: faktur dan dokumen pengiriman dari email, Google Drive, dan Amazon Business → ERP dan akuntansi → sistem pajak → laporan ringkasan → rekonsiliasi dengan rekening koran bank.

Isi tangkapan layar

Ilustrasi untuk unggahan, bukan tangkapan layar: di kiri seseorang di antara tumpukan jendela dan pengaturan, di kanan tugas suara untuk agen yang bekerja sendiri dengan program dan menyerahkan hasil jadi.

Ilustrasi untuk unggahan, bukan tangkapan layar.

Pengaturan dan infrastruktur

Bagaimana agen CLARYEL sendiri mengatur dan merawat mesin-mesin kami: perangkat keras, pendinginan, model AI, kecepatan.

Pendinginan

Kendali kipas GPU

Kami meminta dengan kata-kata sederhana: kipas GPU harus mengikuti suhu kartu grafis, dan pengaturannya harus bertahan setelah restart. Agen CLARYEL sendiri mencari tahu apa yang harus dikendalikan, memutar kipas penuh selama satu menit, mengatur kurva, dan memastikan semuanya dengan restart sungguhan, dalam sekitar 30 menit.

  1. Permintaanteks biasa, tanpa perintah
  2. PenelusuranZ10PA-U8 · Tesla P100 · NCT7904D
  3. Satu menit kecepatan penuh1468 → 5294–5421 RPM dalam 5 s · GPU 37 → 31 °C
  4. Kurva≤35 °C 35% → ≥85 °C 100%
  5. Restart1319 RPM, 35 °C: semuanya menyala sendiri
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
Kurva: suhu GPU → putaran kipas~78%: mode darurat jika sensor suhu berhenti meresponsHalus: maksimal ±15% tiap 5 s

Lebih dari tugas

  • Menyimpan prosedurnya sebagai keterampilan untuk mesin berikutnya.
  • Menjelaskan dengan jujur dasar kesimpulan bahwa fan5 adalah kipas GPU.
  • Dalam sesi yang sama juga mengganti nama mesin menjadi P1005, seperti yang kami minta sebelumnya.
  • Dari kami: satu perintah untuk hak administrator, jawaban «Ready», dan satu konfirmasi di tengah jalan.
  • ≈ 30 menit (06:26–06:57 menurut tangkapan layar)
Isi tangkapan layar

Permintaan kami (06:26) dalam teks biasa. Agen langsung memulai penelusuran tanpa hak administrator: motherboard Z10PA-U8, GPU Tesla P100; belum ada antarmuka kendali kipas; suhu GPU terbaca: 39 °C.

Isi tangkapan layar

Agen meminta kami menjalankan satu kali perintah yang memberinya hak administrator di P1005 (bisa dicabut kapan saja), dan memaparkan rencana: menemukan chip pengendali kipas, layanan kecil berdasarkan suhu GPU, satu menit kecepatan penuh yang dicek dengan takometer. Alamat mesin ditutupi.

Isi tangkapan layar

Akhir rencana: layanan yang menyala otomatis, ganti nama host menjadi P1005; jika kendali ternyata mustahil, agen akan mengatakannya dengan jujur. Jawaban kami «Ready» (06:29), lalu kemajuan: layanan kendali, satu konfirmasi (06:43), «semuanya bertahan setelah restart» (06:49), dan awal laporan.

Isi tangkapan layar

Laporan, poin 1–3: chip Nuvoton NCT7904D, pemetaan kanal (pwm2 → fan5, hingga ~5300 RPM: blower P100), satu menit kecepatan penuh (1468 → 5294–5421 RPM dalam 5 s, GPU 37 → 31 °C), dan kurva yang berfungsi.

Isi tangkapan layar

Laporan, poin 4 dan ringkasan: driver dan layanan menyala otomatis, restart sungguhan (fan5 di 1319 RPM, GPU 35 °C, Strata menyala sendiri, port 8080 mendengarkan), nama host P1005, catatan jujur tentang cara kipas GPU dikenali, dan prosedur yang disimpan sebagai keterampilan.

Tangkapan layar dalam bahasa aslinya; di bawah masing-masing ada ringkasan.

Konfigurasi

Pertanyaan teknis, lewat suara

Tugas praktis: lewat pesan suara kami bertanya bagaimana sistem disusun. Sistem menjawab dengan data nyata mesin kami: perangkat keras, disk, model AI, dan kecepatan. Jika ada poin yang kurang jelas, cukup tanyakan langsung apa artinya.

Isi tangkapan layar

Jawaban atas pertanyaan suara tentang konfigurasi: dua mesin, claryel01 dan P2002, dengan prosesor, memori, GPU, disk, versi perangkat lunak, model AI, dan kecepatan terukur (~44–48 tok/s). Di bawah ada baris tentang model cadangan (Cloud fallback: xAI Grok 4.7).

Dalam pekerjaan ini model cadangan bersifat eksternal (Grok) dan tanpa filter. Bagi sistem lokal kami hal itu tidak dapat diterima, sehingga model cadangan diganti dengan model lokal kedua. Kini model cloud hanya dipanggil melalui filter dan, bila diperlukan, setelah konfirmasi eksplisit dari pengguna.

Armada mesin

Tiga mesin, satu agen

Kami meminta profil singkat semua mesin kami yang memakai Strata. Agen CLARYEL sendiri memeriksa jaringan, menemukan tiga mesin, dan mengumpulkan untuk masing-masing memori, disk, GPU, versi Strata dan model, serta kecepatan. Ketiganya dikendalikan oleh satu agen yang sama.

kecepatan generasi

  • P2002utama62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studiotercepat256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005untuk tugas latar belakang31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Di ketiganya: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · konteks 262 144

Isi tangkapan layar

Permintaan kami (07:47) dan awal jawaban: jaringan diperiksa, ada tiga mesin. Yang pertama P2002: 62 GiB DDR5, Lexar NM1090 PRO 2 TB, AMD RDNA4 dengan 16 GiB, Strata v0.1.45, Qwen3.8-Flash-Next IQ3_S, 46.8 tok/s. Alamatnya ditutupi.

Isi tangkapan layar

Mac Studio: 256 GB LPDDR5X (M3 Ultra), SSD 2 TB, 60.0 tok/s, tercepat. P1005: 31 GiB DDR4, Tesla P100 16 GB, 16.2 tok/s, untuk tugas latar belakang. Ringkasan: satu agen di claryel01 mengendalikan ketiganya, model yang sama di mana-mana; cadangan P2002 → Mac Studio → Grok. Alamatnya ditutupi.

Dalam pekerjaan ini model cadangan bersifat eksternal (Grok) dan tanpa filter. Bagi sistem lokal kami hal itu tidak dapat diterima, sehingga model cadangan diganti dengan model lokal kedua. Kini model cloud hanya dipanggil melalui filter dan, bila diperlukan, setelah konfirmasi eksplisit dari pengguna.

Instalasi

Strata di mesin baru: agen melewati semua kendala sendiri

Kami bertanya kesulitan apa saja yang muncul saat menjalankan Strata v0.1.45 di Mac Studio (M3 Ultra, 256 GB). Agen CLARYEL sendiri mengompilasi mesin dari kode sumber, menemukan dan menerapkan perbaikan, memindahkan model 79 GB, dan mengakali galat mesin.

Isi tangkapan layar

Pertanyaan kami (05:16) tentang kesulitan Strata di Mac Studio. Jawaban, poin 1–3: tidak ada build siap pakai untuk Mac, build 0.1.45 yang rusak dan perbaikan dari PR #2895, awal cerita tentang pemindahan model 79 GB.

Isi tangkapan layar

Poin 3–6: pemindahan model (Starlink ~6,5 MB/s, jaringan ~11 MB/s, rsync dari P2002 dalam 2 jam 05 menit), kesalahan huruf besar-kecil pada nama model, galat mesin “setiap permintaan 400” dan solusi --no-prefill-borrow, kebingungan dengan proses lama di port 8080.

Isi tangkapan layar

Poin 6–7 dan hasil: “macet” saat start pertama (~10 menit membaca 55 GB dari disk), Mac ≈ P2002 dalam generasi (~58 vs ~57 tok/s), prefill +36%, semuanya tersimpan di skill strata-mac-deploy.

Tangkapan layar dalam bahasa aslinya; di bawah masing-masing ada ringkasan.

Pembaruan

Agen memperbarui mesin “otaknya” sendiri

Di Telegram kami meminta agen CLARYEL memperbarui Strata di P2002, mesin tempat agen itu sendiri berjalan. Agen memulai pembaruan dengan jaring pengaman, memperbaiki sendiri kegagalan di langkah terakhir, dan membandingkan kecepatan sebelum dan sesudah dengan jujur.

Isi tangkapan layar

Pertanyaan versi (04:30), jawaban (v0.1.43.1 di P2002, v0.1.45 di GitHub) dan perintah “perbarui dirimu” (04:31). Agen menjelaskan rencana: pembaruan terpisah dari dirinya dan penjaga dengan rollback otomatis ke 0.1.43.1.

Isi tangkapan layar

Baris tentang peralihan ke model cadangan (grok-4.7) pukul 04:46; laporan: kode di v0.1.45, mesin terbangun (34 MB, 0 galat), penggantian file gagal (“Text file busy”), agen memperbaikinya sendiri. Di bawahnya: catatan pembaruan skill dan pertanyaan kami tentang versi saat ini (04:50).

Isi tangkapan layar

Jawaban: P2002 menjalankan Strata v0.1.45, versi lama 0.1.43.1 disimpan sebagai cadangan, model Qwen3.8-Flash-Next IQ3_S, konteks 262.144; pengukuran kecepatan sebelum dan sesudah pembaruan.

Isi tangkapan layar

Penilaian agen: prefill jelas membaik (hingga +80% pada satu pengukuran), generasi ~10–20% lebih rendah pada dua pengukuran baru; agen menawarkan 3–4 kali jalan lagi dan rollback jika perlambatan terkonfirmasi.

Tangkapan layar dalam bahasa aslinya; di bawah masing-masing ada ringkasan.

Dalam pekerjaan ini model cadangan bersifat eksternal (Grok) dan tanpa filter. Bagi sistem lokal kami hal itu tidak dapat diterima, sehingga model cadangan diganti dengan model lokal kedua. Kini model cloud hanya dipanggil melalui filter dan, bila diperlukan, setelah konfirmasi eksplisit dari pengguna.

Pemantauan

Pemeriksaan pagi rumah dan komputer

Setiap pagi agen CLARYEL sendiri memeriksa sensor rumah pintar Home Assistant, cadangan, kondisi disk, dan suhu komputer yang terhubung, lalu hanya melaporkan hal yang perlu diperhatikan.

Isi tangkapan layar

Ilustrasi untuk unggahan, bukan tangkapan layar: hasil pemeriksaan pagi — ruang komputer 28,8 °C, baterai sensor 20% (kantor) dan 30% (teras), sensor pintu “Leo” dalam status ON yang perlu dicek.

Isi tangkapan layar

Ilustrasi untuk unggahan, bukan tangkapan layar: rantai Strata v0.1.43 → Qwen3.8-Flash-Next (IQ3_S) → agen → sensor Home Assistant, cadangan, disk, suhu komputer; di bawah, alat bantu (Telegram, ChatGPT, ChatGPT Go + Codex, Grok 4.7).

Ilustrasi untuk unggahan, bukan tangkapan layar.

Dalam pekerjaan ini model cadangan bersifat eksternal (Grok) dan tanpa filter. Bagi sistem lokal kami hal itu tidak dapat diterima, sehingga model cadangan diganti dengan model lokal kedua. Kini model cloud hanya dipanggil melalui filter dan, bila diperlukan, setelah konfirmasi eksplisit dari pengguna.

Perangkat keras dan kecepatan model

Bagaimana model yang sama berjalan di perangkat keras berbeda, dari Tesla P100 lama hingga Radeon baru. Angka hanya diambil dari layar.

Kecepatan model

31 tok/s dengan RAM hampir kosong: model dibaca dari SSD

Strata v0.1.41, Qwen3.8-Flash-Next IQ3_XXS, Radeon 16 GB, dan RAM 31 GB. Jawaban 12.136 token dengan kecepatan 31 tok/s, sementara RAM yang terpakai hanya 3,2 GB.

Isi tangkapan layar

Monitor Strata: generasi 31,0 tok/s, prefill 43 tok/s, VRAM 15,7/16 GB, GPU 45 °C, konteks terisi 19% (12k dari 64k), satu permintaan: 12.136 token dalam 396,3 detik; RAM 3,2/31 GB.

Isi tangkapan layar

Model dan mesin: qwen3.8-flash-next-iq3_xxs, v0.1.41, konteks 65.536 token, cache KV 8-bit di VRAM, 5.681 pakar di VRAM (9,2 GB). Komputer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 thread), RAM 31 GB.

Isi tangkapan layar

Pengaturan Strata yang dipilih: Qwen3.8-Flash-Next, IQ3_XXS, konteks 64K, cache KV 8-bit, gambar nonaktif, mode low-RAM (RAM 31 GB, pakar sebagian dibaca dari SSD), AMD Radeon RX 9070 (~16 GB VRAM); file model ~47 GB.

Tangkapan layar dalam bahasa aslinya; di bawah masing-masing ada ringkasan.

Kecepatan model

Konteks 256K: 26 permintaan di satu kartu grafis 16 GB

Kami menjalankan Strata v0.1.41 dengan Qwen3.8-Flash-Next IQ3_S pada konteks 262.144 token. Jawaban hingga 14.829 token, RAM terpakai 3,3 dari 31 GB: model bekerja hampir sepenuhnya di memori video.

Isi tangkapan layar

Bingkai dari video: model menulis jawaban teknis panjang tentang cara kerja model Mixture-of-Experts (perutean pakar, cache KV, hierarki memori). Video lengkapnya ada di unggahan asli.

Isi tangkapan layar

Monitor Strata: generasi permintaan terakhir 14,8 tok/s, prefill 112 tok/s, VRAM 15,8/16 GB, konteks 62% (162k/256k), RAM 3,3/31 GB; di tabel permintaan, generasi 13,0 hingga 19,6 tok/s dan jawaban hingga 14.829 token; total 26 permintaan.

Isi tangkapan layar

Model dan mesin: qwen3.8-flash-next-iq3_s, v0.1.41, konteks 262.144 token, cache KV 8-bit di VRAM, 3.114 pakar di VRAM (6,0 GB). Komputer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 thread), RAM 31 GB.

Tangkapan layar dalam bahasa aslinya; di bawah masing-masing ada ringkasan.

Videonya ada di unggahan asli; ini salah satu bingkainya.

Kecepatan model

RAM lebih besar: 45 tok/s pada konteks 164.000 token

Mesin yang sama dengan RAM lebih besar (62 GB di sistem). Strata v0.1.43 dengan Qwen3.8-Flash-Next IQ3_S: generasi 45,2 tok/s dengan konteks terisi 63%.

Isi tangkapan layar

Monitor Strata: generasi 45,2 tok/s, prefill 94 tok/s, VRAM 15,9/16 GB, GPU 44 °C, konteks 63% (164k/256k), RAM 53,5/62 GB; dua permintaan sekitar 162.000 token, prefill 1.176 tok/s, generasi 48,3 dan 45,2 tok/s.

Isi tangkapan layar

Model dan mesin: qwen3.8-flash-next-iq3_s, v0.1.43, konteks 262.144 token, cache KV 8-bit di VRAM, 3.114 pakar di VRAM (6,0 GB). Komputer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 thread), RAM 62 GB.

Tangkapan layar dalam bahasa aslinya; di bawah masing-masing ada ringkasan.

Kecepatan model

Xeon lama dan Tesla P100: 19–27 tok/s

Konfigurasi paling sederhana: Intel Xeon E5-2690 v4, RAM 31 GB, dan kartu Tesla P100 16 GB. Strata v0.1.45 dengan Qwen3.8-Flash-Next IQ3_S menghasilkan 19–27 tok/s, dengan RAM terpakai hanya 2,2 GB.

Isi tangkapan layar

Monitor Strata dan htop: generasi 26,9 tok/s, beban Tesla P100 100%, VRAM 15,7/16 GB, 97 W, PCIe Gen3 x16, CPU 45%, baca disk 164 MB/s, RAM 2,2/31 GB; permintaan: 19,3 tok/s (253 token) dan 25,3 tok/s (12.686 token dalam 504,1 detik).

Isi tangkapan layar

Model dan mesin: qwen3.8-flash-next-iq3_s, v0.1.45, konteks 262.144 token, cache KV 8-bit di VRAM, 3.051 pakar di VRAM (5,8 GB). Komputer: Tesla P100 16 GB, Intel Xeon E5-2690 v4 (28 thread), RAM 31 GB.

Tangkapan layar dalam bahasa aslinya; di bawah masing-masing ada ringkasan.

Akuntansi

Pemeriksaan faktur: FAKE dan duplikat

Skenario nyata dari ERP kami, dalam tiga langkah.

  1. Pertanyaannya

    Kami bertanya berapa yang kami belanjakan untuk IT dalam setahun terakhir. Sistem menjawab (≈ €54.691) dan dengan sendirinya menandai faktur FAKE dan duplikat.

  2. Koreksinya

    Kami memintanya menghapus data FAKE dan duplikat. Sebelum penghapusan paksa, sistem meminta persetujuan kami, lalu membersihkan dan memverifikasi.

  3. Hasil yang dikoreksi

    188 faktur valid senilai €38.627,70. Angka yang dikoreksi: €36.993,58: sistem sendiri mengoreksi jawabannya sebelumnya dan mengonfirmasi keadaan akhir.

Sebelum → sesudah (dari tangkapan layar 1–3)

  • 64 faktur FAKE dihapus
  • 188 faktur valid · €38.627,70
  • IT, setahun terakhir: ≈€54.691 → €36.993,58

Skenario nyata dari ERP kami: ditanya soal belanja IT, sistem sendiri menemukan faktur FAKE dan duplikat, menghapusnya setelah persetujuan kami, memverifikasi hasilnya, dan mengoreksi angkanya sendiri sebelumnya.

Menghapus dokumen itu aman: data dicadangkan, ada riwayat perubahan dengan opsi pemulihan, dan rekonsiliasi berkelanjutan, misalnya dengan rekening koran bank.

Pendinginan

Kendali kipas GPU

Tugasnya, di tangkapan layar 1: kipas GPU tersambung ke motherboard; harus mengikuti suhu GPU, berputar penuh selama satu menit untuk memastikan kendalinya bekerja, lalu mendapat level optimal, dan setelah restart semuanya harus berjalan otomatis.

  1. Permintaan

    Pesan biasa di Telegram, tanpa perintah teknis.

  2. Penelusuran

    Pertama, tanpa hak administrator, agen memastikan: motherboard Z10PA-U8, GPU Tesla P100, suhu GPU terbaca (39 °C), tetapi belum ada sarana untuk mengendalikan kipas. Ia meminta hak administrator dengan satu perintah dan memaparkan rencana. Setelah mendapat akses, ia menemukan chip Nuvoton NCT7904D (9 input takometer, 4 kanal PWM) dan dengan menjalankan tiap kanal dari 0 sampai 255 ia memetakan: pwm2 → fan5, hingga ~5300 RPM, yaitu blower P100. Tiga kanal lainnya dibiarkan pada otomatisasi BIOS.

  3. Satu menit kecepatan penuh

    pwm2 = 255 selama 60 detik: dalam 5 detik fan5 naik dari 1468 ke 5294–5421 RPM dan GPU mendingin dari 37 ke 31 °C. Lalu kendali kembali ke kurva (255 → 195 → 90); pembacaan takometer memastikan kendalinya bekerja.

  4. Kurva

    ≤35 °C → 35%, 45 °C → 47%, 60 °C → 67%, 75 °C → 86%, ≥85 °C → 100% (P100 menurunkan frekuensi pada 91 °C, jadi masih ada ruang). Putaran berubah halus, maksimal ±15% tiap 5 detik; jika nvidia-smi berhenti merespons, kipas masuk mode darurat ~78%.

  5. Restart

    Driver dimuat otomatis, dan kendali berjalan sebagai layanan yang menyala otomatis. Agen benar-benar me-restart mesin dan memeriksa semuanya dari awal: modul dimuat, layanan aktif, fan5 di 1319 RPM, GPU 35 °C.

Lebih dari tugas

  • Menyimpan prosedurnya sebagai keterampilan untuk mesin berikutnya.
  • Menjelaskan dengan jujur dasar kesimpulan bahwa fan5 adalah kipas GPU.
  • Dalam sesi yang sama juga mengganti nama mesin menjadi P1005, seperti yang kami minta sebelumnya.
  • Dari kami: satu perintah untuk hak administrator, jawaban «Ready», dan satu konfirmasi di tengah jalan.
  • ≈ 30 menit (06:26–06:57 menurut tangkapan layar)

Konfigurasi

Pertanyaan teknis, lewat suara

Tugas praktis: lewat pesan suara kami bertanya bagaimana sistem disusun. Sistem menjawab dengan data nyata mesin kami: perangkat keras, disk, model AI, dan kecepatan. Jika ada poin yang kurang jelas, cukup tanyakan langsung apa artinya.

Yang ditunjukkan jawaban: dua mesin, claryel01 dan P2002; prosesor, memori, GPU dan disk; versi perangkat lunak; model AI; kecepatan terukur.

Dalam pekerjaan ini model cadangan bersifat eksternal (Grok) dan tanpa filter. Bagi sistem lokal kami hal itu tidak dapat diterima, sehingga model cadangan diganti dengan model lokal kedua. Kini model cloud hanya dipanggil melalui filter dan, bila diperlukan, setelah konfirmasi eksplisit dari pengguna.

Ada istilah teknis yang kurang jelas? Langsung tanyakan kepada sistem di dalam percakapan: sistem menjelaskannya dengan kata-kata sederhana.

Armada mesin

Tiga mesin, satu agen

Permintaannya, di tangkapan layar 1 (07:47): untuk tiap mesin dengan Strata, ukuran dan jenis memori, NVMe, GPU dan memori video, versi Strata, model, versi agen, dan kecepatan model di mesin itu; jawaban singkat dan dalam bahasa Inggris.

Agen sendiri memindai jaringan dan memastikan ada tiga mesin (alamat lainnya adalah printer dan port Wi-Fi Mac). Ketiganya menjalankan Strata v0.1.45 dengan model yang sama Qwen3.8-Flash-Next IQ3_S (konteks 262 144), sehingga jawaban tetap seragam mesin mana pun yang menjawab.

kecepatan generasi

  • P2002utama62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studiotercepat256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005untuk tugas latar belakang31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Di ketiganya: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · konteks 262 144

Kecepatan generasi: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (tercepat), P1005 16.2 tok/s: model 78 GB dengan memori 31 GB, karena itu mesin ini menangani tugas latar belakang. Ketiganya dikendalikan oleh satu instans agen di claryel01; cadangan mengikuti rantai P2002 → Mac Studio → Grok.

Dalam pekerjaan ini model cadangan bersifat eksternal (Grok) dan tanpa filter. Bagi sistem lokal kami hal itu tidak dapat diterima, sehingga model cadangan diganti dengan model lokal kedua. Kini model cloud hanya dipanggil melalui filter dan, bila diperlukan, setelah konfirmasi eksplisit dari pengguna.

Akuntansi

Akuntansi siap pakai: dari komputer baru hingga kantor pajak

Viktor sudah menjalani proses ini dengan agen cloud, hampir tanpa menyentuh antarmuka program: tugas lewat suara, pemeriksaan hasil. Sekarang kami memindahkan proses nyata seperti ini ke AI lokal CLARYEL.

Langkah: komputer baru dari nol → Ubuntu dan penyiapan → perangkat lunak yang diperlukan → akuntansi Odoo → ERP NextERP → impor faktur dari Amazon Business → pengiriman ke Agenzia delle Entrate.

Pengamatan pertama: secara lokal, tugas seperti ini masih memakan waktu lebih lama daripada di cloud. Kami melihat dulu apa yang berjalan apa adanya, baru kemudian mengoptimalkan.

Ilustrasi untuk unggahan, bukan tangkapan layar.

ERP

ERP yang antarmukanya belum pernah kami buka

Kami tidak mempelajari tombol dan menu: kami meminta agen memasang program dan menjalankan fungsi yang diperlukan, melalui API, MCP, atau dengan mengoperasikan komputer milik agen sendiri. Kami butuh hasil, bukan antarmuka.

Proses langkah demi langkah: mengumpulkan faktur dan dokumen pengiriman dari email, Google Drive, dan akun Amazon Business; memasukkannya ke ERP dan akuntansi; mengirim data ke sistem pajak; menyusun laporan ringkasan; merekonsiliasi semuanya dengan rekening koran bank yang juga ada di Google Drive.

Dengan pengaturan pun sama: alih-alih memahami satu per satu, kami bilang ke agen “harus berjalan seperti ini: kerjakan, periksa, dan beri tahu hasilnya”. Kami memberi tugas dan memeriksa hasilnya. Belum semua program bisa begini sepenuhnya.

Ilustrasi untuk unggahan, bukan tangkapan layar.

Instalasi

Strata di mesin baru: agen melewati semua kendala sendiri

Tidak ada build siap pakai untuk Mac: mesin Metal dikompilasi dari kode sumber (~5–15 menit). Build 0.1.45 untuk Mac ternyata rusak; agen menemukan PR terbuka #2895, menerapkannya ke rilis, dan kompilasi ulang berhasil.

Model 79 GB: lewat HuggingFace melalui Starlink kecepatannya ~6,5 MB/s (~3,4 jam), jadi agen menyalinnya dengan rsync dari P2002 melalui penerusan agen SSH, dalam 2 jam 05 menit. Lalu setiap permintaan ke mesin mengembalikan 400; agen menemukan di kode sumber solusi --no-prefill-borrow.

Hasil: Mac ≈ P2002 dalam generasi (~58 vs ~57 tok/s) dan jelas lebih cepat dalam prefill (+36%). Agen menyimpan semua kendala dalam skill strata-mac-deploy, sehingga mengulangnya hampir seperti menyalin.

Pembaruan

Agen memperbarui mesin “otaknya” sendiri

Pertanyaan (04:30): versi Strata apa yang dipakai “otak” dan mana yang terbaru di GitHub. Jawaban: P2002 menjalankan v0.1.43.1, yang terbaru v0.1.45 (dirilis 17 Oktober 2026). Agen mengingatkan bahwa pembaruan akan memulai ulang mesin tempat ia sendiri berjalan: beberapa menit henti, dengan rollback sebagai pengaman.

Atas perintah “perbarui dirimu” (04:31), agen menjalankan pembaruan terpisah dari dirinya: git pull → build mesin HIP 0.1.45 → mulai ulang layanan, sementara penjaga memeriksa mesin selama 5 menit dan kembali ke 0.1.43.1 jika mesin tidak menyala. Build berjalan bersih (34 MB, 0 galat), tetapi penggantian file yang sedang berjalan gagal (“Text file busy”) dan mesin berhenti. Agen menyimpan file lama sebagai cadangan, memasang yang baru secara manual, dan memulai ulang layanan.

Pemeriksaan (04:50): v0.1.45 berjalan, model Qwen3.8-Flash-Next IQ3_S, konteks 262.144. Kecepatan dengan skrip yang sama: jawaban pendek 31,0 (sebelumnya 33,5–33,7), generasi 1024 token 47,7 / 44,4 (sebelumnya 53,0–60,1), prefill 1,5K 874 / 531 (sebelumnya 488–490). Penilaian agen: prefill jelas lebih baik, generasi ~10–20% lebih rendah pada dua pengukuran; dengan hanya dua kali jalan ia tidak menyebutnya regresi dan menawarkan 3–4 pengukuran lagi serta kembali ke 0.1.43.1 jika perlambatan terkonfirmasi.

Dalam pekerjaan ini model cadangan bersifat eksternal (Grok) dan tanpa filter. Bagi sistem lokal kami hal itu tidak dapat diterima, sehingga model cadangan diganti dengan model lokal kedua. Kini model cloud hanya dipanggil melalui filter dan, bila diperlukan, setelah konfirmasi eksplisit dari pengguna.

Pemantauan

Pemeriksaan pagi rumah dan komputer

Rangkaian dalam gambar: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + agen. Agen membaca sensor Home Assistant (suhu, kelembapan, gerakan, cahaya, energi) dan memeriksa cadangan, disk, serta suhu komputer. Kami berkomunikasi dengannya lewat Telegram.

Temuan pemeriksaan: ruang komputer bersuhu 28,8 °C, jelas lebih hangat daripada ruangan lain, jadi ventilasi dan pendinginan perlu diperiksa; baterai sensor di kantor (20%) dan teras (30%) perlu diganti; sensor pintu “Leo” menunjukkan ON, tetapi datanya mungkin sudah usang dan perlu dicek langsung.

Viktor bahkan tidak membuka antarmuka Home Assistant. Alat bantu hari itu: ChatGPT menggambar ilustrasi unggahan, ChatGPT Go + Codex membantu penyiapan, dan agen sesekali beralih ke Grok 4.7 sebagai model tambahan untuk penalaran rumit.

Dalam pekerjaan ini model cadangan bersifat eksternal (Grok) dan tanpa filter. Bagi sistem lokal kami hal itu tidak dapat diterima, sehingga model cadangan diganti dengan model lokal kedua. Kini model cloud hanya dipanggil melalui filter dan, bila diperlukan, setelah konfirmasi eksplisit dari pengguna.

Ilustrasi untuk unggahan, bukan tangkapan layar.

Kecepatan model

31 tok/s dengan RAM hampir kosong: model dibaca dari SSD

Pengaturan: model Qwen3.8-Flash-Next IQ3_XXS (~47 GB), konteks 64K (65.536 token), cache KV 8-bit, mode low-RAM: sebagian “pakar” model dibaca dari SSD. Kartu grafis AMD Radeon RX 9070, ~16 GB.

Hasil di monitor Strata: 12.136 token dalam 396,3 detik, generasi 31,0 tok/s, VRAM 15,7 dari 16 GB, RAM 3,2 dari 31 GB, GPU 45 °C. Di memori video ada 5.681 “pakar” (9,2 GB); sisanya dibaca dari disk.

Kesimpulan: model besar berjalan tanpa RAM yang sangat besar, karena mesin menyimpan bagian terpenting di memori video dan membaca sisanya dari SSD cepat. Ini jalan menuju komputer AI lokal yang jauh lebih terjangkau.

Kecepatan model

Konteks 256K: 26 permintaan di satu kartu grafis 16 GB

Tujuannya sederhana: memahami cara mengotomatiskan proses seperti ini nanti di berbagai perangkat keras dan cara menyajikan hasilnya untuk perbandingan. Mesin: Intel Core Ultra 7 270K Plus, RAM 31 GB, AMD Radeon 16 GB.

Rekap sejak Minggu pagi (09:44): 26 permintaan, 169.326 token prompt dibaca dengan 108 tok/s (1.923.247 lainnya diambil dari cache percakapan), 166.539 token ditulis dengan rata-rata 20,5 tok/s. Konteks terisi 62% (162k dari 256k).

Tidak semuanya mulus: daftar menunjukkan satu permintaan “Closed” dan satu “Stopped”. Video di unggahan asli memperlihatkan model menulis jawaban teknis panjang; di sana Viktor juga menjelaskan apa yang gagal.

Kecepatan model

RAM lebih besar: 45 tok/s pada konteks 164.000 token

Komputer: Intel Core Ultra 7 270K Plus (24 thread), AMD Radeon 16 GB, RAM 62 GB, konteks 262.144 token. Kini mesin juga memakai RAM: terpakai 53,5 dari 62 GB.

Dua permintaan masing-masing sekitar 162.000 token: yang pertama dibaca dengan 1.176 tok/s, generasi 48,3 tok/s; yang kedua hampir seluruhnya dari cache percakapan (162.199 token), generasi 45,2 tok/s.

Kompromisnya jelas: dengan RAM lebih besar generasi jauh lebih cepat, tetapi memori untuk tugas lain berkurang. Dengan 31 GB mesin hampir tidak menyentuh RAM, dan komputer tetap bebas untuk pekerjaan lain.

Kecepatan model

Xeon lama dan Tesla P100: 19–27 tok/s

Model tidak muat di RAM dan berjalan dari memori video (15,7 dari 16 GB) serta dari disk NVMe melalui PCIe 3.0. Beban prosesor sekitar 45%, RAM hampir kosong: komputer bisa dipakai juga untuk pekerjaan lain.

Di monitor: generasi saat ini 26,9 tok/s; di riwayat permintaan, 19,3 tok/s pada jawaban pendek (253 token) dan 25,3 tok/s pada jawaban panjang (12.686 token dalam 504,1 detik). Kartu grafis 36 °C, 97 W dari 250.

Bagi kami ini patokan harga utama: bahkan perangkat keras lama dan murah, dengan mesin yang disetel dengan benar, sudah layak untuk pekerjaan nyata.

Mengapa cloud berbahaya

Semua dokumen perusahaan di cloud milik orang lain? Itu risiko, bukan kemudahan

Ketika kontrak, penawaran, email, dan know-how masuk ke AI cloud atau SaaS, perusahaan bergantung pada aturan pihak lain: penyedia memproses data di servernya sendiri, dapat mengubah ketentuan penggunaan data, harga, dan batas, sementara infrastruktur dan pemasoknya bisa mati atau dibobol. CLOUD Act berlaku bagi penyedia AS, dan dasar hukum transfer UE–AS kembali dipersoalkan. Dengan CLARYEL, dokumen dan AI tetap berada di perangkat keras pelanggan: disk terenkripsi, cadangan, akses jarak jauh terenkripsi, dan basis data yang dapat dimatikan kapan saja. Pada konfigurasi dasar, kinerjanya lebih lambat daripada cloud, tetapi tanpa batas token dan tanpa kejutan di tagihan.1,3–5,7,9–15

Bagi perusahaan Italia, ini juga soal rahasia dagang: Pasal 98 Kode Kekayaan Industri hanya melindungi informasi jika dijaga kerahasiaannya dengan “langkah-langkah yang memadai secara wajar”. Membocorkan rahasia dagang diancam penjara hingga 2 tahun (Pasal 623 KUHP Italia), dengan pemberatan jika menggunakan sarana TI.17,18

Model eksternal cepat: hanya melalui filter

Bila diperlukan, sistem CLARYEL dapat memanggil model eksternal yang cepat dan mutakhir. Sebelum mengirim, sistem menghapus data pribadi dan rahasia dagang dari permintaan dengan tetap mempertahankan makna permintaan. Bila diperlukan, sistem menampilkan permintaan yang sudah difilter dan baru mengirimkannya ke cloud setelah konfirmasi eksplisit Anda.

Filter membantu mengurangi risiko; filter tidak menjanjikan anonimisasi 100%.

Jujur saja: kanal perintah (Telegram) adalah layanan eksternal, jadi pesan dan pesan suara melewati server Telegram. Dokumen, basis pengetahuan, dan pemrosesan AI tetap lokal.

Sumber

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. AWS — US-EAST-1 service disruption summary (Oct 2025)
  15. Cloudflare — outage on 18 November 2025
  16. The Register — unauthorized API usage bills (2026)
  17. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  18. Codice penale, art. 623 — Normattiva

Informasi umum, bukan nasihat hukum. Sistem lokal membantu mengurangi risiko; tanggung jawab kepatuhan tetap ada pada perusahaan.

Mengapa cloud berbahaya

Memberi agen cloud kunci infrastruktur Anda membuka pintu ke data paling berharga

Setiap kunci API, token OAuth, atau tunnel yang diberikan kepada agen cloud adalah satu pintu lagi bagi penyerang. Kredensial curian adalah jalan masuk paling sering; satu integrasi yang disusupi menyebabkan pencurian data di banyak perusahaan; prompt injection dapat membocorkan data tanpa klik; paket yang terinfeksi sudah memakai agen AI untuk mencari rahasia. Agen cloud yang punya akses ke mesin dan kunci Anda adalah titik bocor sekaligus jalan menuju sistem lokal, tempat semua data atau data paling sensitif berada. Arsitektur lokal CLARYEL mengurangi titik akses eksternal dan meminta manusia mengonfirmasi tindakan berisiko, sejalan dengan OWASP dan persyaratan rantai pasok NIS2.1–7

Sumber

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

Informasi umum, bukan nasihat hukum. Sistem lokal membantu mengurangi risiko; tanggung jawab kepatuhan tetap ada pada perusahaan.

Mengapa cloud berbahaya

Penyetelan perangkat keras dan model tetap di dalam: tidak ada agen cloud di dekat mesin Anda

Pengukuran di halaman ini dilakukan oleh agen CLARYEL pada mesin kami sendiri, tanpa memberi akses kepada layanan cloud. Kredensial curian dan panel agen yang terbuka menunjukkan alasannya: siapa yang memegang kunci, dialah yang menguasai sistem. Kecepatan lokal bergantung pada perangkat keras dan pada konfigurasi kecil lebih rendah daripada cloud; sebagai gantinya, volume kerja tidak dibatasi tarif, kuota, atau tagihan per token.1,2

Sumber

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

Informasi umum, bukan nasihat hukum. Sistem lokal membantu mengurangi risiko; tanggung jawab kepatuhan tetap ada pada perusahaan.