CLARYEL CLARYEL Box
Запитати конфігурацію

CLARYEL · Реальне використання

Ми користуємося ним щодня

Тут — реальна робота для нашої компанії, яку виконав агент CLARYEL: бухгалтерія, налаштування машин, інфраструктура. Реальні дані й реальні відповіді системи.

CLARYEL щодня працює на власній системі.

Дані залишаються локально, усередині CLARYEL Box.

Як це працює

  1. Ставимо завдання простими словами: голосом або повідомленням
  2. Агент CLARYEL сам розбирається й виконує всю роботу
  3. Отримуємо результат і звіт, часто більше, ніж просили

Від нас: лише завдання та погодження важливих дій.

Business

Щоденні завдання компанії, які ми вирішуємо голосом через систему.

Бухгалтерія

Перевірка рахунків: FAKE і дублікати

Ми запитали, скільки витратили на IT за рік. Система сама знайшла рахунки FAKE і дублікати, після нашого погодження прибрала їх і виправила власну цифру.

  1. Запитання
  2. Виправлення
  3. Виправлений результат
Що на знімку

Питання: скільки ми витратили на IT за останній рік. Агент CLARYEL відповідає: близько €54.691, і сам зазначає, що серед документів є рахунки FAKE і дублікати.

Що на знімку

Просимо прибрати дані FAKE і дублікати. Агент знаходить 64 рахунки FAKE, перед примусовим видаленням просить нашого погодження, потім очищає дані й перевіряє результат.

Що на знімку

Перевірений підсумок: 188 дійсних рахунків на €38.627,70. Агент сам виправляє свою попередню відповідь: витрати на IT за останній рік склали €36.993,58.

Знімки — мовою оригіналу; під кожним є стислий переказ.

До → після (за скриншотами 1–3)

  • Видалено 64 FAKE-рахунки
  • 188 коректних рахунків · €38.627,70
  • IT за останній рік: ≈€54.691 → €36.993,58

Усе справжнє: реальна система, реальні документи, реальні суми. Просто з нашої щоденної роботи: документи зібрано з акаунта Amazon, кількох поштових скриньок, Google Drive і фізичного архіву нашої системи.

Оригінальний пост у X

Бухгалтерія

Бухгалтерія під ключ: від нового комп’ютера до податкової

Процес повністю: з нуля налаштувати комп’ютер, установити Ubuntu, потрібні програми, Odoo і NextERP, забрати рахунки з Amazon Business і надіслати їх до Agenzia delle Entrate. Завдання ставляться голосом із телефона, перевіряється лише результат.

Що на знімку

Ілюстрація до допису, а не знімок екрана: сім кроків (новий комп’ютер, Ubuntu 24.04, Docker/Python/Git та інші програми, Odoo, NextERP, рахунки Amazon Business, надсилання до Agenzia delle Entrate) і внизу голосове завдання з телефона.

Ілюстрація до допису, а не знімок екрана.

Оригінальний пост у X

ERP

ERP, інтерфейс якої ми ще не відкривали

Один бізнес-процес уже працює повністю через агента: рахунки й транспортні документи з пошти, Google Drive і Amazon Business → ERP і бухгалтерія → податкова система → зведені звіти → звірка з банківськими виписками.

Що на знімку

Ілюстрація до допису, а не знімок екрана: ліворуч — людина серед гір вікон і налаштувань, праворуч — голосове завдання агентові, який сам працює з програмами й видає готовий результат.

Ілюстрація до допису, а не знімок екрана.

Оригінальний пост у X

Налаштування та інфраструктура

Як агент CLARYEL сам налаштовує й обслуговує наші машини: залізо, охолодження, моделі ШІ, швидкість.

Охолодження

Керування вентилятором GPU

Ми попросили простими словами: вентилятор GPU має крутитися залежно від температури відеокарти, а налаштування — переживати перезавантаження. Агент CLARYEL сам з'ясував, чим керувати, на хвилину розкрутив вентилятор на максимум, налаштував криву й підтвердив усе справжнім перезавантаженням, приблизно за 30 хвилин.

  1. Проханнязвичайний текст, без команд
  2. РозвідкаZ10PA-U8 · Tesla P100 · NCT7904D
  3. Хвилина на максимумі1468 → 5294–5421 RPM за 5 с · GPU 37 → 31 °C
  4. Крива≤35 °C 35% → ≥85 °C 100%
  5. Перезавантаження1319 RPM, 35 °C: усе піднялося саме
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
Крива: температура GPU → оберти вентилятора~78%: аварійний режим, якщо датчик температури перестане відповідатиПлавно: не більше ±15% за 5 с

Понад завдання

  • Зберіг процедуру як навичку для наступних машин.
  • Чесно пояснив, на чому ґрунтується висновок, що fan5 — це вентилятор GPU.
  • У тій самій сесії також перейменував машину на P1005, про що ми просили раніше.
  • Від нас: одна команда для прав адміністратора, відповідь «Ready» та одне підтвердження по ходу.
  • ≈ 30 хвилин (06:26–06:57 за знімками)
Що на знімку

Наше прохання (06:26) звичайним текстом. Агент одразу починає розвідку без прав адміністратора: плата Z10PA-U8, GPU Tesla P100; інтерфейсу керування вентилятором поки немає; температура GPU читається: 39 °C.

Що на знімку

Агент просить нас один раз виконати команду, яка дає йому права адміністратора на P1005 (їх можна відкликати будь-коли), і викладає план: знайти чип, що керує вентилятором, невелика служба за температурою GPU, хвилина на максимумі з перевіркою тахометром. Адресу машини закрито.

Що на знімку

Кінець плану: служба з автозапуском, перейменування хоста на P1005; якщо керування виявиться неможливим, агент чесно про це скаже. Наша відповідь «Ready» (06:29), далі хід роботи: служба керування, одне підтвердження (06:43), «усе пережило перезавантаження» (06:49) і початок звіту.

Що на знімку

Звіт, пункти 1–3: чип Nuvoton NCT7904D, зіставлення каналів (pwm2 → fan5, до ~5300 RPM: турбіна P100), хвилина на максимумі (1468 → 5294–5421 RPM за 5 с, GPU 37 → 31 °C) і робоча крива.

Що на знімку

Звіт, пункт 4 і підсумок: автозапуск драйвера та служби, справжнє перезавантаження (fan5 на 1319 RPM, GPU 35 °C, Strata піднялася сама, порт 8080 слухає), ім'я хоста P1005, чесна примітка про те, як визначено вентилятор GPU, і процедура, збережена як навичка.

Знімки — мовою оригіналу; під кожним є стислий переказ.

Оригінальний пост у X

Конфігурація

Технічне запитання, голосом

Практичне завдання: голосовим повідомленням запитали, як влаштована система. Вона відповіла реальними даними наших машин: обладнання, диски, модель ШІ та швидкість. Якщо якийсь пункт незрозумілий, досить одразу запитати, що він означає.

Що на знімку

Відповідь на голосове питання про конфігурацію: дві машини, claryel01 і P2002, з процесором, пам'яттю, GPU, дисками, версіями програм, моделлю ШІ та виміряною швидкістю (~44–48 tok/s). Унизу рядок про резервну модель (Cloud fallback: xAI Grok 4.7).

У цьому завданні резервна модель була зовнішньою (Grok) і без фільтра. Для нашої локальної системи це неприйнятно, тому резервну модель замінили другою локальною. Сьогодні хмарні моделі викликаються лише через фільтр і, коли потрібно, після явного підтвердження користувача.

Парк машин

Три машини, один агент

Ми попросили коротку довідку про всі наші машини зі Strata. Агент CLARYEL сам перевірив мережу, знайшов три машини й зібрав для кожної пам'ять, диск, GPU, версії Strata та моделі й швидкість. Усіма трьома керує один агент.

швидкість генерації

  • P2002основна62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studioнайшвидша256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005для фонових задач31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

На всіх трьох: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · контекст 262 144

Що на знімку

Наш запит (07:47) і початок відповіді: мережу перевірено, машин три. Перша — P2002: 62 GiB DDR5, Lexar NM1090 PRO 2 TB, AMD RDNA4 з 16 GiB, Strata v0.1.45, Qwen3.8-Flash-Next IQ3_S, 46.8 tok/s. Адресу закрито.

Що на знімку

Mac Studio: 256 GB LPDDR5X (M3 Ultra), SSD 2 TB, 60.0 tok/s, найшвидша. P1005: 31 GiB DDR4, Tesla P100 16 GB, 16.2 tok/s, для фонових задач. Підсумок: один агент на claryel01 керує всіма трьома, скрізь та сама модель; резерв P2002 → Mac Studio → Grok. Адреси закрито.

У цьому завданні резервна модель була зовнішньою (Grok) і без фільтра. Для нашої локальної системи це неприйнятно, тому резервну модель замінили другою локальною. Сьогодні хмарні моделі викликаються лише через фільтр і, коли потрібно, після явного підтвердження користувача.

Оригінальний пост у X

Встановлення

Strata на новій машині: агент сам подолав усі підводні камені

Ми попросили розповісти, які труднощі виникли під час запуску Strata v0.1.45 на Mac Studio (M3 Ultra, 256 GB). Агент CLARYEL сам зібрав рушій із вихідного коду, знайшов і застосував виправлення, переніс модель на 79 GB та обійшов помилку рушія.

Що на знімку

Наше запитання (05:16) про труднощі зі Strata на Mac Studio. Відповідь, пункти 1–3: немає готової збірки під Mac, зламана збірка 0.1.45 і виправлення з PR #2895, початок розповіді про перенесення моделі на 79 GB.

Що на знімку

Пункти 3–6: перенесення моделі (Starlink ~6,5 MB/s, мережа ~11 MB/s, rsync з P2002 за 2 год 05 хв), помилка регістру в назві моделі, помилка рушія «кожен запит 400» і обхід --no-prefill-borrow, плутанина зі старим процесом на порту 8080.

Що на знімку

Пункти 6–7 і підсумок: «зависання» під час першого старту (~10 хвилин на читання 55 GB з диска), Mac ≈ P2002 на генерації (~58 проти ~57 tok/s), prefill +36%, усе збережено в навичку strata-mac-deploy.

Знімки — мовою оригіналу; під кожним є стислий переказ.

Оригінальний пост у X

Оновлення

Агент оновив рушій власного «мозку»

У Telegram ми попросили агента CLARYEL оновити Strata на P2002 — машині, на якій працює він сам. Агент запустив оновлення зі страховкою, сам виправив збій на останньому кроці й чесно порівняв швидкість до і після.

Що на знімку

Запитання про версії (04:30), відповідь (v0.1.43.1 на P2002, v0.1.45 на GitHub) і команда «онови себе» (04:31). Агент описує план: оновлення окремо від себе і сторож з автоматичним відкатом на 0.1.43.1.

Що на знімку

Рядок про перемикання на запасну модель (grok-4.7) о 04:46; звіт: код на v0.1.45, рушій зібрано (34 MB, 0 помилок), заміна файлу не вдалася («Text file busy»), агент виправляє сам. Нижче — запис про оновлення навички і наше запитання про поточну версію (04:50).

Що на знімку

Відповідь: на P2002 працює Strata v0.1.45, стара 0.1.43.1 збережена як резерв, модель Qwen3.8-Flash-Next IQ3_S, контекст 262 144; виміри швидкості до і після оновлення.

Що на знімку

Висновок агента: prefill помітно покращився (до +80% в одному вимірі), генерація нижча на ~10–20% у двох свіжих вимірах; агент пропонує ще 3–4 прогони і відкат, якщо сповільнення підтвердиться.

Знімки — мовою оригіналу; під кожним є стислий переказ.

У цьому завданні резервна модель була зовнішньою (Grok) і без фільтра. Для нашої локальної системи це неприйнятно, тому резервну модель замінили другою локальною. Сьогодні хмарні моделі викликаються лише через фільтр і, коли потрібно, після явного підтвердження користувача.

Оригінальний пост у X

Моніторинг

Ранкова перевірка дому й комп’ютерів

Зранку агент CLARYEL сам перевіряє датчики розумного дому Home Assistant, резервні копії, стан дисків і температуру підключених комп’ютерів — і повідомляє лише те, що потребує уваги.

Що на знімку

Ілюстрація до допису, а не знімок екрана: підсумок ранкової перевірки — кімната з комп’ютерами 28,8 °C, батарейки датчиків 20% (офіс) і 30% (тераса), датчик дверей «Leo» у стані ON, який варто перевірити.

Що на знімку

Ілюстрація до допису, а не знімок екрана: схема Strata v0.1.43 → Qwen3.8-Flash-Next (IQ3_S) → агент → датчики Home Assistant, резервні копії, диски, температура комп’ютерів; унизу — допоміжні інструменти (Telegram, ChatGPT, ChatGPT Go + Codex, Grok 4.7).

Ілюстрація до допису, а не знімок екрана.

У цьому завданні резервна модель була зовнішньою (Grok) і без фільтра. Для нашої локальної системи це неприйнятно, тому резервну модель замінили другою локальною. Сьогодні хмарні моделі викликаються лише через фільтр і, коли потрібно, після явного підтвердження користувача.

Оригінальний пост у X

Залізо і швидкість моделей

Як та сама модель працює на різному залізі — від старої Tesla P100 до нової Radeon. Цифри — лише з екранів.

Швидкість моделі

31 tok/s, а RAM майже вільна: модель читається з SSD

Strata v0.1.41, Qwen3.8-Flash-Next IQ3_XXS, Radeon 16 GB і 31 GB RAM. Відповідь на 12 136 токенів — зі швидкістю 31 tok/s, а оперативної пам’яті зайнято лише 3,2 GB.

Що на знімку

Монітор Strata: генерація 31,0 tok/s, prefill 43 tok/s, VRAM 15,7/16 GB, GPU 45 °C, контекст заповнено на 19% (12k з 64k), один запит: 12 136 токенів за 396,3 с; оперативна пам’ять 3,2/31 GB.

Що на знімку

Модель і рушій: qwen3.8-flash-next-iq3_xxs, v0.1.41, контекст 65 536 токенів, KV-кеш 8 біт у VRAM, 5 681 експерт у VRAM (9,2 GB). Комп’ютер: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 потоки), 31 GB RAM.

Що на знімку

Вибрані налаштування Strata: Qwen3.8-Flash-Next, IQ3_XXS, контекст 64K, KV-кеш 8 біт, зображення вимкнено, режим low-RAM (31 GB RAM, експерти частково читаються з SSD), AMD Radeon RX 9070 (~16 GB VRAM); файл моделі ~47 GB.

Знімки — мовою оригіналу; під кожним є стислий переказ.

Оригінальний пост у X

Швидкість моделі

Контекст 256K: 26 запитів на одній відеокарті 16 GB

Запустили Strata v0.1.41 з Qwen3.8-Flash-Next IQ3_S на контексті 262 144 токени. Відповіді до 14 829 токенів, оперативної пам’яті зайнято 3,3 з 31 GB — модель працює майже лише у відеопам’яті.

Що на знімку

Кадр із відео: модель пише довгу технічну відповідь про те, як влаштовані моделі Mixture-of-Experts (маршрутизація експертів, KV-кеш, ієрархія пам’яті). Відео повністю — у вихідному дописі.

Що на знімку

Монітор Strata: генерація останнього запиту 14,8 tok/s, prefill 112 tok/s, VRAM 15,8/16 GB, контекст 62% (162k/256k), RAM 3,3/31 GB; у таблиці запитів — генерація від 13,0 до 19,6 tok/s і відповіді до 14 829 токенів, разом 26 запитів.

Що на знімку

Модель і рушій: qwen3.8-flash-next-iq3_s, v0.1.41, контекст 262 144 токени, KV-кеш 8 біт у VRAM, 3 114 експертів у VRAM (6,0 GB). Комп’ютер: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 потоки), 31 GB RAM.

Знімки — мовою оригіналу; під кожним є стислий переказ.

Відео — у вихідному дописі; тут кадр із нього.

Оригінальний пост у X

Швидкість моделі

Більше RAM: 45 tok/s на контексті 164 000 токенів

Та сама машина зі збільшеною оперативною пам’яттю (у системі 62 GB). Strata v0.1.43 з Qwen3.8-Flash-Next IQ3_S: генерація 45,2 tok/s при контексті, заповненому на 63%.

Що на знімку

Монітор Strata: генерація 45,2 tok/s, prefill 94 tok/s, VRAM 15,9/16 GB, GPU 44 °C, контекст 63% (164k/256k), RAM 53,5/62 GB; два запити приблизно по 162 000 токенів, prefill 1 176 tok/s, генерація 48,3 і 45,2 tok/s.

Що на знімку

Модель і рушій: qwen3.8-flash-next-iq3_s, v0.1.43, контекст 262 144 токени, KV-кеш 8 біт у VRAM, 3 114 експертів у VRAM (6,0 GB). Комп’ютер: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 потоки), 62 GB RAM.

Знімки — мовою оригіналу; під кожним є стислий переказ.

Оригінальний пост у X

Швидкість моделі

Старий Xeon і Tesla P100: 19–27 tok/s

Найскромніша конфігурація: Intel Xeon E5-2690 v4, 31 GB RAM і відеокарта Tesla P100 16 GB. Strata v0.1.45 з Qwen3.8-Flash-Next IQ3_S видає 19–27 tok/s, а оперативної пам’яті зайнято лише 2,2 GB.

Що на знімку

Монітор Strata і htop: генерація 26,9 tok/s, завантаження Tesla P100 100%, VRAM 15,7/16 GB, 97 Вт, PCIe Gen3 x16, CPU 45%, читання з диска 164 MB/s, RAM 2,2/31 GB; запити: 19,3 tok/s (253 токени) і 25,3 tok/s (12 686 токенів за 504,1 с).

Що на знімку

Модель і рушій: qwen3.8-flash-next-iq3_s, v0.1.45, контекст 262 144 токени, KV-кеш 8 біт у VRAM, 3 051 експерт у VRAM (5,8 GB). Комп’ютер: Tesla P100 16 GB, Intel Xeon E5-2690 v4 (28 потоків), 31 GB RAM.

Знімки — мовою оригіналу; під кожним є стислий переказ.

Оригінальний пост у X

Бухгалтерія

Перевірка рахунків: FAKE і дублікати

Реальний сценарій з нашої ERP, у три кроки.

  1. Запитання

    Запитуємо, скільки ми витратили на IT за останній рік. Система відповідає (≈ €54.691) і сама вказує на рахунки FAKE та дублікати.

  2. Виправлення

    Просимо видалити дані FAKE і дублікати. Перед примусовим видаленням система запитує наше схвалення, потім очищає і перевіряє.

  3. Виправлений результат

    188 дійсних рахунків на €38.627,70. Виправлена сума: €36.993,58: система сама виправляє свою попередню відповідь і підтверджує підсумковий стан.

До → після (за скриншотами 1–3)

  • Видалено 64 FAKE-рахунки
  • 188 коректних рахунків · €38.627,70
  • IT за останній рік: ≈€54.691 → €36.993,58

Реальний сценарій з нашої ERP: на запитання про витрати на IT система сама знаходить рахунки FAKE і дублікати, видаляє їх після нашого схвалення, перевіряє результат і виправляє свою попередню суму.

Видаляти документи безпечно: дані резервуються, є історія змін із можливістю відкату й постійна звірка, наприклад із банківськими виписками.

Охолодження

Керування вентилятором GPU

Завдання, на знімку 1: вентилятор GPU підключено до материнської плати; він має стежити за температурою GPU, хвилину попрацювати на максимумі, щоб підтвердити, що керування працює, потім отримати оптимальні рівні, а після перезавантаження все має працювати автоматично.

  1. Прохання

    Звичайне повідомлення в Telegram, без технічних команд.

  2. Розвідка

    Спершу, без прав адміністратора, агент з'ясував: плата Z10PA-U8, GPU Tesla P100, температура GPU читається (39 °C), але керувати вентилятором поки нічим. Він попросив права адміністратора однією командою й виклав план. Отримавши доступ, знайшов чип Nuvoton NCT7904D (9 входів тахометра, 4 канали PWM) і, проганяючи кожен канал від 0 до 255, зіставив: pwm2 → fan5, до ~5300 RPM, тобто турбіна P100. Решта три канали залишилися на автоматиці BIOS.

  3. Хвилина на максимумі

    pwm2 = 255 протягом 60 секунд: за 5 секунд fan5 зріс з 1468 до 5294–5421 RPM, а GPU охолонув з 37 до 31 °C. Потім керування повернулося до кривої (255 → 195 → 90); роботу підтверджують показники тахометра.

  4. Крива

    ≤35 °C → 35%, 45 °C → 47%, 60 °C → 67%, 75 °C → 86%, ≥85 °C → 100% (P100 знижує частоти при 91 °C, тож запас лишається). Оберти змінюються плавно, не більше ±15% за 5 секунд; якщо nvidia-smi перестане відповідати, вентилятор переходить в аварійний режим ~78%.

  5. Перезавантаження

    Драйвер завантажується автоматично, а керування працює як служба з автозапуском. Агент справді перезавантажив машину й перевірив усе з нуля: модуль завантажено, служба активна, fan5 на 1319 RPM, GPU 35 °C.

Понад завдання

  • Зберіг процедуру як навичку для наступних машин.
  • Чесно пояснив, на чому ґрунтується висновок, що fan5 — це вентилятор GPU.
  • У тій самій сесії також перейменував машину на P1005, про що ми просили раніше.
  • Від нас: одна команда для прав адміністратора, відповідь «Ready» та одне підтвердження по ходу.
  • ≈ 30 хвилин (06:26–06:57 за знімками)

Конфігурація

Технічне запитання, голосом

Практичне завдання: голосовим повідомленням запитали, як влаштована система. Вона відповіла реальними даними наших машин: обладнання, диски, модель ШІ та швидкість. Якщо якийсь пункт незрозумілий, досить одразу запитати, що він означає.

Що показує відповідь: дві машини, claryel01 і P2002; процесор, пам'ять, GPU і диски; версії програм; модель ШІ; виміряна швидкість.

У цьому завданні резервна модель була зовнішньою (Grok) і без фільтра. Для нашої локальної системи це неприйнятно, тому резервну модель замінили другою локальною. Сьогодні хмарні моделі викликаються лише через фільтр і, коли потрібно, після явного підтвердження користувача.

Незрозумілий технічний термін? Одразу запитайте систему просто в діалозі: вона пояснить простими словами.

Парк машин

Три машини, один агент

Запит, на знімку 1 (07:47): для кожної машини зі Strata обсяг і тип пам'яті, NVMe, GPU й відеопам'ять, версія Strata, модель, версія агента та швидкість моделі на цій машині; відповідь коротко й англійською.

Агент сам просканував мережу й підтвердив, що машин три (інші адреси — принтер і Wi-Fi-порт Mac). Усі три працюють на Strata v0.1.45 з однією моделлю Qwen3.8-Flash-Next IQ3_S (контекст 262 144), тож відповіді однакові, яка б машина не відповідала.

швидкість генерації

  • P2002основна62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studioнайшвидша256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005для фонових задач31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

На всіх трьох: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · контекст 262 144

Швидкість генерації: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (найшвидша), P1005 16.2 tok/s: модель 78 GB при 31 GB пам'яті, тому ця машина бере фонові задачі. Усіма трьома керує один екземпляр агента на claryel01; резерв іде ланцюжком P2002 → Mac Studio → Grok.

У цьому завданні резервна модель була зовнішньою (Grok) і без фільтра. Для нашої локальної системи це неприйнятно, тому резервну модель замінили другою локальною. Сьогодні хмарні моделі викликаються лише через фільтр і, коли потрібно, після явного підтвердження користувача.

Бухгалтерія

Бухгалтерія під ключ: від нового комп’ютера до податкової

Віктор уже пройшов цей процес із хмарними агентами, майже не торкаючись інтерфейсів програм: завдання голосом, перевірка результату. Тепер ми переносимо такі реальні процеси на локальний ШІ CLARYEL.

Кроки: новий комп’ютер з нуля → Ubuntu і налаштування → потрібні програми → бухгалтерська система Odoo → ERP NextERP → імпорт рахунків з Amazon Business → надсилання до Agenzia delle Entrate.

Перше спостереження: локально такі завдання поки що тривають довше, ніж у хмарі. Спершу дивимося, що працює «з коробки», і лише потім оптимізуємо.

Ілюстрація до допису, а не знімок екрана.

ERP

ERP, інтерфейс якої ми ще не відкривали

Ми не вивчаємо кнопки й меню: просимо агента встановити програму й виконати потрібні функції — через API, MCP або керуючи власним комп’ютером агента. Нам потрібен результат, а не інтерфейс.

Процес по кроках: зібрати рахунки й транспортні документи з пошти, Google Drive і акаунта Amazon Business; внести їх в ERP і бухгалтерію; передати дані до податкової системи; зібрати зведені звіти; звірити все з банківськими виписками, які теж лежать на Google Drive.

З налаштуваннями так само: замість того щоб розбиратися в кожному, кажемо агентові «потрібно, щоб працювало так: зроби, перевір і скажи результат». Ми ставимо завдання й перевіряємо підсумок. Поки не з усіма програмами це вдається повністю.

Ілюстрація до допису, а не знімок екрана.

Встановлення

Strata на новій машині: агент сам подолав усі підводні камені

Готової збірки під Mac немає: рушій Metal компілюється з вихідного коду (~5–15 хв). Збірка 0.1.45 під Mac виявилася зламаною; агент знайшов відкритий PR #2895, застосував його до релізу, і перезбірка пройшла.

Модель на 79 GB: через HuggingFace по Starlink вийшло б ~6,5 MB/s (~3,4 год), тому агент переніс її через rsync з P2002 із прокиданням SSH-агента за 2 год 05 хв. Потім кожен запит до рушія повертав 400; агент знайшов у вихідному коді обхід --no-prefill-borrow.

Підсумок: Mac ≈ P2002 на генерації (~58 проти ~57 tok/s) і помітно швидший на prefill (+36%). Усі підводні камені агент зберіг у навичку strata-mac-deploy, тож повтор — майже копіювання.

Оновлення

Агент оновив рушій власного «мозку»

Запитання (04:30): яка версія Strata у «мозку» і яка остання на GitHub. Відповідь: на P2002 v0.1.43.1, остання — v0.1.45 (вийшла 17 жовтня 2026). Агент попередив, що оновлення перезапустить рушій, на якому працює він сам: кілька хвилин простою, відкат як страховка.

За командою «онови себе» (04:31) агент запустив оновлення окремо від себе: git pull → збірка рушія HIP 0.1.45 → перезапуск служби, а сторож 5 хвилин стежить за рушієм і відкочує на 0.1.43.1, якщо той не підніметься. Збірка пройшла чисто (34 MB, 0 помилок), але замінити робочий файл не вдалося («Text file busy»), і рушій зупинився. Агент зберіг старий файл як резерв, установив новий вручну й перезапустив службу.

Перевірка (04:50): працює v0.1.45, модель Qwen3.8-Flash-Next IQ3_S, контекст 262 144. Швидкість тим самим скриптом: коротка відповідь 31,0 (було 33,5–33,7), генерація 1024 токенів 47,7 / 44,4 (було 53,0–60,1), prefill 1,5K 874 / 531 (було 488–490). Висновок агента: prefill помітно кращий, генерація у двох вимірах нижча на ~10–20%; за двома прогонами він не називає це регресом і пропонує ще 3–4 виміри та відкат на 0.1.43.1, якщо сповільнення підтвердиться.

У цьому завданні резервна модель була зовнішньою (Grok) і без фільтра. Для нашої локальної системи це неприйнятно, тому резервну модель замінили другою локальною. Сьогодні хмарні моделі викликаються лише через фільтр і, коли потрібно, після явного підтвердження користувача.

Моніторинг

Ранкова перевірка дому й комп’ютерів

Зв’язка на картинці: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + агент. Агент читає датчики Home Assistant (температура, вологість, рух, світло, енергія) і перевіряє резервні копії, диски та температуру комп’ютерів. Спілкуємося з ним через Telegram.

Що знайшла перевірка: у кімнаті з комп’ютерами 28,8 °C — помітно тепліше, ніж в інших приміщеннях, варто перевірити вентиляцію й охолодження; батарейки датчиків в офісі (20%) і на терасі (30%) час замінити; датчик дверей «Leo» показує ON, але показник може бути застарілим — його треба перевірити на місці.

Інтерфейс Home Assistant Віктор при цьому навіть не відкривав. Допоміжні інструменти того дня: ChatGPT намалював картинку для допису, ChatGPT Go + Codex допомагали з налаштуванням, а агент час від часу звертався до Grok 4.7 як до додаткової моделі для складних міркувань.

У цьому завданні резервна модель була зовнішньою (Grok) і без фільтра. Для нашої локальної системи це неприйнятно, тому резервну модель замінили другою локальною. Сьогодні хмарні моделі викликаються лише через фільтр і, коли потрібно, після явного підтвердження користувача.

Ілюстрація до допису, а не знімок екрана.

Швидкість моделі

31 tok/s, а RAM майже вільна: модель читається з SSD

Налаштування: модель Qwen3.8-Flash-Next IQ3_XXS (~47 GB), контекст 64K (65 536 токенів), KV-кеш 8 біт, режим low-RAM: частина «експертів» моделі читається з SSD. Відеокарта AMD Radeon RX 9070, ~16 GB.

Результат на моніторі Strata: 12 136 токенів за 396,3 с, генерація 31,0 tok/s, VRAM 15,7 з 16 GB, оперативна пам’ять 3,2 з 31 GB, GPU 45 °C. У відеопам’яті 5 681 «експерт» (9,2 GB), решта дочитується з диска.

Висновок: велика модель працює без величезного обсягу RAM, бо рушій тримає у відеопам’яті найпотрібніше й дочитує решту зі швидкого SSD. Це шлях до помітно доступніших комп’ютерів для локального ШІ.

Швидкість моделі

Контекст 256K: 26 запитів на одній відеокарті 16 GB

Мета була проста: зрозуміти, як згодом автоматизувати такі прогони на різному залізі й як оформлювати результати для порівняння. Машина: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Підсумок з ранку неділі (09:44): 26 запитів, 169 326 токенів запиту прочитано зі швидкістю 108 tok/s (ще 1 923 247 узято з кешу розмови), 166 539 токенів написано із середньою швидкістю 20,5 tok/s. Контекст заповнено на 62% (162k з 256k).

Не все пройшло гладко: у списку один запит «Closed» і один «Stopped». Відео у вихідному дописі показує, як модель пише довгу технічну відповідь; там само Віктор розбирає, що пішло не так.

Швидкість моделі

Більше RAM: 45 tok/s на контексті 164 000 токенів

Комп’ютер: Intel Core Ultra 7 270K Plus (24 потоки), AMD Radeon 16 GB, 62 GB RAM, контекст 262 144 токени. Тепер рушій використовує й оперативну пам’ять: зайнято 53,5 з 62 GB.

Два запити приблизно по 162 000 токенів: перший прочитано зі швидкістю 1 176 tok/s, генерація 48,3 tok/s; другий майже повністю взято з кешу розмови (162 199 токенів), генерація 45,2 tok/s.

Компроміс зрозумілий: із більшим обсягом RAM генерація помітно швидша, але пам’яті для інших завдань залишається менше. Із 31 GB рушій майже не торкався RAM, і комп’ютер лишався вільним для іншої роботи.

Швидкість моделі

Старий Xeon і Tesla P100: 19–27 tok/s

Модель не вміщується в оперативну пам’ять і працює з відеопам’яті (15,7 з 16 GB) та з NVMe-диска через PCIe 3.0. Процесор завантажено приблизно на 45%, оперативна пам’ять майже вільна — комп’ютер можна використовувати й для іншої роботи.

На моніторі: генерація зараз 26,9 tok/s; в історії запитів — 19,3 tok/s на короткій відповіді (253 токени) і 25,3 tok/s на довгій (12 686 токенів за 504,1 с). Відеокарта 36 °C, 97 Вт із 250.

Для нас це головний орієнтир за ціною: навіть старе й недороге залізо за правильного налаштування рушія вже придатне для реальної роботи.

Чим небезпечна хмара

Усі документи компанії в чужій хмарі? Це ризик, а не зручність

Коли договори, кошториси, листи й ноу-хау потрапляють у хмарний ШІ чи SaaS, компанія залежить від чужих правил: провайдер обробляє дані на своїх серверах, може змінювати умови використання даних, ціни й ліміти, а його інфраструктура та підрядники можуть зазнати збою чи зламу. На американських провайдерів поширюється CLOUD Act, а правова основа передачі даних ЄС–США знову під питанням. З CLARYEL документи й ШІ залишаються на обладнанні клієнта: зашифрований диск, резервні копії, зашифрований віддалений доступ і база, яку можна вимкнути будь-якої миті. На базових конфігураціях це повільніше за хмару, зате без лімітів токенів і без сюрпризів у рахунку.1,3–5,7,9–15

Для італійської компанії це ще й питання комерційної таємниці: ст. 98 Кодексу промислової власності захищає інформацію, лише якщо вона охороняється «розумно достатніми заходами». За розголошення комерційної таємниці загрожує до 2 років позбавлення волі (ст. 623 КК Італії), з обтяженням у разі використання ІТ-засобів.17,18

Швидкі зовнішні моделі — лише через фільтр

За потреби система CLARYEL може звертатися до швидких передових зовнішніх моделей. Перед надсиланням вона видаляє із запиту персональні дані та комерційну таємницю, зберігаючи зміст запиту. Коли потрібно, вона показує вам відфільтрований запит і надсилає його в хмару лише після вашого явного підтвердження.

Фільтр допомагає знизити ризики; він не обіцяє 100% анонімізації.

Чесно: канал команд (Telegram) — зовнішній сервіс, тому повідомлення та голосові проходять через сервери Telegram. Документи, база знань і обробка ШІ залишаються локально.

Джерела

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. AWS — US-EAST-1 service disruption summary (Oct 2025)
  15. Cloudflare — outage on 18 November 2025
  16. The Register — unauthorized API usage bills (2026)
  17. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  18. Codice penale, art. 623 — Normattiva

Загальна інформація, не юридична консультація. Локальна система допомагає знизити ризики; відповідальність за дотримання вимог залишається за компанією.

Чим небезпечна хмара

Дати хмарному агенту ключі від інфраструктури — означає відчинити двері до найцінніших даних

Кожен API‑ключ, OAuth-токен чи тунель, виданий хмарному агенту, — ще одні двері для зловмисника. Викрадені облікові дані — найчастіший шлях усередину; одна скомпрометована інтеграція призвела до крадіжки даних у багатьох компаній; prompt injection дає змогу вивести дані без кліку; заражені пакети вже використовують ШІ-агентів для пошуку секретів. Хмарний агент із доступом до ваших машин і ключів — точка витоку та шлях до локальної системи, де зберігаються всі або найчутливіші дані. Локальна архітектура CLARYEL скорочує зовнішні точки доступу й просить людину підтверджувати ризиковані дії — відповідно до OWASP і вимог NIS2 щодо ланцюга постачання.1–7

Джерела

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

Загальна інформація, не юридична консультація. Локальна система допомагає знизити ризики; відповідальність за дотримання вимог залишається за компанією.

Чим небезпечна хмара

Налаштування заліза й моделей залишається всередині: жодного хмарного агента поруч із вашими машинами

Виміри на цій сторінці зробив агент CLARYEL на наших власних машинах, не надаючи хмарному сервісу доступу до них. Викрадені облікові дані та відкриті панелі агентів показують чому: у кого ключі, у того й система. Локальна швидкість залежить від заліза й на невеликих конфігураціях нижча, ніж у хмарі; натомість обсяг роботи не обмежений тарифами, квотами чи рахунком за токени.1,2

Джерела

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

Загальна інформація, не юридична консультація. Локальна система допомагає знизити ризики; відповідальність за дотримання вимог залишається за компанією.