Используем каждый день

Охлаждение

Управление вентилятором GPU

Задача на скрине 1: вентилятор GPU подключён к материнской плате; он должен следовать температуре GPU, минуту поработать на максимуме, чтобы убедиться, что управление работает, затем получить оптимальные уровни, и после перезагрузки всё должно работать автоматически.

1. 1
   Просьба

   Обычный текст в Telegram, без технических команд.

2. 2
   Разведка

   Сначала без прав администратора агент выяснил: плата Z10PA-U8, GPU Tesla P100, температура GPU читается (39 °C), но управлять вентилятором пока нечем. Он попросил права администратора одной командой и расписал план. Получив доступ, нашёл чип Nuvoton NCT7904D (9 входов тахометров, 4 канала PWM) и, прогоняя каждый канал от 0 до 255, сопоставил: pwm2 → fan5, до ~5300 RPM — это турбина P100. Остальные три канала оставил на автоматике BIOS.

3. 3
   Минута на максимуме

   pwm2 = 255 на 60 секунд: fan5 за 5 секунд вырос с 1468 до 5294–5421 RPM, GPU остыл с 37 до 31 °C. Затем управление вернулось к кривой (255 → 195 → 90); работу подтвердили показания тахометра.

4. 4
   Кривая

   ≤35 °C → 35%, 45 °C → 47%, 60 °C → 67%, 75 °C → 86%, ≥85 °C → 100% (P100 начинает снижать частоты при 91 °C, запас оставлен). Обороты меняются плавно, не больше чем на ±15% за 5 секунд; если nvidia-smi перестанет отвечать, вентилятор уходит в аварийный режим ~78%.

5. 5
   Перезагрузка

   Драйвер загружается автоматически, управление работает как служба с автозапуском. Агент реально перезагрузил машину и проверил всё с нуля: модуль загружен, служба активна, fan5 — 1319 RPM, GPU — 35 °C.

• От нас: одна команда для выдачи прав администратора, ответ «Ready» и одно подтверждение по ходу работы.
• ≈ 30 минут (06:26–06:57 по скриншотам)

Конфигурация

Технический вопрос голосом

Практическая задача: голосовым сообщением спросили, как устроена система. Она ответила реальными данными наших машин: железо, диски, модель ИИ и скорость. Если какой-то пункт непонятен, достаточно сразу спросить, что он значит.

Что видно в ответе: две машины, claryel01 и P2002; процессор, память, GPU и диски; версии ПО; модель ИИ; измеренная скорость.

В этой задаче резервная модель была внешней (Grok) и без фильтра. Для нашей локальной системы это неприемлемо, поэтому резервную модель заменили второй локальной. Сегодня облачные модели вызываются только через фильтр и, когда нужно, после явного подтверждения пользователя.

Непонятен технический термин? Сразу спросите систему прямо в диалоге: она объяснит простыми словами.

Парк машин

Три машины — один агент

Запрос на скрине 1 (07:47): для каждой машины со Strata — объём и тип памяти, NVMe, GPU и видеопамять, версия Strata, модель, версия агента и скорость модели на этой машине; ответить коротко и по-английски.

Агент сам просканировал сеть и подтвердил, что машин три (остальные адреса — принтер и Wi-Fi-порт Mac). Все три работают на Strata v0.1.45 с одной и той же моделью Qwen3.8-Flash-Next IQ3_S (контекст 262 144), поэтому ответы одинаковые, какая бы машина ни отвечала.

Скорость генерации: P2002 — 46.8 tok/s, Mac Studio — 60.0 tok/s (самая быстрая), P1005 — 16.2 tok/s: модель 78 ГБ при 31 ГБ памяти, поэтому эта машина — для фоновых задач. Всеми тремя управляет один экземпляр агента на claryel01; резерв идёт по цепочке P2002 → Mac Studio → Grok.

В этой задаче резервная модель была внешней (Grok) и без фильтра. Для нашей локальной системы это неприемлемо, поэтому резервную модель заменили второй локальной. Сегодня облачные модели вызываются только через фильтр и, когда нужно, после явного подтверждения пользователя.

Установка

Strata на новой машине: агент сам прошёл все подводные камни

Готовой сборки под Mac нет: движок Metal компилируется из исходников (~5–15 мин). Сборка 0.1.45 под Mac оказалась сломана; агент нашёл открытый PR #2895, применил его к релизу, и пересборка прошла.

Модель на 79 GB: через HuggingFace по Starlink вышло бы ~6,5 MB/s (~3,4 ч), поэтому агент перенёс её по rsync с P2002 через проброс SSH-агента за 2 ч 05 мин. Потом каждый запрос к движку возвращал 400; агент нашёл в исходниках обход --no-prefill-borrow.

Итог: Mac ≈ P2002 на генерации (~58 против ~57 tok/s) и заметно быстрее на prefill (+36%). Все подводные камни агент сохранил в навык strata-mac-deploy, так что повтор — почти копирование.

Обновление

Агент обновил движок собственного «мозга»

Вопрос (04:30): какая версия Strata у «мозга» и какая последняя на GitHub. Ответ: на P2002 v0.1.43.1, последняя — v0.1.45 (вышла 17 октября 2026). Агент предупредил, что обновление перезапустит движок, на котором работает он сам: пара минут простоя, откат как страховка.

По команде «обнови себя» (04:31) агент запустил обновление отдельно от себя: git pull → сборка движка HIP 0.1.45 → перезапуск службы, а сторож 5 минут следит за движком и откатывает на 0.1.43.1, если тот не поднимется. Сборка прошла чисто (34 MB, 0 ошибок), но заменить работающий файл не удалось («Text file busy»), и движок остановился. Агент сохранил старый файл как резерв, установил новый вручную и перезапустил службу.

Проверка (04:50): работает v0.1.45, модель Qwen3.8-Flash-Next IQ3_S, контекст 262 144. Скорость тем же скриптом: короткий ответ 31,0 (было 33,5–33,7), генерация 1024 токенов 47,7 / 44,4 (было 53,0–60,1), prefill 1,5K 874 / 531 (было 488–490). Вывод агента: prefill заметно лучше, генерация на двух замерах ниже на ~10–20%; по двум прогонам он не называет это регрессом и предлагает ещё 3–4 замера и откат на 0.1.43.1, если замедление подтвердится.

В этой задаче резервная модель была внешней (Grok) и без фильтра. Для нашей локальной системы это неприемлемо, поэтому резервную модель заменили второй локальной. Сегодня облачные модели вызываются только через фильтр и, когда нужно, после явного подтверждения пользователя.

Мониторинг

Утренняя проверка дома и компьютеров

Связка на картинке: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + агент. Агент читает датчики Home Assistant (температура, влажность, движение, свет, энергия) и проверяет резервные копии, диски и температуру компьютеров. Общаемся с ним через Telegram.

Что нашла проверка: в комнате с компьютерами 28,8 °C — заметно теплее, чем в других помещениях, стоит проверить вентиляцию и охлаждение; батарейки датчиков в офисе (20%) и на террасе (30%) пора заменить; датчик двери «Leo» показывает ON, но показание может быть устаревшим — его нужно проверить на месте.

Интерфейс Home Assistant Виктор при этом даже не открывал. Вспомогательные инструменты в тот день: ChatGPT нарисовал картинку для поста, ChatGPT Go + Codex помогали с настройкой, а агент время от времени обращался к Grok 4.7 как к дополнительной модели для сложных рассуждений.

В этой задаче резервная модель была внешней (Grok) и без фильтра. Для нашей локальной системы это неприемлемо, поэтому резервную модель заменили второй локальной. Сегодня облачные модели вызываются только через фильтр и, когда нужно, после явного подтверждения пользователя.

Иллюстрация к посту, а не снимок экрана.

Скорость модели

31 tok/s, а RAM почти свободна: модель читается с SSD

Настройки: модель Qwen3.8-Flash-Next IQ3_XXS (~47 GB), контекст 64K (65 536 токенов), KV-кэш 8 бит, режим low-RAM: часть «экспертов» модели читается с SSD. Видеокарта AMD Radeon RX 9070, ~16 GB.

Результат на мониторе Strata: 12 136 токенов за 396,3 с, генерация 31,0 tok/s, VRAM 15,7 из 16 GB, оперативная память 3,2 из 31 GB, GPU 45 °C. В видеопамяти 5 681 «эксперт» (9,2 GB), остальное дочитывается с диска.

Вывод: большая модель работает без огромного объёма RAM, потому что движок держит в видеопамяти самое нужное и дочитывает остальное с быстрого SSD. Это путь к заметно более доступным компьютерам для локального ИИ.

Скорость модели

Контекст 256K: 26 запросов на одной видеокарте 16 GB

Цель была простая: понять, как потом автоматизировать такие прогоны на разном железе и как оформлять результаты для сравнения. Машина: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Итог с утра воскресенья (09:44): 26 запросов, 169 326 токенов запроса прочитано со скоростью 108 tok/s (ещё 1 923 247 взято из кэша беседы), 166 539 токенов написано со средней скоростью 20,5 tok/s. Контекст заполнен на 62% (162k из 256k).

Не всё прошло гладко: в списке один запрос «Closed» и один «Stopped». Видео в исходном посте показывает, как модель пишет длинный технический ответ; там же Виктор разбирает, что пошло не так.

Скорость модели

Больше RAM: 45 tok/s на контексте 164 000 токенов

Компьютер: Intel Core Ultra 7 270K Plus (24 потока), AMD Radeon 16 GB, 62 GB RAM, контекст 262 144 токена. Теперь движок использует и оперативную память: занято 53,5 из 62 GB.

Два запроса примерно по 162 000 токенов: первый прочитан со скоростью 1 176 tok/s, генерация 48,3 tok/s; второй почти целиком взят из кэша беседы (162 199 токенов), генерация 45,2 tok/s.

Компромисс понятен: с большим объёмом RAM генерация заметно быстрее, но памяти для других задач остаётся меньше. С 31 GB движок почти не трогал RAM, и компьютер оставался свободен для другой работы.

Скорость модели

Старый Xeon и Tesla P100: 19–27 tok/s

Модель не помещается в оперативную память и работает из видеопамяти (15,7 из 16 GB) и с NVMe-диска через PCIe 3.0. Процессор загружен примерно на 45%, оперативная память почти свободна — компьютер можно использовать и для другой работы.

На мониторе: генерация сейчас 26,9 tok/s; в истории запросов — 19,3 tok/s на коротком ответе (253 токена) и 25,3 tok/s на длинном (12 686 токенов за 504,1 с). Видеокарта 36 °C, 97 Вт из 250.

Для нас это главный ориентир по цене: даже старое и недорогое железо при правильной настройке движка уже годится для реальной работы.