Новости
MixAI: я выбираю сочетание локального и облачного ИИ — и вот почему
Не нужно выбирать между локальным и облачным ИИ. Нужно научиться брать лучшее от обоих.
Почти год практических экспериментов. Оборудование стоимостью от 500 до 15 000 долларов. Облачные API, ИИ-агенты и реальные задачи для бизнеса и дома. С этого момента я буду больше рассказывать об этом комбинированном подходе к ИИ — у него, как я считаю, очень многообещающее будущее.
Всё меняется почти каждый день. Но технологии ИИ уже достигли уровня, на котором можно получать надёжные результаты и реалистично планировать их использование на ближайшие год-два.
И я пришёл к простому выводу: не нужно выбирать между локальным и облачным ИИ. Нужно научиться брать лучшее от обоих.
Речь идёт о гораздо большем, чем просто подключение разных моделей или их оркестрация. Речь о планировании всей системы: какие задачи выполнять локально, какие передавать внешним моделям, как распределять вычислительные ресурсы, какие подписки имеют смысл и какое оборудование действительно стоит покупать.
Нужно планировать и физическую инфраструктуру — компьютеры, серверы, видеокарты, память, энергопотребление и будущее расширение.
Я уверен, что локальный ИИ станет неотъемлемой частью нашей жизни. Он уже приходит в смартфоны, персональные компьютеры и даже в экспериментальные операционные системы.
Четыре самых важных критерия
- Реальная ценность. Главный приоритет — получать полезные, практические результаты.
- Стоимость. Сколько мы на самом деле платим за выполнение задачи — а не только за оборудование, подписки или токены?
- Безопасность. Она заслуживает отдельной категории, вне любого рейтинга. Персональные данные, конфиденциальность и контроль над собственной инфраструктурой требуют особого внимания.
- Простота использования. Насколько легко, быстро и надёжно мы можем выполнить работу?
По этим критериям я сравниваю технологии и строю собственную систему.
Подписки и API: два мира начинают сливаться
Это интересная тема, которую часто упускают из виду.
Облачный ИИ доступен через подписки с лимитами использования или через API, где вы платите за то, что реально используете.
У каждого подхода своя экономика, свои ограничения и преимущества. И оценивать их нужно отдельно.
Но граница между ними начинает размываться.
Свежий пример — OpenAI. Подписчики ChatGPT Pro, отвечающие условиям, могут получать от 100 до 500 долларов в месяц в виде кредитов на API, в зависимости от уровня подписки. Эти кредиты нужно отдельно активировать, а оплата API остаётся отдельной.
Это довольно интересный пример того, как сближаются две модели оплаты.
Поэтому я сравниваю не только модели. Я также изучаю экономику подписок и API, их ограничения и то, как эффективно их сочетать.
Дальше: три направления, которые я активно исследую, мои эксперименты с оборудованием, совместная работа ИИ-агентов и то, как я планирую сделать всю эту информацию доступной для вас.
Что я исследую — и что будет дальше
Три моих основных направления исследований
1. Локальные ИИ-серверы
Я экспериментирую с оборудованием стоимостью всего от 500 долларов, хотя для серьёзного практического использования рекомендовал бы около 1000 долларов.
Сейчас у меня есть доступ к системам стоимостью до 15 000 долларов, а также к арендованным, гораздо более дорогим видеокартам — для тестирования моделей, запускать которые на собственном оборудовании экономически нецелесообразно.
Чистая производительность моделей — не главный мой приоритет. Оборудование и программы — всего лишь инструменты.
Важно то, что эти системы реально могут сделать для бизнеса и дома, насколько надёжно они работают и когда локальные вычисления финансово выгоднее облака.
2. Облачные модели и ИИ-API
От дешёвых API, включая китайские модели, до передового ИИ. Я сравниваю возможности, ограничения, реальные затраты и интеграцию с локальными системами. Подписки или API с оплатой по факту использования — ещё один важный фактор: самая мощная модель не всегда самый разумный экономический выбор.
3. ИИ-агенты
Помимо их очевидных преимуществ, меня особенно интересует сотрудничество между независимыми мультиагентными экосистемами. Мои системы Hermes и Grokbot уже работают вместе — две отдельные экосистемы, у каждой свои агенты и инструменты.
ИИ встречается с физическим миром
Один из моих главных приоритетов — подключение ИИ к доступным умным домам, офисам, серверам, компьютерам и повседневным устройствам.
Я изучаю, насколько автономными, безопасными, надёжными и доступными могут стать такие системы — особенно для частных лиц и малого бизнеса.
ИИ-программирование уходит на второй план
Я буду меньше заниматься ИИ-программированием. Не потому, что оно менее важно, а потому, что оно становится просто ещё одним инструментом.
Цель не в том, чтобы писать код. Цель — сделать дело.
Меня интересуют полные, реальные рабочие процессы, которые ИИ может выполнять с минимальным участием человека.
Максимум пользы при разумной стоимости
Я не пытаюсь доказать, что локальный или облачный ИИ лучше. Иногда правильный выбор — это ПК за 1000 долларов, сервер за 10 000 долларов, аренда времени на видеокартах, дешёвый API или подписка на передовую модель.
Важна стоимость конечного результата — а не инструменты, которыми он достигнут.
Что будет дальше
Мои публикации до сих пор были в основном разрозненными заметками об отдельных экспериментах, иногда черновыми и неструктурированными. Я хочу превратить их в цельную, связную картину ИИ-инфраструктуры — оборудование, модели, агенты, затраты и реальные результаты. Подробные технические характеристики и диагностика будут собираться автоматически и публиковаться отдельно, скорее всего в виде ссылок.
Я также планирую дать вам прямой доступ к моим ИИ-агентам. Вы сможете спросить их о чём угодно: о моих экспериментах, оборудовании, конфигурациях и результатах. Они ответят на основе собранных данных — а если не смогут, подключусь я лично.
Моя цель — создать открытую, упорядоченную и действительно полезную картину того, чего ИИ может достичь при разных бюджетах.
Я сочетаю локальный и облачный ИИ, разумно планирую ресурсы и сосредоточен на реальных результатах для бизнеса и дома.
Вот над чем я работаю — и чем буду продолжать делиться с вами.
Не выбирайте сторону. Сочетайте лучшее.