Локальный ИИ за 41 секунду, облачный за 21, на одном вопросе
Простой хронометрированный эксперимент: один вопрос, два агента Hermes, низкое усилие рассуждения — 41 секунда локально, 21 секунда в облаке.
Проведён простой эксперимент: без бенчмарков, синтетических нагрузок и сложной методики. Два агента Hermes получили один и тот же вопрос. Первый был подключён к локальному ИИ с низким усилием рассуждения. Второй — к Claude Haiku 5.5 через AWS Bedrock, тоже с низким усилием.
Результаты: локальный ИИ — 41 секунда; облачный ИИ — 21 секунда.
Локальное оборудование, как указано в сообщении: ноутбук стоимостью около 4 000–4 500 долларов (4 000–4 500 €); NVIDIA RTX 5090 Laptop, 24 ГБ видеопамяти; 64 ГБ ОЗУ; среда вывода Basalt (на основе Strata); модель Qwen 3.8 Next 3_S; каркас агента Hermes; усилие рассуждения низкое. На экране локальной демонстрации строка модели: «Qwen3.8 Flash Next Iq3 S Basalt · Low». В хронометрированных записях такой запрос:
“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”
Оба ответа затем передали в Google Gemini 4 Argon для сравнения. Оценки и комментарий ниже приведены дословно из этого сравнения, как оно опубликовано в цепочке сообщений.
I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.
В той же цепочке описано практическое направление: один интерфейс, в котором локальный ИИ работает с частными документами, а облачный — с обычными вопросами, где важна скорость, без ручной настройки ключей API. Локальный и облачный агенты могут совместно анализировать частные документы, формулировать безопасные вопросы для более сильной облачной модели, отфильтровывать чувствительные сведения и объединять ответы, не раскрывая частные данные. Работа продолжается на недорогом оборудовании: на уже имеющемся игровом ПК или при обновлении компьютера в офисе или дома примерно на 200–300 €.
В заключительной субъективной ремарке сказано, что полезны были бы больше агентов, больше разных моделей и больше обмена между ними в одном интерфейсе. Это направление MixAI, уже описанное на этом сайте.