Локальний ШІ за 41 секунду, хмарний за 21, на тому самому запитанні
Простий хронометрований експеримент: одне запитання, два агенти Hermes, низьке зусилля міркування — 41 секунда локально, 21 секунда в хмарі.
Проведено простий експеримент: без бенчмарків, синтетичних навантажень і складної методики. Два агенти Hermes отримали те саме запитання. Перший був підключений до локального ШІ з низьким зусиллям міркування. Другий — до Claude Haiku 5.5 через AWS Bedrock, також із низьким зусиллям.
Результати: локальний ШІ — 41 секунда; хмарний ШІ — 21 секунда.
Локальне обладнання, як зазначено в повідомленні: ноутбук вартістю близько 4 000–4 500 доларів (4 000–4 500 €); NVIDIA RTX 5090 Laptop, 24 ГБ відеопам’яті; 64 ГБ ОЗП; середовище виведення Basalt (на основі Strata); модель Qwen 3.8 Next 3_S; каркас агента Hermes; зусилля міркування низьке. На екрані локальної демонстрації рядок моделі: «Qwen3.8 Flash Next Iq3 S Basalt · Low». У хронометрованих записах такий запит:
“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”
Обидві відповіді потім передали в Google Gemini 4 Argon для порівняння. Оцінки й коментар нижче наведено дослівно з цього порівняння, як його опубліковано в низці повідомлень.
I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.
У тій самій низці описано практичний напрям: один інтерфейс, у якому локальний ШІ працює з приватними документами, а хмарний — зі звичайними запитаннями, де важлива швидкість, без ручного налаштування ключів API. Локальний і хмарний агенти можуть спільно аналізувати приватні документи, формулювати безпечні запитання для сильнішої хмарної моделі, відфільтровувати чутливі відомості й об’єднувати відповіді, не розкриваючи приватні дані. Робота триває на недорогому обладнанні: на вже наявному ігровому ПК або під час оновлення комп’ютера в офісі чи вдома приблизно на 200–300 €.
У заключній суб’єктивній ремарці сказано, що були б корисні більша кількість агентів, більша кількість різних моделей і більший обмін між ними в одному інтерфейсі. Це напрям MixAI, уже описаний на цьому сайті.