Lokální AI za 41 sekund, cloudová za 21, u stejné otázky
Jednoduchý časovaný experiment: stejná otázka, dva agenty Hermes, nízké úsilí uvažování — 41 sekund lokálně, 21 sekund v cloudu.
Byl proveden jednoduchý experiment, bez benchmarků, syntetických zátěží a složitých měření. Dva agenty Hermes dostaly stejnou otázku. První byl připojen k lokální AI s nízkým úsilím uvažování. Druhý byl připojen k Claude Haiku 5.5 přes AWS Bedrock, rovněž s nízkým úsilím.
Výsledky: lokální AI, 41 sekund; cloudová AI, 21 sekund.
Lokální hardware podle příspěvku: notebook v ceně přibližně 4 000–4 500 dolarů (4 000–4 500 €); NVIDIA RTX 5090 Laptop, 24 GB VRAM; 64 GB RAM; inferenční engine Basalt (založený na Strata); model Qwen 3.8 Next 3_S; rámec agentů Hermes; úsilí uvažování nízké. Na obrazovce lokální ukázky je řádek modelu «Qwen3.8 Flash Next Iq3 S Basalt · Low». Časované záznamy ukazují tento pokyn:
“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”
Obě odpovědi byly poté předány Google Gemini 4 Argon ke srovnání. Skóre a komentář níže jsou citovány doslova z tohoto srovnání, jak bylo zveřejněno ve vláknu.
I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.
Stejné vlákno popisuje praktický směr: jedno rozhraní, které používá lokální AI pro soukromé dokumenty a cloudovou AI pro běžné, časově naléhavé otázky, s nastavením bez ručně zadaných klíčů API. Lokální a cloudoví agenti by mohli spolupracovat: lokální agent analyzuje soukromé dokumenty, formuluje bezpečné otázky pro silnější cloudový model, filtruje citlivé informace a spojuje odpovědi bez odhalení soukromých dat. Práce pokračuje na dostupném hardwaru: již vlastněném herním počítači, nebo při vylepšení počítače již přítomného v kanceláři či doma přibližně o 200–300 €.
Závěrečná, subjektivní poznámka ve vláknu uvádí, že by byly užitečné další agenty, další různé modely a více komunikace mezi nimi v jednom rozhraní. To je směr MixAI již popsaný na tomto webu.