IA local em 41 segundos, IA na nuvem em 21, na mesma pergunta
Um experimento cronometrado simples: a mesma pergunta, dois agentes Hermes, baixo esforço de raciocínio — 41 segundos em local, 21 segundos na nuvem.
Foi realizado um experimento simples, sem benchmarks, cargas sintéticas ou medições elaboradas. Dois agentes Hermes receberam a mesma pergunta. O primeiro estava ligado à IA local com baixo esforço de raciocínio. O segundo estava ligado ao Claude Haiku 5.5 via AWS Bedrock, também com baixo esforço.
Resultados: IA local, 41 segundos; IA na nuvem, 21 segundos.
Hardware local, conforme o texto: um portátil de cerca de 4.000–4.500 dólares (4.000–4.500 €); NVIDIA RTX 5090 Laptop, 24 GB de VRAM; 64 GB de RAM; motor de inferência Basalt (baseado em Strata); modelo Qwen 3.8 Next 3_S; estrutura de agentes Hermes; esforço de raciocínio baixo. No ecrã da demonstração local, a linha do modelo lê «Qwen3.8 Flash Next Iq3 S Basalt · Low». As gravações cronometradas mostram este pedido:
“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”
As duas respostas foram depois dadas ao Google Gemini 4 Argon para uma comparação. As pontuações e o comentário abaixo são citados na íntegra dessa comparação, tal como publicada no fio.
I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.
O mesmo fio descreve uma direção prática: uma interface que usa a IA local para documentos privados e a IA na nuvem para perguntas ordinárias e urgentes, com uma configuração sem chaves de API introduzidas à mão. Agentes locais e na nuvem poderiam colaborar para que um agente local analise documentos privados, formule perguntas seguras para um modelo de nuvem mais capaz, filtre informação sensível e combine as respostas sem expor dados privados. O trabalho continua em hardware acessível: um PC de jogos já disponível, ou uma atualização de cerca de 200–300 € num computador já presente no escritório ou em casa.
Uma nota final, subjetiva, no fio indica que seriam úteis mais agentes, mais modelos diferentes e mais comunicação entre eles numa única interface. Essa é a direção MixAI já descrita neste sítio.