IA local en 41 segundos, IA en la nube en 21, en la misma pregunta
Un experimento cronometrado sencillo: la misma pregunta, dos agentes Hermes, bajo esfuerzo de razonamiento — 41 segundos en local, 21 segundos en la nube.
Se realizó un experimento sencillo, sin pruebas de rendimiento, cargas sintéticas ni mediciones elaboradas. Dos agentes Hermes recibieron la misma pregunta. El primero estaba conectado a la IA local con bajo esfuerzo de razonamiento. El segundo estaba conectado a Claude Haiku 5.5 a través de AWS Bedrock, también con bajo esfuerzo.
Resultados: IA local, 41 segundos; IA en la nube, 21 segundos.
Hardware local, según la publicación: un portátil de unos 4.000–4.500 dólares (4.000–4.500 €); NVIDIA RTX 5090 Laptop, 24 GB de VRAM; 64 GB de RAM; motor de inferencia Basalt (basado en Strata); modelo Qwen 3.8 Next 3_S; marco de agentes Hermes; esfuerzo de razonamiento bajo. En la pantalla de la demostración local, la línea del modelo dice «Qwen3.8 Flash Next Iq3 S Basalt · Low». Las grabaciones cronometradas muestran esta indicación:
“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”
Las dos respuestas se entregaron después a Google Gemini 4 Argon para una comparación. Las puntuaciones y el comentario que siguen se citan textualmente de esa comparación, tal como se publicó en el hilo.
I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.
El mismo hilo describe una dirección práctica: una interfaz que usa la IA local para documentos privados y la IA en la nube para preguntas ordinarias y urgentes, con una configuración que no requiere claves de API introducidas a mano. Los agentes locales y en la nube podrían colaborar para que un agente local analice documentos privados, formule preguntas seguras para un modelo de nube más capaz, filtre la información sensible y combine las respuestas sin exponer datos privados. El trabajo continúa en hardware asequible: un PC de juegos ya disponible, o una mejora de unos 200–300 € en un ordenador ya presente en una oficina o en casa.
Una nota final, subjetiva, en el hilo indica que serían útiles más agentes, más modelos distintos y más comunicación entre ellos en una sola interfaz. Esa es la dirección MixAI ya descrita en este sitio.