Lokal AI på 41 sekunder, cloud-AI på 21, på det samme spørgsmål
Et enkelt tidsmålt eksperiment: det samme spørgsmål, to Hermes-agenter, lav ræsonnementsindsats — 41 sekunder lokalt, 21 sekunder i skyen.
Der blev udført et enkelt eksperiment uden benchmarks, syntetiske belastninger eller omfattende målinger. To Hermes-agenter fik det samme spørgsmål. Den første var tilsluttet lokal AI med lav ræsonnementsindsats. Den anden var tilsluttet Claude Haiku 5.5 via AWS Bedrock, også med lav indsats.
Resultater: lokal AI, 41 sekunder; cloud-AI, 21 sekunder.
Lokal hardware ifølge indlægget: en bærbar computer til omkring 4.000–4.500 dollar (4.000–4.500 €); NVIDIA RTX 5090 Laptop, 24 GB VRAM; 64 GB RAM; inferensmotor Basalt (baseret på Strata); model Qwen 3.8 Next 3_S; agentramme Hermes; ræsonnementsindsats lav. På den lokale demonstrationsskærm står modellinjen «Qwen3.8 Flash Next Iq3 S Basalt · Low». De tidsmålte optagelser viser denne prompt:
“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”
De to svar blev derefter givet til Google Gemini 4 Argon til en sammenligning. Karaktererne og kommentaren nedenfor er citeret ordret fra den sammenligning, som den blev offentliggjort i tråden.
I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.
Den samme tråd beskriver en praktisk retning: én grænseflade, der bruger lokal AI til private dokumenter og cloud-AI til almindelige, tidskritiske spørgsmål, med en opsætning uden manuelt indtastede API-nøgler. Lokale og cloudagenter kunne samarbejde, så en lokal agent analyserer private dokumenter, formulerer sikre spørgsmål til en stærkere cloudmodel, filtrerer følsomme oplysninger og kombinerer svarene uden at blotlægge private data. Arbejdet fortsætter på overkommelig hardware: en eksisterende spille-pc eller en opgradering på omkring 200–300 € af en computer, der allerede står på et kontor eller i hjemmet.
En afsluttende, subjektiv bemærkning i tråden er, at flere agenter, flere forskellige modeller og mere kommunikation mellem dem i én grænseflade ville være nyttigt. Det er MixAI-retningen, der allerede er beskrevet på dette websted.