Lokal AI på 41 sekunder, moln-AI på 21, på samma fråga
Ett enkelt tidsmätt experiment: samma fråga, två Hermes-agenter, låg resonemangsinsats — 41 sekunder lokalt, 21 sekunder i molnet.
Ett enkelt experiment genomfördes, utan benchmarks, syntetiska belastningar eller omfattande mätningar. Två Hermes-agenter fick samma fråga. Den första var ansluten till lokal AI med låg resonemangsinsats. Den andra var ansluten till Claude Haiku 5.5 via AWS Bedrock, också med låg insats.
Resultat: lokal AI, 41 sekunder; moln-AI, 21 sekunder.
Lokal hårdvara enligt inlägget: en bärbar dator för cirka 4 000–4 500 dollar (4 000–4 500 €); NVIDIA RTX 5090 Laptop, 24 GB VRAM; 64 GB RAM; inferensmotor Basalt (baserad på Strata); modell Qwen 3.8 Next 3_S; agentramverk Hermes; resonemangsinsats låg. På den lokala demonstrationsskärmen står modellraden «Qwen3.8 Flash Next Iq3 S Basalt · Low». De tidsmätta inspelningarna visar denna uppmaning:
“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”
De två svaren gavs därefter till Google Gemini 4 Argon för en jämförelse. Poängen och kommentaren nedan citeras ordagrant från den jämförelsen, så som den publicerades i tråden.
I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.
Samma tråd beskriver en praktisk riktning: ett gränssnitt som använder lokal AI för privata dokument och moln-AI för vanliga, tidskritiska frågor, med en inställning utan manuellt angivna API-nycklar. Lokala och molnbaserade agenter skulle kunna samarbeta så att en lokal agent analyserar privata dokument, formulerar säkra frågor till en starkare molnmodell, filtrerar känslig information och slår samman svaren utan att avslöja privata data. Arbetet fortsätter på prisvärd hårdvara: en befintlig speldator, eller en uppgradering på cirka 200–300 € av en dator som redan finns på ett kontor eller i hemmet.
En avslutande, subjektiv anmärkning i tråden är att fler agenter, fler olika modeller och mer kommunikation mellan dem i ett enda gränssnitt skulle vara användbart. Det är MixAI-riktningen som redan beskrivs på den här webbplatsen.