AI lokal dalam 41 detik, AI cloud dalam 21, pada pertanyaan yang sama
Eksperimen berwaktu yang sederhana: pertanyaan yang sama, dua agen Hermes, upaya penalaran rendah — 41 detik secara lokal, 21 detik di cloud.
Sebuah eksperimen sederhana dijalankan, tanpa tolok ukur, beban sintetis, atau pengukuran yang rumit. Dua agen Hermes menerima pertanyaan yang sama. Yang pertama terhubung ke AI lokal dengan upaya penalaran rendah. Yang kedua terhubung ke Claude Haiku 5.5 melalui AWS Bedrock, juga dengan upaya rendah.
Hasil: AI lokal, 41 detik; AI cloud, 21 detik.
Perangkat keras lokal, sebagaimana dinyatakan dalam kiriman: laptop seharga sekitar 4.000–4.500 dolar (4.000–4.500 €); NVIDIA RTX 5090 Laptop, 24 GB VRAM; 64 GB RAM; mesin inferensi Basalt (berdasarkan Strata); model Qwen 3.8 Next 3_S; kerangka agen Hermes; upaya penalaran rendah. Pada layar demonstrasi lokal, baris model berbunyi «Qwen3.8 Flash Next Iq3 S Basalt · Low». Rekaman berwaktu menampilkan perintah ini:
“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”
Kedua jawaban kemudian diberikan kepada Google Gemini 4 Argon untuk perbandingan. Skor dan komentar di bawah dikutip secara harfiah dari perbandingan itu, sebagaimana diterbitkan dalam utas.
I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.
Utas yang sama menggambarkan arah praktis: satu antarmuka yang memakai AI lokal untuk dokumen pribadi dan AI cloud untuk pertanyaan biasa yang mendesak, dengan pengaturan tanpa kunci API yang dimasukkan secara manual. Agen lokal dan cloud dapat bekerja sama sehingga agen lokal menganalisis dokumen pribadi, merumuskan pertanyaan yang aman bagi model cloud yang lebih mampu, menyaring informasi sensitif, dan menggabungkan jawaban tanpa mengungkap data pribadi. Pekerjaan berlanjut pada perangkat keras yang terjangkau: PC permainan yang sudah ada, atau peningkatan sekitar 200–300 € pada komputer yang sudah ada di kantor atau di rumah.
Catatan penutup yang subjektif dalam utas menyatakan bahwa lebih banyak agen, lebih banyak model yang berbeda, dan lebih banyak komunikasi di antara mereka dalam satu antarmuka akan berguna. Itu adalah arah MixAI yang sudah dijelaskan di situs ini.