同じ質問で、ローカルAIは41秒、クラウドAIは21秒

簡単な計時実験:同じ質問、2体のHermesエージェント、低い推論の労力。ローカルは41秒、クラウドは21秒。

ベンチマークや合成負荷、複雑な計測を伴わない、簡単な実験を行いました。2体のHermesエージェントが同じ質問を受け取りました。一方は低い推論の労力でローカルAIに接続され、もう一方は同じく低い労力で、AWS Bedrock経由のClaude Haiku 5.5に接続されました。

結果:ローカルAIは41秒、クラウドAIは21秒。

投稿に記されたローカルハードウェアは次のとおりです。価格が約4,000〜4,500ドル(4,000〜4,500ユーロ)のノートPC、NVIDIA RTX 5090 Laptop(24 GBのVRAM)、64 GBのRAM、推論エンジンBasalt(Strataに基づく)、モデルQwen 3.8 Next 3_S、エージェント枠組みHermes、推論の労力は低。ローカルのデモ画面のモデル行は「Qwen3.8 Flash Next Iq3 S Basalt · Low」です。計時記録に示された指示は次のとおりです。

“Compare the stock market performance of Microsoft and Intel. Provide a detailed analysis in approximately 1,000 tokens.”

二つの回答はその後、比較のためにGoogle Gemini 4 Argonに渡されました。以下の評点と解説は、スレッドに公開されたその比較から原文のまま引用しています。

I analyzed two AI responses comparing MSFT and INTC stock performance:
☁️ Response 1: Cloud AI — 73.5 / 100
🔒 Response 2: Local AI — 89.5 / 100
10-Parameter Scorecard (Cloud vs. Local):
1. Data Granularity: 7/10 vs 9/10
2. Time Horizons: 6/10 vs 10/10
3. Earnings Depth: 9/10 vs 8/10
4. Valuation & Margins: 6/10 vs 9/10
5. Risk & Volatility: 7/10 vs 9/10
6. Catalysts & Narrative: 8/10 vs 9/10
7. S&P 500 Benchmarking: 7/10 vs 9/10
8. Structure & Readability: 8/10 vs 9/10
9. Analytical Synthesis: 7/10 vs 9.5/10
10. Factual Consistency: 8.5/10 vs 8/10
Depth Analysis:
• Cloud AI (R1) reads like a standard news wire. It nailed Q1 FY27 earnings specifics ($677B Azure backlog, +48% growth, Israel fab accident) but missed the bigger financial picture.
• Local AI (R2) thinks like a portfolio manager. It exposed why Intel's "+57% YTD" is a statistical illusion after a -59% crash from $142, factored in P/E multiples (28.5x vs negative TTM), highlighted $1.9B quarterly foundry losses on $108B capex, and noted MSFT lagging the S&P 500 over 1Y/3Y windows.
Key Errors & Omissions:
• Cloud AI: Complete valuation blindness — zero mention of Market Cap, P/E ratios, 52-week ranges, or 5-year returns.
• Local AI: One math contradiction — claiming MSFT had a "smooth upward grind" while citing a $349 low in June 2026 (which would mean a ~28% mid-year crash), plus treating a routine law-firm press release as a real risk factor.
Local AI delivered institutional-grade synthesis where the Cloud stopped at surface-level summary.

同じスレッドでは、実用的な方向も述べられています。一つの画面で、私的な文書にはローカルAIを、普通で時間を要する質問にはクラウドAIを使い、APIキーを手入力しなくても設定できるようにする、というものです。ローカルとクラウドのエージェントが協力し、ローカルのエージェントが私的な文書を分析し、より強いクラウドモデル向けに安全な質問を作り、機微な情報を除き、私的なデータを露出させずに回答をまとめることも考えられます。作業は手頃なハードウェアで続いています。すでにあるゲーム用PC、または事務所や自宅にあるコンピュータへの約200〜300ユーロの更新です。

スレッドの末尾にある主観的な注記では、一つの画面でより多くのエージェント、より多くの異なるモデル、それらの間のより多くのやりとりがあると有用だと述べられています。これは、本サイトですでに説明しているMixAIの方向です。

Xに投稿 · すべてのニュース