ニュース
MixAI：ローカルAIとクラウドAIの組み合わせを選択しています。その理由は次のとおりです
ローカルAIとクラウドAIのどちらかを選択する必要はありません。両方を最大限に活用する方法を学ぶ必要があります。
ほぼ1年間の実践的な実験。500ドルから15,000ドルのハードウェア。企業や家庭向けのクラウドAPI、AIエージェント、現実世界のタスク。これから、AIへのこの複合的なアプローチについて詳しくお話しします。このアプローチには非常に有望な未来があると思います。
物事はほぼ毎日変化しています。しかし、AI技術はすでに、信頼性の高い結果を達成し、今後1、2年でどのように使用するかを現実的に計画できる段階に達しています。
そして、簡単な結論に達しました。ローカルAIとクラウドAIのどちらかを選択する必要はありません。両方を最大限に活用する方法を学ぶ必要があります。
これは、単に異なるモデルを接続したり、それらをオーケストレーションしたりするだけではありません。これは、システム全体を計画することです。どのタスクをローカルで実行するか、どのタスクを外部モデルに移動するか、コンピューティングリソースをどのように配布するか、どのサブスクリプションが理にかなっているか、どのハードウェアを実際に購入する価値があるかなどです。
また、物理的なインフラストラクチャ（コンピュータ、サーバー、GPU、メモリ、消費電力、将来の拡張）を計画する必要があります。
私は、ローカルAIが私たちの生活の不可欠な部分になると信じています。すでにスマートフォン、パーソナルコンピュータ、さらには実験的なオペレーティングシステムにも進出しています。
最も重要な4つのこと
- 真の価値。 最優先事項は、有用で実用的な結果を得ることです。
- 費用。 ハードウェア、サブスクリプション、またはトークンだけでなく、タスクを完了するために実際に支払う金額はいくらですか？
- セキュリティ。 これは、どのランキングの外でも、独自のカテゴリに値します。個人データ、プライバシー、インフラストラクチャの管理には特別な注意が必要です。
- 使いやすさ。 どのくらい簡単に、迅速に、そして確実に仕事を成し遂げることができますか？
これらは、テクノロジーを比較し、独自のセットアップを構築するために使用する基準です。
サブスクリプションとAPI：2つの世界がマージされ始めています
これはしばしば見落とされる興味深いトピックです。
クラウドAIは、使用制限のあるサブスクリプションまたは実際に使用したものに対して支払うAPIを介してアクセスできます。
それぞれのアプローチには、独自の経済性、限界、利点があります。そして、それらは別々に評価される必要があります。
しかし、それらの間の線はぼやけ始めています。
最近の例はOpenAIです。対象となるChatGPT Proサブスクライバーは、サブスクリプションのランクに応じて、月額100〜500ドルのAPIクレジットを受け取ることができます。これらのクレジットは個別に有効化する必要があり、API請求は別々のままです。
これは、2つの価格設定モデルが組み合わされた非常に興味深い例です。
だから私は単にモデルを比較しているのではありません。また、サブスクリプションとAPIの経済性、その限界、そしてそれらを効率的に組み合わせる方法についても調査しています。
以下は、私が積極的に研究している3つの分野、私のハードウェア実験、一緒に働くAIエージェント、そしてこれらすべての情報にあなたがアクセスできるようにする方法です。
私が研究していることと今後の流れ
私の3つの主な研究分野
1.ローカルAIサーバー
私はわずか$500から始まるハードウェアを試していますが、本格的な実用的な使用には約$1,000をお勧めします。
私は現在、最大15,000 $のシステムにアクセスできます。さらに、自分のハードウェアで実行するのは経済的に意味がないモデルを実験するために、はるかに高価なGPUをレンタルしています。
Rawモデルのパフォーマンスは私の最優先事項ではありません。ハードウェアとソフトウェアは単なるツールです。
重要なのは、これらのシステムが企業や家庭で実際に何を達成できるか、それらがどれだけ確実に機能するか、そしてローカルコンピューティングがクラウドよりも経済的に意味があるかどうかです。
2.クラウドモデルとAI API
中国モデルを含む安価なAPIからフロンティアAIまで。機能、制限、実際のコスト、ローカルシステムとの統合を比較しています。サブスクリプションと従量課金制APIはもう1つの重要な要素です。最も強力なモデルが常に最も賢明な経済的選択であるとは限りません。
3. AIエージェント
明らかなメリット以外にも、独立したマルチエージェントエコシステム間のコラボレーションに特に関心があります。私のヘルメスとGrokbotシステムはすでに連携しています。それぞれに独自のエージェントとツールを持つ2つの別々のエコシステムです。
AIが物理的な世界と出会う
私の最大の優先事項の1つは、手頃な価格のスマートホーム、オフィス、サーバー、コンピューター、日常のデバイスにAIを接続することです。
私は、特に個人や中小企業にとって、これらのシステムが自律性、安全性、信頼性、そして手頃な価格になる方法を模索しています。
AIコーディングがバックグラウンドに移行しています
私はAIコーディングにはあまり焦点を当てません。それほど重要ではなく、単なる別のツールになりつつあるからです。
目標はコードを書くことではありません。物事を成し遂げるためです。
私は、AIが最小限の人間の関与で処理できる、完全な現実世界のワークフローに興味があります。
最大値、合理的なコスト
ローカルまたはクラウドAIが優れていることを証明しようとしているわけではありません。時には正しい選択は、$1,000のPC、$10,000のサーバー、レンタルされたGPU時間、安価なAPI、またはフロンティアモデルのサブスクリプションです。
重要なのは、最終的な結果のコストであり、それを達成するために使用されるツールではありません。
今後の流れ
私の投稿は主に個々の実験からの分散した更新であり、時には大まかで構造化されていません。ハードウェア、モデル、エージェント、コスト、実際の結果など、AIインフラストラクチャの一貫した接続された画像にしたいと考えています。詳細な技術仕様と診断は自動的に収集され、リンクを介して別々に共有される可能性があります。
また、私のAIエージェントに直接アクセスできるようにするつもりです。私の実験、ハードウェア、構成、結果について何でも尋ねることができます。彼らは収集したデータを使用して回答します。できない場合は、私が個人的に介入します。
私の目標は、さまざまな予算でAIが達成できることについて、オープンで整理された、真に有用な全体像を構築することです。
ローカルAIとクラウドAIを組み合わせ、リソースをインテリジェントに計画し、企業や家庭の実際の結果に焦点を当てています。
それが私が取り組んでいることであり、今後も皆さんと共有していきます。
味方を選んではいけません。最高のものを組み合わせましょう。