新闻
MixAI：我选择本地 AI 与云端 AI 相结合——原因如下
我们不必在本地 AI 与云端 AI 之间做选择。我们需要学会兼取两者之长。
近一年的实践实验。硬件价格从 500 美元到 15,000 美元。云端 API、AI 智能体，以及面向企业和家庭的真实任务。从现在起，我将更多地分享这种结合式的 AI 方法——在我看来，这种方法前景非常广阔。
事物几乎每天都在变化。但 AI 技术已经发展到这样一个阶段：我们可以获得可靠的结果，并能现实地规划未来一到两年如何使用它。
我得出了一个简单的结论：我们不必在本地 AI 与云端 AI 之间做选择。我们需要学会兼取两者之长。
这远不只是连接不同模型或对其进行编排。关键在于规划整个系统：哪些任务在本地运行，哪些交给外部模型，如何分配计算资源，哪些订阅值得购买，以及哪些硬件真正值得投资。
我们还需要规划物理基础设施——计算机、服务器、GPU、内存、能耗以及未来的扩展。
我相信本地 AI 将成为我们生活中不可或缺的一部分。它已经进入智能手机、个人电脑，甚至实验性的操作系统。
最重要的四件事
- 真实价值。 首要任务是获得有用、实际的成果。
- 成本。 完成一项任务我们实际要付出多少——而不仅仅是硬件、订阅或 token 的费用？
- 安全。 它值得单独成为一类，不参与任何排名。个人数据、隐私以及对自有基础设施的掌控都需要特别关注。
- 易用性。 我们能多轻松、多快速、多可靠地把工作完成？
这些就是我用来比较各项技术、搭建自己系统的标准。
订阅与 API：两个世界开始融合
这是一个有趣却常被忽视的话题。
云端 AI 的使用方式有两种：带有使用额度限制的订阅，或按实际用量付费的 API。
每种方式都有各自的经济性、限制和优势，需要分别评估。
但两者之间的界限正开始变得模糊。
一个最近的例子是 OpenAI。符合条件的 ChatGPT Pro 订阅用户，根据订阅档位，每月可获得 100 至 500 美元的 API 额度。这些额度需要单独激活，API 计费仍然独立进行。
这是两种定价模式彼此靠拢的一个相当有趣的例子。
因此，我不只是比较模型。我也在研究订阅和 API 的经济性、它们的限制，以及如何高效地将它们结合起来。
下文将介绍：我正在积极研究的三个方向、我的硬件实验、协同工作的 AI 智能体，以及我计划如何让您获取所有这些信息。
我在研究什么——以及接下来会有什么
我的三个主要研究方向
1. 本地 AI 服务器
我在试验低至 500 美元的硬件，不过若要用于严肃的实际场景，我建议预算约 1,000 美元。
目前我可以使用价值高达 15,000 美元的系统，还租用了贵得多的 GPU，用来测试那些在自有硬件上运行并不划算的模型。
模型的原始性能并不是我的首要考量。硬件和软件只是工具。
重要的是这些系统究竟能为企业和家庭做些什么、运行有多可靠，以及在什么情况下本地计算比云端更具经济性。
2. 云端模型与 AI API
从低价 API（包括中国模型）到前沿 AI，我比较它们的能力、局限、实际成本以及与本地系统的集成。订阅还是按量付费的 API 也是一个重要因素——最强大的模型并不总是最明智的经济选择。
3. AI 智能体
除了它们显而易见的优势之外，我尤其关注相互独立的多智能体生态系统之间的协作。我的 Hermes 和 Grokbot 系统已经在协同工作——这是两个独立的生态系统，各自拥有自己的智能体和工具。
AI 走进物理世界
我的首要任务之一，是将 AI 与价格亲民的智能家居、办公室、服务器、计算机以及日常设备连接起来。
我正在探索这些系统能够在多大程度上实现自主、安全、可靠和经济实惠——尤其是对个人和小企业而言。
AI 编程退居次要位置
我会减少在 AI 编程上的投入。不是因为它不重要，而是因为它正在变成又一种普通工具。
目标不是写代码，而是把事情做成。
我关注的是 AI 能在极少人工参与下完成的、完整的真实工作流程。
价值最大化，成本合理化
我并不是要证明本地 AI 或云端 AI 哪个更好。有时正确的选择是一台 1,000 美元的电脑、一台 10,000 美元的服务器、租用的 GPU 时间、一个便宜的 API，或者一个前沿模型的订阅。
重要的是最终结果的成本——而不是实现它所用的工具。
接下来
迄今为止，我发布的内容大多是关于单个实验的零散更新，有时比较粗糙、缺乏条理。我希望把它们整合成一幅连贯、相互关联的 AI 基础设施全景——涵盖硬件、模型、智能体、成本和真实成果。详细的技术规格和诊断数据将自动收集并单独分享，很可能以链接形式提供。
我还计划让您直接访问我的 AI 智能体。您可以向它们询问有关我的实验、硬件、配置和结果的任何问题。它们会依据已收集的数据作答——如果它们答不上来，我会亲自出面。
我的目标是构建一幅开放、有序且真正有用的图景，展示 AI 在不同预算下能够实现什么。
我结合本地与云端 AI，明智地规划资源，专注于为企业和家庭带来真实成果。
这就是我正在做的事情——我也会继续与您分享。
不必选边站。兼取两者之长。