新闻
我们如何在低价电脑上构建解决方案
我们研究本地 AI 模型在廉价电脑上能完成多少有用且可靠的工作，并与整个模型都能放入内存的机器进行对比。
共有三台电脑参与。一台配备 RTX 3060 显卡的低价 PC 在严格的内存限制下运行。第二台电脑运行 Hermes 智能体，负责分析结果、核查工作并进行改进。一台 Mac Studio M3 并行执行相同任务，作为内存充足的参照。所有机器使用相同的模型文件和相同的 Strata 版本。
我们关心的不是速度本身，而是真实任务中回答的质量与可靠性。初步结果表明，硬件受限并不一定意味着回答质量更低。
实验的另一部分考察智能体能否自行发现错误、修正错误并预防类似错误。在没有要求的情况下，它还开始计算其改进所消耗的 token，并减少不必要的消耗。
这些实验正在带来真实的成果和实际场景，例如文档处理。