本地AI自主开发五天:从77%到99%
围绕冻结本地模型的五天实验性自改进开发环境:质量、速度、成本与未决问题。

在2026年10月31日至11月5日之间,面向Qwen3.8-Flash-Next IQ3_S的实验性开发环境,在固定的178个任务集(发票、表格、诊断、代码与过滤)上将完美解题比例从77%提升到99%。模型权重未再训练。
推理从Strata切换到Basalt。Decode从约80升至130–220 tok/s;prefill约翻倍;完整基准跑次从87分钟降到6.9分钟。开发环境经历15个带契约检查的版本。
用于基准跑次的机器上约有34,000次模型调用与约3700万token。工作在固定规则下自主进行,并在决策点由人工复核。
同等token量经商业API的估计成本(假设3300万输入与400万输出、按常见公开价):约数千美元量级。本地跑次使用实验室已有硬件。
相对同等算力预算的原始模型基线(盲测best-of-2),开发环境高出13.5个百分点。正在进行holdout跑次,以检查在未见任务上的稳健性。版本、方法与基准见GitHub。