行业报告中的数据虽有波动,但整体趋势明确。
》对八个前沿LLM在SWE-bench Verified上的轨迹分析显示,agentic coding任务的token消耗远超普通代码聊天或单轮推理,高达1000倍左右。驱动这一增长的核心是输入token的累积,每一轮迭代都需将完整历史轨迹、工具输出和先前推理重新喂给模型。
纠正确认这个误区后,预算规划就从被动挨打转向主动的输入优化工程。值得持续跟踪的是,随着Agent场景快速演进,未来上下文压缩技术或原生长上下文架构可能带来新变量,但当前阶段把注意力转向输入主导,已是能立刻见效的调整方向。
另一个反直觉发现是准确率与token消耗的关系曲线。高消耗并不必然对应高准确率,峰值往往出现在中间成本区间,继续堆token后表现趋于饱和甚至浪费。Agent可能陷入冗长无效循环,重复验证已知路径,却无实质推进。这反映出人类对任务难度的主观感知,与Agent实际计算努力存在明显脱节:专家觉得棘手的bug,Agent有时用较少token即可解决;反之看似简单的问题,却因路径随机而耗费巨量资源。
好消息在于,成本控制并非无从下手。模型路由策略被证明是性价比突出的切入点:将复杂规划和架构设计交给前沿强模型,而把代码执行、简单验证等子任务分流到更高效廉价的模型(如 Kimi 系列或小型开源变体)。在 LangGraph 等框架中设置基于复杂度或上下文长度的路由规则后,整体 token 消耗可下降 30-50%,同时保持任务完成质量基本稳定。
另一个反直觉点是,人类专家评定的任务难度与实际 token 消耗仅呈弱相关。某些在人类看来棘手的 GitHub issue,Agent 可能迅速找到高效路径;反之,一些看似简单的修复却让 Agent 陷入反复试错循环,token 开销远超预期。这反映出当前 Agent 的“思考路径”与人类认知之间仍存在明显鸿沟,也提醒我们不能简单用人工判断来预估部署成本。
这组实证数据打破了直觉:Agent看似高效解决复杂GitHub issue,背后却是高度随机的“挥霍”行为,随机性远超此前行业预估。
同一任务在不同运行间的 token 消耗差异能达到 30 倍,这体现了 agentic workflow 的高度随机性。更有意思的是,高 token 消耗并不必然带来更高准确率;论文数据显示,准确率常常在中间成本区间就已达到峰值,继续追加消耗反而出现饱和甚至边际收益递减。模型间的效率差距同样显著,例如 Kimi-K2 和 Claude-Sonnet-4.5 在相同任务上平均比某些基准模型多消耗 150 万 token 以上。
这一点目前行业内仍有不同声音。数据支持随机性是主要驱动,但样本量和框架差异可能影响泛化程度。值得持续跟踪,现在下结论为时尚早。
主流的定价误区在于过度关注“输出token溢价”。很多人以为输出单价高就是主要开销来源,于是在提示词里反复强调“保持简洁”“只输出最终结果”。但在Agentic场景里,模型每一步都需要把之前的上下文、工具输出、历史轨迹全部塞回输入窗口。上下文不断累积,输入token就成了真正烧钱的那个部分。输出token溢价听起来吓人,但Agent真正花掉你钱的,往往是那些默默累积的输入上下文。
核心来看,迭代验证而非初始生成,才是agentic coding的主要成本点。代码审查阶段吃掉近60% token,本质源于其高度上下文依赖的对话性质——每次交互都需重载大量已有信息,形成隐形黑洞。这让“AI帮写代码就能大幅省钱”的预期变得比想象中复杂得多,值得开发者持续跟踪优化路径。
真人1块1分跑的快群的未来,取决于我们今天愿意为细节投入多少精力。