一个演示环境里的 AI Agent,可能很快完成任务拆解、工具调用和多角色协作。到了生产环境,账单增长常常来自不显眼的地方:失败后自动重试,多个 Agent 反复读取同一段上下文,工具返回内容过长,测试实例迟迟没有关闭。单次调用看不出异常,累计到月末才暴露。
甲子光年智库在 2025 年 3 月发布的《中国 AI Agent 行业研究报告(二)》,把商业实践与场景突破单列为一部分。对中小企业来说,落地首先要回答一个具体问题:每完成一项有效任务,究竟花了多少钱。
账单先拆开,API 费用只是第一行
AI Agent 的成本至少要拆到下面这些项目,混在一张云服务账单里,很难看出钱浪费在哪里。
| 成本项 | 需要记录的内容 | 常见漏项 |
|---|---|---|
| 模型与调用 | 输入、输出 Token,模型版本,重试和工具调用 | 循环调用、重复上下文、失败任务照常计费 |
| 基础设施 | GPU、云实例、存储、监控和网络 | 闲置资源、测试环境长期运行 |
| 数据 | 文档清洗、分块、更新和权限标注 | PDF 噪声、过期知识、重复资料 |
| 工程维护 | 状态管理、RAG 边界、工具权限和测试 | 上线后的调试与故障处理时间 |
| 人工与合规 | 复核、接管、培训、审计和脱敏 | 员工已经在岗,就被视为没有成本 |
以电商客服 Agent 的预算演练为例:每月处理 10 万次对话,每次平均消耗 2000 Token。这组数字只能说明调用规模,还不足以计算支出。输入与输出的比例、平均重试次数、是否调用检索、工具结果会回写多少内容,都要单独记录。
云端使用 GPT-4o、Claude 4,费用主要跟调用量走;本地部署 Qwen2.5-7B、Llama-3-8B,减少了闭源 API 的按次支出,却增加了显卡折旧、电力和运维。如果方案通过 Baseten 等平台租用 B200,还应记录实际卡时、闲置时长和单价变化,不能只看月度总额。
RAG 也有一笔容易被忽略的账。知识库效果依赖 PDF 清洗、文档分块和持续更新,这些工作通常需要业务人员和工程师共同完成。财务审批、法律合同等高风险任务还要安排人工复核。人工本来就在岗,也不等于这部分时间没有成本。
多 Agent 上线前,先看任务是否真的需要协作
多 Agent 在演示中容易显得能力更强,生产环境里却会增加状态同步、上下文传递和失败重试。单个 Agent 配合工具就能完成的流程,没有必要预先拆成多个角色。
对预算敏感的中小企业,混合架构是一种可测试的方案。分类、标签提取等规则较清晰的任务,可以交给本地小模型;复杂推理、代码生成或多模态任务,再路由到云端模型。是否合算,要用企业自己的真实任务验证,不能只比较模型单价。
成本控制最好直接写进运行逻辑:
- 按任务难度选择模型,避免所有请求都走高价模型;
- 缓存高频问题和稳定结果,减少重复生成;
- 给重试次数、上下文长度和单次任务成本设置上限;
- 限制工具权限及返回内容,避免整份数据反复写回上下文;
- 分开管理演示与生产环境,为续费、停机和预算指定负责人。
这些措施不会自动提升模型能力,但能让账单变得可解释,也方便定位是哪条调用链出了问题。
ROI 要从上线前的业务基线算
常用的计算方式是:
ROI =(直接收益 + 可归因的间接收益 - 总成本)÷ 总成本 × 100%
直接收益可以包括节省的工时和减少的返工损失。客户满意度、响应速度、员工体验等指标,可以先作为业务结果记录;只有建立了清晰的归因关系,才适合折算成金额。总成本则要包含 API、服务器、数据处理、开发维护、培训和人工复核,不能只拿当月模型账单做分母。
用一个制造企业的演示场景看口径问题:供应链预测 Agent 每月减少库存积压成本 5 万元,订单满足率提高 2%,带来额外销售额 10 万元,月度总成本为 3 万元。如果把 10 万元销售额全部计为收益,算式为:
(5 + 10 - 3)÷ 3 × 100% = 400%
这个 400% 只在当前假设下成立。实际核算时,额外销售通常应按可归因的毛利计算;订单满足率提高 2% 是业务指标,如果它已经反映在新增销售中,就不能再重复计入收益。前期开发和培训费用也应按统一周期分摊,否则首月和后续月份没有可比性。
比整体 ROI 更适合日常管理的指标,是每个成功任务的成本。总调用量很高、成功完成的任务很少,账面上的自动化规模并没有业务价值。
FinOps 要跟着每次调用走
甲子光年智库《2024 年 AI Agent 行业报告》提到了 PDCA 方法。放到 Agent 管理中,就是上线前确定业务基线、预算和停止条件;试运行时记录调用链;复盘成本与业务结果;再调整模型路由、知识库、提示词和工具权限。
每次调用至少应能追溯到业务场景、Agent 版本、所用模型、输入与输出 Token、重试情况、工具调用结果、任务成败和人工接管记录。这样才能回答:成本上涨来自业务量增加,还是系统在无效循环。
自动续费也要纳入这套账。测试账号、云实例和第三方工具都应有负责人、用途和停用条件。到了预算线仍没有业务结果的 Agent,应先暂停调用,再排查流程。
高风险任务,留人也留证据
使用云端模型前,要先处理敏感数据,明确哪些字段需要脱敏,哪些资料不能离开本地环境。涉及财务审批、合同审核等任务时,Agent 可以提供辅助意见,最终操作仍应保留人工确认。
工具权限同样需要收紧。一个能够读取客户资料、修改订单或调用内部系统的 Agent,应采用最小权限,并保留完整日志。出现错误时,企业需要知道它读取了什么、调用了哪个工具,以及结果由谁确认。
代码和内容生成还涉及知识产权管理。提示词、版本差异、Git 提交和测试记录都值得保留,用来说明员工做过哪些选择、修改与审查。这些记录也方便内部审计和后续追责。
复盘时可以回到几件具体的事:每个成功任务花多少钱,业务指标是否出现可归因的变化,失败能否被预算上限、人工接管和日志及时拦住。答案稳定后再扩大场景;仍然说不清,就先关掉浪费最大的调用链。ROI 会随模型、调用量、知识库和人工介入方式变化,需要持续复算。