如何控制 AI Agent 成本：从按任务核算到持续优化的六步指南
当 AI Agent 超出预算时，仅关注 Token 往往无法揭示根本原因。单个任务可能涉及多轮模型调用、知识检索、外部 API、重试、存储和人工审核。成本优化的第一步是计算每个独立交付任务的成本，而不是仅仅查看月度总支出。
首先梳理完整的成本结构
| 成本项 | 常见驱动因素 | 需记录内容 |
|---|---|---|
| 模型调用 | 输入输出长度、模型选择、调用轮次 | 模型版本、Token 数、调用次数 |
| 工具与接口 | 搜索、数据库、第三方 API | 工具名称、调用次数、失败状态 |
| 基础设施 | 计算、存储、网络 | 任务资源占用、峰值用量及闲置容量 |
| 知识与记忆 | 索引、检索、长期保留 | 数据量、查询次数、保留策略 |
| 开发与运维 | 技能迭代、监控、事件处理 | 工时、返工、告警 |
| 人工审核 | 质量审查与异常处理 | 审核时长、驳回原因 |
总体拥有成本（TCO）应包含所有这些项目。云平台与自托管方案的对比也应基于相同的质量、吞吐量和治理目标。
成本优化的六步法
1. 建立按任务基线
选取高频工作流，记录每次成功交付所需的平均模型调用、工具调用、重试和人工审核次数。成功任务与失败任务应分开统计。
2. 按任务选择模型
低成本模型可用于测试提取和分类等任务。对于复杂推理和高风险内容，应保留更严格的模型和人工审批关卡。路由策略必须通过固定样本集进行验证，而不能仅凭价格决定。
3. 缩短上下文
移除重复的指令，仅检索与当前问题相关的知识片段。长历史记录可先整合为已验证的摘要，但在此过程中绝不能丢失关键约束。技能设计应聚焦单一目标，避免每次加载无关流程。
4. 减少不必要的工具调用
为工具定义明确的触发条件，防止多个 Agent 重复查询同一数据源。对于适合缓存且对时效性要求合理的结果，设置缓存键和过期时间。价格、库存等时效敏感信息绝不可随意复用。
5. 管理存储与记忆
区分需长期保留的偏好与项目事实，以及临时过程数据。定期审查重复、过时或无归属的记忆。按主题和权限划分知识库，以减少无关检索。
6. 控制失败与重试成本
超时错误可限制重试次数，而参数和权限错误应立即终止流程。设定单次任务的调用上限和总执行时间，并配置预算告警，以防止故障期间重复消耗资源。
优化过程中绝不能牺牲什么？
- 事实准确性与业务完成标准。
- 安全性、权限、审计与人工审批。
- 高风险任务的追溯能力。
- 用户可接受的响应时间与稳定性。
若降低模型支出的同时增加了返工、客诉或人工审核，则不构成真正的成本节约。应按任务成本、任务完成率与人工干预情况综合评估。
应持续复盘哪些指标？
| 指标 | 目的 |
|---|---|
| 单次成功任务成本 | 对比不同工作流与版本 |
| 单次失败任务成本 | 识别重试与异常造成的浪费 |
| 模型/工具调用次数 | 定位重复步骤 |
| 人工干预率与耗时 | 发现隐性运营成本 |
| 缓存命中率与过期数据误用 | 判断缓存是否真正有效 |
| 质量相关驳回原因 | 防止降本损害产出质量 |
一轮优化实验应如何开展？
- 定义一组固定的代表性任务与验收标准。
- 记录当前方案的质量、延迟、成本及人工干预情况。
- 每次仅更改一个变量，如模型、上下文或缓存策略。
- 在同一测试集上对比结果，并对高风险任务进行抽查。
- 仅在确认质量未下降后，逐步增加流量。
- 记录配置版本，以便随时回滚变更。
常见问题
自托管一定比云服务更便宜吗？
不一定。硬件、闲置容量、运维和升级成本都必须计入 TCO。负载稳定性与团队能力会显著影响最终结果。
缓存越多就越省钱吗？
并非如此。缓存会带来存储成本、失效维护需求以及错误复用结果的风险。只有高度重复、可安全复用且时效边界明确的内容才适合缓存。
SmaugBrain 能支持成本优化的哪些阶段？
原文涵盖了模型选型、技能编排、记忆管理、监控与数据报表等领域。实际可用的统计与控制能力取决于当前配置。最关键的一步是为您的团队建立按任务核算的成本基线。
立即着手这三项行动
- 找出成本最高且调用最频繁的工作流。
- 将成功任务、失败任务、重试及人工审核的成本分开统计。
- 在考虑复杂的部署变更前，优先优化重复的上下文与不必要的调用。