模型 · 测评
Agent 应用成本估算示例/演示
Agent 应用的成本黑洞不是单次调用，而是多轮循环的累积。一个「每天跑 100 次」的 Agent，月成本可能是原估算的 5–10 倍。
成本结构拆解
| 成本项 | 产生原因 | 占比趋势 |
|---|---|---|
| 系统提示词 | 每轮完整重发（工具定义+规则） | 随轮数线性增长 |
| 工具返回值 | 每次调用的结果都进上下文 | 常被严重低估 |
| 历史消息 | 多轮对话的累积 | 轮数越多越贵 |
| 输出 token | 思考过程+工具调用参数 | 单轮小、总量大 |
估算公式（简化版）
单次任务成本 ≈ 平均轮数 ×（每轮输入 token × 输入价 + 每轮输出 token × 输出价）
关键变量是平均轮数：访谈类 Agent 可能 5 轮，自主执行类可能 30 轮。上线前用真实任务跑 50 次取轮数分布，别用「理想情况 3 轮」做预算。
五个降本手段
- 系统提示词走缓存：工具定义和规则是固定内容，上下文缓存能砍掉这部分一半以上成本
- 小模型做路由：先判断任务复杂度，简单请求直接便宜模型应答
- 截断工具返回值：搜索结果只保留 top 片段，网页内容先摘要再入上下文
- 限制最大轮数：既控成本也防死循环
- 失败快速退出：连续两轮无进展就止损重来，比磨 10 轮便宜
监控指标
- 每任务平均成本（不是每 token 价格）
- 每任务平均轮数分布
- 失败任务的成本（重试是隐形双倍付费）
结论：Agent 成本管理的核心是控轮数和控上下文长度。模型单价只是起点，按业务轮数算总账才知道真实成本。