模型 · 测评
提示词优化降本示例/演示
在 Agent 和批量调用场景里，提示词的优化往往比换模型更省钱。这篇讲两个杠杆：上下文瘦身与缓存复用。
成本从哪来
| 来源 | 特征 | 优化空间 |
|---|---|---|
| 系统提示词 | 每轮重复发送 | 大（缓存 + 精简） |
| 历史消息 | 多轮线性增长 | 大（截断/摘要） |
| 工具返回值 | 每次调用全量入上下文 | 中（裁剪/摘要） |
| 用户输入 | 通常占比较小 | 小 |
杠杆一：上下文瘦身
- 系统提示词精简：去掉修饰性表述，只留规则与示例——每省 500 token，一千次调用就是 50 万 token
- 历史消息分层：近 3 轮原文 + 更早的做成摘要
- 工具返回值裁剪：搜索结果只保留 top 片段，长文本先摘要再入上下文
- 字段裁剪：结构化数据只传必要字段，JSON 的缩进与冗余 key 也占 token
杠杆二：缓存复用
- 系统提示词与固定上下文走上下文缓存（缓存命中价通常是常规输入价的一小部分）
- 把稳定的规则/知识放在提示词前部（缓存通常按前缀匹配）
- 批量任务共享同一份系统前缀
一个自检方法
记录单次调用的 token 构成（系统/历史/工具/输入/输出），按占比从大到小优化——优化 80% 占比的那一项，比纠结 5% 的那一项有效得多。
常见误区
- 为省 token 牺牲输出质量，导致重试成本更高
- 只看单次成本，不看重试率与失败率
- 提示词反复改却不做 A/B 对比，无法确认效果
结论：先测出 token 构成，再按占比优化，配合缓存复用。本站单价表可对比各模型的输入输出价格。