直接答案
月度预算的基础公式是“单次成本 × 每日调用次数 × 30”,但生产环境还应加入流量增长、失败重试、输出波动和缓存命中变化。建议同时计算基准、乐观与压力三种情景。
先记住这四点
- 使用 P50/P95 请求规模
- 预留失败重试成本
- 区分峰谷流量比例
- 设置预算告警与用量上限
从日志建立预算基线
按任务类型汇总输入 Token、输出 Token、成功率和每日请求数。不要只取平均值,至少同时查看典型请求和高分位请求,避免少量超长上下文拉高账单。
三种预算情景
基准情景使用当前真实用量;乐观情景加入缓存优化和空闲调度;压力情景加入流量增长、输出增加与重试。三组结果比单个数字更适合团队审批和容量规划。
- 基准:当前真实流量
- 优化:更高缓存命中与峰谷调度
- 压力:流量增长和失败重试
常见问题
应该预留多少预算缓冲?
取决于业务波动。可先用历史高峰或产品增长目标构建压力情景,而不是使用统一百分比。
每日调用次数相同,账单会稳定吗?
不一定。输入长度、输出长度、缓存命中和模型路由变化都会影响单次成本。