Kimi K3 token 成本不只是输入加输出。真实估算还要包含缓存行为、请求量和重试。
统计所有输入来源
输入 token 可能包括用户可见 prompt、系统提示词、文件、历史对话、检索结果和工具输出。对于编码 Agent,隐藏上下文经常比用户那句话更大。
为常见工作负载建立几个预设:小型聊天、编码 Agent、仓库审查、文档批处理和评测运行。
诚实估算输出
长回答、生成代码、摘要、表格和重复解释都会增加输出 token。如果服务商费率里输出更贵,回答形式就会显著影响账单。
不需要长篇内容时,可以要求输出 diff、简短摘要或结构化字段。
上线前加入重试
强模型也会产生后续请求。用户会澄清需求,工具会失败,代码修改也可能需要修复。第一张账单提醒你之前,先把重试开销加进预算。
上线后,用真实日志和估算对比,并每月更新计算器假设。
