Kimi K3 上下文窗口:如何围绕 1M tokens 做规划

2026/07/20

Kimi K3 的长上下文很有价值,但大窗口不等于默认把所有内容都塞进去。

把上下文当成预算

上下文既是能力,也是成本。仓库文件、文档、日志、截图、检索结果和聊天历史都会占用同一个 prompt 预算。

生产工作流上线前,先决定哪些上下文总是需要,哪些是可选的,哪些应该只在任务需要时检索。

保持稳定前缀稳定

稳定的系统提示词、评测规则、仓库地图和政策文本更容易缓存,也更容易审计。不要在每次请求里用稍有不同的方式重写同一块稳定内容。

对于代码任务,可以先放简短项目地图,再补充本次修改真正需要的文件。

观察多轮对话增长

多轮对话会增长很快,因为前面的消息会进入后续请求。旧回合不再帮助任务时,要摘要或重置。

用日志衡量真实输入大小。演示里看起来清爽的上下文方案,被团队全天使用后可能变得很贵。

References

Kimi K3 Team

Kimi K3 上下文窗口:如何围绕 1M tokens 做规划 | Kimi K3 博客