内容加载中
做 AI 应用时最容易被忽略的问题是:模型窗口到底还装得下多少内容。这个工具把系统提示、历史对话、检索片段、工具返回和当前提问拆成一条条预算项,按选定模型的上下文上限算出已用、预留输出、剩余可用和超限部分,并给出该优先裁剪哪一段。适合写长提示词、搭 RAG 检索、调多轮对话的开发者,也适合在换模型前评估现有提示词会不会被截断。token 数采用本地估算,不调用任何模型接口,粘贴的提示词不会离开浏览器。
选模型
从下拉框选择目标模型,或直接用它的上下文长度与最大输出作为计算基准。
填预算项
把系统提示、历史消息、检索内容等分别粘进去,标注类型并填写预留给回答的 token 数。
看容量与建议
查看堆叠容量条、剩余可用量和告警;超限时按建议裁剪清单优先精简历史对话与检索片段。
不同模型的分词器不同,中文、代码和符号的压缩率差别很大。工具用固定规则做本地估算,目的是给出量级和预算分配,正式上线前应以服务商的计数接口为准。
上下文窗口是输入和输出共用的,如果输入塞满,模型能生成的回答就会被迫截断。先留足回答空间,再算输入还剩多少,才不会出现「问得进去、答不完整」。
那个工具按 token 单价算钱,这里算的是单次请求装不装得下、超了多少、该裁哪一段,两者解决的是容量与费用两个不同问题。