版本:`billion-context 0.1.111` 使用插件模式,调用 `/v1/messages`。日志中消息数量持续增长,但输入 token 从 `56040` 突然降到 `344`,后续长期只有几百,且一直显示 `cached=0`,影响压缩触发判断。 定位到 [src/plugin.ts](/home/ubuntu/billion-context/src/plugin.ts:572): - `message_start` 读取 `input_tokens` 和 `cache_read_input_tokens`。 - `message_delta` 只读取普通输入和输出,忽略 `cache_read_input_tokens`。 - 流式和非流式插件路径均未将 `cache_creation_input_tokens` 计入总输入。 **最小复现** 上游先返回全零的 `message_start.message.usage`,然后在 `message_delta.usage` 返回: ```json { "input_tokens": 344, "cache_read_input_tokens": 53696, "cache_creation_input_tokens": 2000, "output_tokens": 5 } ``` 这组数值是构造的复现数据,并非日志中捕获的原始 usage。 实际统计:`input=344 cached=0` 预期统计:`input=56040 cached=53696` **建议修复** 同时解析起始和后续 usage 的三个输入字段,按字段更新累计快照,最终计算: ```text total input = input_tokens + cache_read_input_tokens + cache_creation_input_tokens ``` 省略的字段保留已有值,重复快照不能累加;缓存写入不能算作缓存命中。非流式 JSON 路径也需要补上缓存写入统计。
Activity
[-]Anthropic plugin passthrough 漏计最终 usage 中的缓存 token,导致上下文大小异常下降[/-][+][bug] Anthropic plugin passthrough 漏计最终 usage 中的缓存 token,导致上下文大小异常下降[/+][-][bug] Anthropic plugin passthrough 漏计最终 usage 中的缓存 token,导致上下文大小异常下降[/-][+][Bug] Anthropic plugin passthrough 漏计最终 usage 中的缓存 token,导致上下文大小异常下降[/+]ranxianglei commentedon Sep 15, 2026
[bot] 🏷 Bug 确认并已修复,见 PR #791。
验证(复现)
message_start+message_delta{input_tokens:344, cache_read_input_tokens:53696, cache_creation_input_tokens:2000})对 v0.1.111 代码回放:实测[acp-usage] input=344 cached=0 (cache hit 0%),与日志现象完全一致;input=56040 cached=53696 (cache hit 96%),与预期统计一致。根因分层(你的定位正确,另有一层)
usageFromSseEvent的message_delta分支确实丢弃两个缓存字段;message_start分支也漏了cache_creation_input_tokens;promptInputTotal根本没有"缓存写入段"的概念——总输入始终只算 fresh + read。这一层是"缓存写入不计入总输入"在流式与非流式路径同时生效的原因;src/loop/adapter-anthropic.ts+recordUsage)同样不解析、不计入缓存写入 token——同一根因的另一种压缩模式表现,按仓库规范(wire 相关改动须同时覆盖两种模式)在同一 PR 修复。proxy 侧非流式 JSON 原本就通过usageTotals把三段相加,无需改动。实现方案(采纳你的建议)
total input = input_tokens + cache_read_input_tokens + cache_creation_input_tokens(仅在 split 语义下相加;OpenAI/Responses wire 本身报总数,不会重复计入);cachedTokens仍只等于 read);message_delta里的0不会覆盖message_start的真实值;反之message_start的input_tokens:0是合法值(全命中轮次),必须记录;测试与预检
PR: #791
fix: count Anthropic cache-write/read segments in plugin + loop usage…
Merge pull request #791 from ranxianglei/wt-790-ework-daemon