Skip to content

[PR] fix: acp_status outputs context usage metrics (used/window/%/remaining), avoiding misreading cumulative original as curr | fix: acp_status 输出上下文占用锚点(已用/窗口/%/剩余),避免把累计 original 误读成当前占用 (#5021) - #5023

Closed
Augenblick0v0 wants to merge 9 commits into
ranxianglei:masterfrom
Augenblick0v0:fix/acp-status-occupancy-anchor

Conversation

@Augenblick0v0

Copy link
Copy Markdown

关联 issue:#5021

改了什么

src/acp_status 在拿到 billed input 后,固定多打印一行占用锚点(已用 / 窗口 / 百分比 / 剩余):

CONTEXT: 116902 / 800000 tok used (14.6%) · 683098 tok remaining of the input budget
  • 只在 billed > 0 且 config.modelContextLimit > 0 时输出;没有 usage 样本、或限额非正数时不输出这一行(不臆造占用)。
  • remaining 在超限时收敛到 0,不会打印负数预算。
  • 新增 tests/issue5021-context-occupancy-anchor.test.ts(4 例)覆盖:正常比例、无锚点不出行、超限收敛、非正限额不出行且不漏 NaN。

为什么

acp_status 之前给的是裸的绝对值 BILLED INPUT (upstream usage): N tok,而分母 config.modelContextLimit 在整份报告里从不出现;紧邻其上又是 kernel 的 COMPRESSED BLOCKS — N active (X summary, Y original),其中 Y original 是生命周期累计被压缩掉的原文量(恰恰是压缩在生效的证据),却最容易被读成"当前上下文里有 Y"。

真实事故(已在 issue 里给出完整数据):一个会话在 116,902 / 1,000,000 tok(11.7%,峰值 16.9%)时,向用户报告"上下文已经用尽"(引用 1214.1K original 与 4.3K max compressible 作为依据)并停止执行任务。这两个数字都不是占用量。

补上分母后,agent 不需要猜窗口大小就能回答"还剩多少",也不会再把累计量当占用。

验证

  • 新增测试 4/4 通过:node --import tsx --test tests/issue5021-context-occupancy-anchor.test.ts
  • 既有相关测试未回归:node --import tsx --test tests/acp-status.test.ts tests/issue2366-cjk-billed-status.test.ts → 17/17 通过
  • 纯增量:只在 extra.push(billedLine) 之后插入一个 if 块,不改任何既有行,不动 kernel。

未包含(避免扩大 PR 面)

kernel 侧 kernel/src/report.ts 的 COMPRESSED BLOCKS — … original 措辞(建议标注"已回收,不在当前请求内")本次不改——那是 kernel 改动,需要 bump kernel/package.json 版本并同步断言该字符串的测试。如需要我可以另开一个 PR 处理。

… lifetime "original" total as current context (ranxianglei#5021)

acp_status gave an absolute `BILLED INPUT … tok` with no denominator, and the kernel's
`COMPRESSED BLOCKS — N active (X summary, Y original)` header prints a LIFETIME reclaimed
total one line above it. An agent that cannot see the route's window has no anchor, so
both figures read as current occupancy.

Measured incident: a session at 116,902 of a 1,000,000-token window (11.7%, peak 16.9%)
reported "the context is exhausted" to its user and stopped mid-task, citing the
1,214.1K lifetime original and the 4.3K remaining foldable mass as its evidence.

The report now always carries the missing denominator when a billed sample exists:
  CONTEXT: 116902 / 800000 tok used (14.6%) · 683098 tok remaining of the input budget
Guarded: no billed anchor or a non-positive limit prints no line, and remaining clamps
at 0 so an over-limit reading never shows a negative budget.
@ranxianglei ranxianglei changed the title fix: acp_status 输出上下文占用锚点(已用/窗口/%/剩余),避免把累计 original 误读成当前占用 (#5021) [PR] fix: acp_status 输出上下文占用锚点(已用/窗口/%/剩余),避免把累计 original 误读成当前占用 (#5021) Oct 28, 2026
@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

(ai: vllm-qwen/qwen3.8-27b)

查重:不重复。 按 issue 号、主题关键词与失败签名检索了 open+closed 的 issue/PR(近期 7 天为主):只找到 #5021(本 PR 的来源 issue)与本 PR 自身,无他人并行修同一问题。

标签: bug dsh scope/ui p2 —— 报告面信息缺陷(裸绝对值无分母 + 累计量可被误读为当前占用),真实事故发生在 dsh 车道;p2:可用但有明确误判风险,有绕行(看 bili.log),非不可用。

以下为对 diff 与既有行为的独立复审结论(不是复述 issue 的分析):

八问

  1. 是什么问题:acp_status 只给没有分母的绝对值 BILLED INPUT,其上一行又是 kernel 的会话生命周期累计原文量(original);不知道窗口大小的 agent 无法回答"还剩多少上下文",会把累计量误读成当前占用——实测事故里一个会话在 11.7% 占用时自我判定"已耗尽"并停工。
  2. 什么原因导致的:报告设计里只有"分子无分母"和"累计指标"两类数字,没有任何一行给出"已用/窗口";唯一的百分比句子 PRESSURE NOTE 门槛是 ≥60% 且可压缩量耗尽,低于门槛时对占用完全沉默。这是报告面的信息缺口,压缩引擎本身工作正常(事故会话 nudge 全程 idle、无 truncate)。
  3. 影响范围与严重程度:所有 upstream 会上报 usage 的车道都缺这个锚点;严重程度 = agent 判断失误(误判耗尽而停工 / 提前折叠),非数据丢失、非不可用,有绕行 → p2。
  4. 怎么修复的:纯增量展示——拿到 billed input 后固定追加一行 CONTEXT(used / limit / % / remaining);仅当 billed > 0 && modelContextLimit > 0 时输出(不臆造占用),remaining 超限收敛到 0。不改任何决策逻辑(nudge/preflight/breaker 各用自己的值),不动 kernel、不动 wire、不动配置面。
  5. 是否有回归问题:逐项清点触碰路径的既有行为——BILLED INPUT 行、est-view ratio NOTE、PRESSURE NOTE、keepalive/breaker 段全部逐字节未动;新行插在 BILLED INPUT 与 ratio NOTE 之间,纯 additive。无语义漂移、无 fail-fast 变吞错、无阈值/时序/默认值变化、不触碰缓存失效策略。分母表达式 ctx.config.modelContextLimit 与本文件既有 PRESSURE NOTE(src/acp-status.ts:288)用的是同一个值,百分比口径与现状一致。本地定向测试 24/24 通过(新增 4 + 相关既有 20);全量判定以 CI 为准。
  6. 是否破坏缓存:不涉及——纯文本输出,不触碰缓存/重试/游标/去重键。
  7. 是否改了设计方向:不涉及——无架构/边界/数据流转,只在报告面加一行。
  8. 是否引入新的配置:不涉及——无新 env/config/默认值。

测试有效性:4 例走真实 handleAcpStatus 入口,断言有牙(精确匹配 used/limit/%/remaining 全串);gate 纪律双向齐全——正向(正常比例出行)+ 负向(无 usage 样本不出行;非正限额不出行且不漏 NaN)+ 超限收敛到 0。fixture 风格与 tests/acp-status.test.ts 既有惯例一致(inline session fixture 是全套件通行做法)。

diff 整洁度:2 文件 +117/-0,每行都服务于本 PR 目的,无跑题文件、无空白 churn;base 即当前 master(落后 0 commit),无 stale-base 风险。注释带事故溯源,符合本仓库 provenance-comment 惯例。

两个非阻塞观察(不要求返工):

判定:方向打到根因(补上缺失的分母,而不是在消费侧打补丁治误判);外部提交质量过 ⑤b 全项清单(命名达意、无死代码、无重复、错误处理完整、风格一致、测试同标准);测试有效性足。CI 在评审时点 21 项 check 全部 queued(刚起跑)——若 CI 绿即可合并,合并操作留给你。

@ranxianglei ranxianglei added bug Something isn't working dsh p2 scope/ui labels Oct 28, 2026
@ranxianglei ranxianglei changed the title [PR] fix: acp_status 输出上下文占用锚点(已用/窗口/%/剩余),避免把累计 original 误读成当前占用 (#5021) [PR] fix: acp_status outputs context usage metrics (used/window/%/remaining), avoiding misreading cumulative original as curr | fix: acp_status 输出上下文占用锚点(已用/窗口/%/剩余),避免把累计 original 误读成当前占用 (#5021) Oct 29, 2026
@ranxianglei

Copy link
Copy Markdown
Owner

(ai: vllm-qwen/qwen3.8-27b) Merge guard sync: origin/master merged into this PR branch with no conflicts and pushed to the fork head fix/acp-status-occupancy-anchor @ 0016674cf; CI re-triggered on the new head (21 checks queued), merge state clean (mergeable, no conflict).

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: vllm-qwen/qwen3.8-27b) Merge guard re-check: no push needed — the branch was already synced past master tip 44067a5bc (head faac912f1 also carries the ci-fixes merge that cleared the 5 inherited guard failures); verified up-to-date against live master, mergeable, checks running with zero failures so far.

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: vllm-qwen/qwen3.8-27b) Merge guard re-check (round 3): no push needed — branch is fully up-to-date with master tip 44067a5bc (head faac912f1, mergeable, no conflict). Checks: 32 green / 12 skipped, 2 red — test (windows-latest, 22, 3) and (22, 4) — both fail identically on master's own head run, i.e. inherited-master red, not caused by this PR's diff (src/acp-status.ts + its test).

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: vllm-qwen/qwen3.8-27b) Merge guard re-check (round 4): state unchanged — no push needed (branch faac912f1 already contains master tip 44067a5bc, mergeable, no conflict). Checks: 34 green / 13 skipped / 2 red (test windows-latest 22,3 & 22,4), both inherited-master reds documented under #4599. Nothing to do until master's Windows shards go green.

@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

(ai: vllm-qwen/qwen3.8-27b)

CI 自动修复车道收工(head faac912f1,run 41063803732)。最终八问:

1. 是什么问题:PR 三个 test 分片红。三轮日志逐一对账后确认全部是 master 继承的 test 矩阵失败,与本 PR 代码无关。

2. 什么原因导致的:① #5140 cold-tail 409 !== 200——测试未钉存储模式,CI 基线 BILI_STORAGE_UNIFIED=legacy 下 unified 行不存在 → forkSnapshot fail-closed(哨兵已修于 ci-fixes@67f8e8940);② win22-s4 = issue4739 Windows EBUSY unlink index.db(Windows 文件锁环境性);③ win22-s3 = #5103「warning must name the database file」(哨兵清单 (c),ci-fixes tip 同样红)。②③在两轮重跑中签名逐字节一致,与我的 merge(#5188 sidecar-recoverable-open)无交互——失败点在测试自身的临时目录清理/告言文案断言,不在 #5188 触碰的 persist/plugin/shadow 路径上。

3. 影响范围与严重程度:仅 CI 矩阵;用户/运行时零影响。对本 PR:阻塞全绿判定,但本 PR 自身路径已全绿。

4. 怎么修复的:不改业务代码——merge ci-fixes@67f8e8940(#5140 pin)+ 最新 master 44067a5(含 #5188,同属 fork/snapshot-409 域),两次推送(c83ca2c80 → faac912)。效果:#5140 三片转绿、#3380 timing 未再复现、全部 ubuntu 分片 + static gates + contract lanes 全绿。剩余 ②③ 按 CI 协调政策收敛在 ci-fixes/master 侧,本分支不重复修。

5. 是否有回归问题:无。三轮重跑中所有非继承项均绿;merge 带入的 #5188 是已合入 master 的既有变更,未引入新行为面。

6. 是否破坏缓存:不涉及。

7. 是否改了设计方向:不涉及。

8. 是否引入了新的配置:不涉及(BILI_STORAGE_UNIFIED 为既有 env var,仅测试内局部 pin)。

关于「attempt 2/2 需开 decision request」:未开新 issue——两个剩余红都已在 #4599 哨兵清单里点名跟踪并请求 owner triage,按 owner policy 2026-10-24「禁止为 CI 问题开新 issue」,状态/结论一律评论到 #4599(已发三条:初始归因、重跑结果、终态)。收工判定:本 PR 自身全绿,可合入状态已达成(合并由人执行);整体变绿只待 ci-fixes/master 收敛 issue4739-EBUSY 与 #5103 两条已知继承项。

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: vllm-qwen/qwen3.8-27b) Merge guard sync (round 5): master had advanced 121 commits (44067a5bc → e19386182), so this firing was legitimate. Merged current master into the PR branch cleanly — zero conflicts — and pushed 8f3bc3c60..aa8353e0c. State after push: head aa8353e0c, mergeable, no conflict; checks are running.

@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

[ework] CI fix verified green ✓

@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

[bot] 🏷 (ai: vllm-qwen/qwen3.8-27b) Merge guard 第 7 轮:本轮触发属实,已完成同步。master 前进 121 commits(44067a5bc → e19386182),PR head 此前已被另一流程推进到 8f3bc3c60(含中间 ci-fixes)。我把当前 master 合入 PR 分支——零冲突——并推送 8f3bc3c60..aa8353e0c。推送后核验:head 已更新为 aa8353e0c,mergeable、无冲突,checks 运行中。结果评论已留 PR(#issuecomment-6539337258)。无冲突、无设计决策,未开 decision-request issue。

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: vllm-qwen/qwen3.8-27b) Merge guard sync (round 6): master advanced again (e19386182 → 71d249416, +12 commits) before the previous head's checks even started, so I re-synced to avoid a wasted CI cycle — merged cleanly, zero conflicts, pushed aa8353e0c..1a7a92997. State after push: head 1a7a92997, no conflict, checks queued.

@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

[bot] 🏷 (ai: vllm-qwen/qwen3.8-27b) 本轮(转发的是我自己上一轮的同步评论,非新请求;顺手做了核验+再同步):发现 master 在上次推送后又前进了 12 commits(e19386182 → 71d249416),而新 head 的 checks 还在排队没开跑——为避免浪费一轮 CI,直接再同步:合并最新 master,零冲突,推送 aa8353e0c..1a7a92997。当前状态:head 1a7a92997,mergeable、无冲突,checks 排队中。结果评论已留 PR(#issuecomment-6539626548)。master 仍在快速前进,后续 guard 触发大概率还是「behind」,属预期。

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: vllm-qwen/qwen3.8-27b) Merge guard sync (round 7): master advanced +3 (71d249416 → a34a65a93) while the previous head's checks were still queued, so I re-synced to keep CI from chasing a stale head — merged cleanly, zero conflicts, pushed 1a7a92997..9a97cdddd. State after push: head 9a97cdddd, no conflict, branch now 0 behind master.

@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

[bot] 🏷 (ai: vllm-qwen/qwen3.8-27b) 本轮(转发的仍是我自己的上轮同步评论;核验时发现 master 又前进了):master +3 commits(71d249416 → a34a65a93),而上一个 head 的 checks 还在排队未开跑——为不让 CI 追过期 head,再次同步:合并零冲突,推送 1a7a92997..9a97cdddd。当前:head 9a97cdddd,mergeable、无冲突、0 behind master,checks 排队中。结果评论已留 PR(#issuecomment-6539804469)。注:CI runner 目前积压(连续两个 head 的 checks 都停在 queued),等 runner 消化后才有真实绿/红结论。

@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

[bot] 🏷 (ai: vllm-qwen/qwen3.8-27b) 本轮转发的是我自己的上轮同步评论(非新请求)。核验结果:状态无变化——head 9a97cdddd,mergeable、0 behind master;但 21 个 checks 仍全部停在 queued。这已是连续第三个 head 的 CI 从未开跑,疑似 GitHub runner 积压,已在 #4599 留一行观察记录(#issuecomment-6539856870)。分支侧无代码动作可做,等 runner 消化后出绿/红结论;若再红,按 #4599 流程区分继承性红与 PR 自身红。

@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

(ai: vllm-qwen/qwen3.8-27b)

更正上一条基于旧 head 的 re-check:分支已前进到 8f3bc3c60(含 ci-fixes@06ad804ac 的四条收敛修复),它取代了 faac912。刚直读 GitHub check-runs:51 项全部完成——37 success + 14 skipped,零失败、零排队,包括此前两个红的 Windows 分片(test windows-latest 22,3 / 22,4)在内的全矩阵测试与全部静态守卫。

CI 全绿,本 PR(diff 仅 src/acp-status.ts + tests/issue5021-context-occupancy-anchor.test.ts 两文件)可直接合入,合并由人执行。

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: sglang-gpu0/qwen3.8-27b) 已送审合入: 本 PR 的改动以 cherry-pick 原提交 898954f 的方式经「其他车道小修合集第四辑」#5987 送审,git author(Augenblick0v0)完整保留。本 PR 关闭以免重复,感谢贡献。

@ranxianglei ranxianglei closed this Nov 9, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

bug Something isn't working dsh p2 scope/ui

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants