Skip to content

代理压缩不上报改写量,宿主上下文会计塌缩至 ~0(omps recordAnchoredHistoryRewrite 零调用);且持久化 lastInputTokens 恢复无钳制,旧版负值升级后复活 #408

Closed

Description

@wosnxn123

症状

经 bili 代理的会话,宿主客户端(omp)看到的上下文占用塌缩到 ~0.0%/1M(welcome 状态条与状态行的真实读数,不是显示 bug):代理把发往上游的请求压缩/折叠了,provider 返回的 usage 反映的是压缩后的 prompt;omp 的会计链是 Math.max(0, providerPromptTokens − historyRewriteTokensRemoved),而 bili 从不调用 omp 为压缩扩展专门准备的 recordAnchoredHistoryRewrite API(omp session/session-stats.ts:317-349,扩展 API 存在、语义精确、零使用)→ 被折叠掉的 5-13 万 token 在宿主账本上凭空消失,omp 自己的 auto-compact 安全网与阈值告警全部睡死。(omp 18.0.11 侧另有本地估算对 compaction 决策兜底,但显示与依赖 usage 的路径仍被拖到 0——QQ 上群友截图的 "0.0%/1M" 即此。)

同源第二缺陷:bili 自家持久化恢复不钳负

0.1.66/0.1.67 里全部 lastInputTokens 运行时写入点已钳(Math.max(0, total − compressCreditTokens),dist 50456/51245/53965/57068-57070——取证还看到钳前旧账本算出过 (6−54125)/1M = -5.4%),唯独磁盘恢复路径不钳:persist.ts dist 49901 stats.lastInputTokens ?? parsed.lastInputTokens ?? 0——旧版本(无钳时代)落盘的负值在升级后原样复活,喂进 /acp 弹层(agent/omp.js renderAcpStatus 行:(contextTokens/contextLimit*100).toFixed(1) 可对小负数印出真实的 -0.0%)与 web 统计页(dist 50904)。

建议修复

  1. omp 扩展(以及 pi/claude 对应物)在每次改写请求后调用 ctx.recordAnchoredHistoryRewrite(removedTokens)——API 的注释语义就是为压缩扩展写的;拿不到该 API 的老版本 omp 上退化为 header 提示或至少在面板标注"宿主可见上下文≈压缩后值";
  2. dist 49901 恢复处补 Math.max(0, …);读入后一次性迁移已落盘的负值。

验收标准

  • bili 会话压缩 40K+ 后,omp 状态行显示的是未压缩口径的占比(±credit),与 /acp 面板一致
  • 构造含 lastInputTokens:-54119 的旧注册表:load 后归 0,/acp 弹层不再可能出现负百分比
  • 无 recordAnchoredHistoryRewrite 的旧宿主:降级路径有痕(日志/面板注明)

关联:#388(侧请求污染 lastInputTokens 的另一条路)、#386(宿主侧与面板侧口径混印)。两路调查(-0.0% 专项、源码路)独立交叉证实,omp 侧算式已排除嫌疑。

Activity

  1. ranxianglei commented on Aug 31, 2026

    @ranxianglei
    Owner

    请处理这个 issue 并回复处理结果

  2. ranxianglei commented on Aug 31, 2026

    @ranxianglei
    Owner

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    [bot] 🏷 收到,开始处理。当前进展:

    1. 持久化负值复活(persist.ts 恢复路径无钳制)——已定位到 src/persist.ts buildSession 的 lastInputTokens: stats.lastInputTokens ?? parsed.lastInputTokens ?? 0,准备补 Math.max(0, …) + 读入时一次性归零已落盘负值(带日志痕迹)。
    2. 宿主会计塌缩——已 clone omp(can1357/oh-my-pi)main = 18.0.11,与 issue 引用版本一致,正在核对 session-stats.ts:317-349 的精确语义与扩展 API 暴露面(ExtensionContext 是否真能拿到 recordAnchoredHistoryRewrite)。初步发现该 API 的会计方向是 providerPromptTokens − historyRewriteTokensRemoved(对锚点做减法),而 bili 压缩后 provider 报告的本来就是压缩后的小值——直接按"removed tokens"调用会把锚点减得更小,方向可能正好相反。先把这条链路核清楚再定上报方案,避免修出反向 bug。

    完成后回帖 PR 链接。

  3. wosnxn123 commented on Aug 31, 2026

    @wosnxn123
    Author

    确认 bot 质疑成立,建议 1 方向反了,撤回。已逐行核对 omp 18.0.11(9690622):recordAnchoredHistoryRewrite(packages/coding-agent/src/session/session-stats.ts:326-349)把 tokensRemoved 累进快照(:345),会计链 :43-46 做 Math.max(0, providerPromptTokens − historyRewriteTokensRemoved);其契约语义是"shake 真删了锚点前的本地历史、provider 数偏大需减掉"(消费方 session-maintenance.ts:661;shake.test.ts:231 断言显示值 = 20000 − tokensFreed,即该 API 让上下文变小),且 :327 拒绝非正值、该 API 未暴露给扩展面(extensibility/ 下零匹配)。bili 场景前提相反:锚点本就偏小,直接调用只会减得更狠——bot 判断正确。

    修复方向改为:①(主)bili 回填返回给宿主的 usage——把自家 compressCreditTokens 加回 input_tokens,让锚点自始携带未压缩口径,不依赖 omp 任何改动,与折叠账本同源;②(可选)向 omp 提案"锚点 + M"的反向 header/API 供压缩代理使用。缺陷 2(persist 恢复路径 lastInputTokens 无钳制,dist 49901,旧版负值升级后复活)不受此争议影响,照修。症状诊断(宿主会计塌缩至 ~0)维持原判。

  4. ranxianglei commented on Sep 1, 2026

    @ranxianglei
    Owner

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    [bot] 🏷 已处理,PR: #425 (分支 2026-09-01_host-usage-backfill,单 commit 06e7fb1,11 文件 +597/−37,无版本号改动)。

    缺陷 1(宿主会计塌缩)——按你确认的方向 ① 实现:usage 回填,不依赖 omp 任何改动

    • prepare*(anthropic/openai/responses 三路)每请求计算 hostCreditTokens = est(originalMessages) − est(processedMessages)(同一 tokenizer 双侧,系统性误差相消;transform 失败/未折叠时为 0)。
    • 所有发回宿主的 usage 出口把 credit 加回 input 侧字段(openai prompt_tokens+total_tokens,anthropic/responses input_tokens):
      • 压缩循环合成的 completion(loop/core.ts recordUsage 之后、emitCompletion 之前回填,覆盖三协议);
      • 原样透传的两个 raw 泄漏点:openai 真实工具调用的 finish chunk(带 usage)、anthropic 首轮 message_start;
      • 插件通道:pipeThroughWithUsage(重构为逐事件 parse→patch→write,message_delta 的 input_tokens:0 回声不回填)、pipePluginResponsesWithStrip 的 response.completed、pipePluginJson;
      • 非流式非插件 JSON 路径(forward() 内)。
    • 内部账本不动:lastInputTokens 仍是折叠后口径(压缩触发逻辑不变);新增内存态 hostContextTokens(最后一次回填后的上报值)喂 /acp 面板 tokenCount 与 contextTokens → 面板 == 宿主页脚(验收 1)。
    • 降级有痕(验收 3):armed 请求打 info 日志(host usage backfill armed: +N tok …);/acp 面板新增一行 host baseline: uncompressed (proxy backfilled +N tok)。由于直接修正的是 usage 本身,无 recordAnchoredHistoryRewrite 的旧宿主不需要任何额外降级——它拿到的就是未压缩口径。

    缺陷 2(persist 负值复活)——照修

    • buildSession 恢复处 lastInputTokens/contextTokens 补 Math.max(0, …)(dist 49901 对应点);
    • loadAll/loadSync 检测已落盘负值后一次性重写文件(日志 one-time migration (#408): clamped … in N session(s) to 0),负值从磁盘根除,幂等自愈。

    验收对照

    1. ✅ 压缩 40K+ 后宿主 usage 携带未压缩口径(±est 误差,同 tokenizer 相消),/acp 面板同源(hostContextTokens);
    2. ✅ 测试构造 lastInputTokens:-54119(grouped v2+ 与 flat v1 两种形态):load 后归 0,落盘文件被重写,/acp 弹层不再可能出负百分比;
    3. ✅ 日志 + 面板行双痕(见上)。

    Pre-flight:typecheck ✓;新增 tests/host-usage-backfill.test.ts 15/15 ✓;全量 308 pass / 3 fail——3 个失败全在 tests/proxy-codex-compact.test.ts,已用 git stash 在干净 master 上复现确认为既有失败,与本 diff 无关(建议另行跟进);build ✓。

    另:方向 ②(向 omp 提案"锚点 + M"反向 API)未在本 PR 范围——回填方案已不依赖 omp 改动,是否仍要向上游提案由你决定。

  5. wosnxn123 commented on Sep 4, 2026

    @wosnxn123
    Author

    【0.1.83 复现确认 + 锚点语义补证】本机(v0.1.83,npm latest)复现本票塌缩:面板 "Context (session accounting)" 在压缩后会话显示 0% (6 / 1.0M),而标签自称 "never shrinks; includes compressed originals"。dist 取证:credit 扣减体制全在(stream.ts dist 50677-50678 立即 shrink;loop/core 51769、plugin 54877、server 58525-58528 三处 clamp),hostCredit/hostContextTokens 全库零命中 → #425 的 back-add 与面板改线确未入版,复现与票述一致。

    补一条锚点语义证据,请 #425 一并考虑:host 锚点还应计入 cache_read/cache_creation。实测会话注册表 stats.lastInputTokens=6,对应上游 usage 为 {"input":6,"output":197,"cacheRead":26278}——真实 prompt 规模≈26284,仅取 input 会把带缓存命中的轮次一律记成≈0(Anthropic 系上游几乎轮轮命中缓存,此路径比压缩塌缩更常触发)。建议 host 锚点 = input + cache_read + cache_creation(+ 压缩 credit 回填)。

    另:同面板 "Sent to LLM (sent view)" 另有独立漏计(system+tools 硬编码 0,见新票),#425 未覆盖,勿在本 PR 内顺带改以免范围扩散。

  6. ranxianglei commented on Sep 4, 2026

    @ranxianglei
    Owner

    🤖 ework agent · qwen3.8-flash-next-w4a16-p294

    [bot] 🏷 复现确认收到,逐项答复(工作进行中,PR 后续更新):

    1. #425 未入版——确认,符合预期
    PR #425 尚未被合(merge 是 human-only),npm latest 0.1.83 里无 back-add 是对的;合后 CI 发布。你复取的 dist 取证(credit 扣减全在、hostCredit/hostContextTokens 零命中)与票述一致,无异议。

    2. cache_read/cache_creation 锚点语义——分析结论:宿主侧已成立,内部账本有一条真实缺口

    • 宿主锚点(omp)已计入 cache:omp calculatePromptTokens(packages/agent/src/compaction/compaction.ts:256-265)= usage.contextTokens ?? (input + cacheRead + cacheWrite),即锚点口径已是 input + cache_read + cache_creation。fix: report uncompressed baseline in host usage + clamp negative persisted token stats (#408) #425 的回填只加 credit 到 input 侧字段(openai prompt_tokens / anthropic·responses input_tokens),cache 字段不动,所以宿主侧公式 = input + cache_read + cache_creation + credit——与你建议的口径一致,无需额外改动。
    • 内部账本(anthropic 线)已计入 cache_read:loop/core.ts recordUsage 与 plugin 的 applyUsageSample 对 anthropic 做 total = input + cache_read(includesCached 判定),/acp 面板 tokenCount 同源。
    • 你观察的 lastInputTokens=6 vs cacheRead=26278 不能复自当前代码的 anthropic 线——它会算 6+26278=26284。复得 6 的机制定位:OpenAI 线上游报 Anthropic 拆分口径(prompt_tokens 仅新段,缓存段在 prompt_tokens_details.cached_tokens)——真实 OpenAI 语义下 prompt_tokens ≥ cached_tokens 恒成立,拆分口径必然违反它,可安全判检。这是与压缩塌缩独立的第二塌缩路且(如你指出)更常触发;正是 0% (6/1.0M) 的面值形态。→ 将在 fix: report uncompressed baseline in host usage + clamp negative persisted token stats (#408) #425 补:openai 口径下 prompt_tokens < cached_tokens 时 total = prompt + cached(usageTotals/recordUsage/applyUsageSample 三处同规则)+ 测试。
    • cache_creation 在内部 total 的缺席(anthropic recordUsage 只加 cache_read):真实小缺口(稳轮 cache_creation≈0,首写轮少),但 usage 事件类型需加字段,波及面较大——拟单独跟进,不在本 PR。
    • 若你的上游是 anthropic 线且 message_start 无 cache 字段(仅 provider 侧可见),请附会话文件或原始 SSE 片段,复定位。

    3. "Sent to LLM (sent view)" 漏计(system+tools 硬编码 0)——按你指示不在 #425 范围,本 PR 不触碰;新票里跟进。

    4. 当前进度:master 已走 0.1.67→0.1.83+(大量改动),#425 分支正在合新 master 并解冲突(已解:adapters 两处、plugin.ts 全部;剩 server.ts 3 处),后补 openai 拆分口径判检 + anthropic cache-heavy 测试,全量 pre-flight 后 push,再在此报结果。

  7. ranxianglei commented on Sep 6, 2026

    @ranxianglei
    Owner

    PR #425 已对最新 master(483b42a,含 #587)做本地合并验证:零冲突,typecheck ✓ 1117/1119(2 个已知 plugin-agent 环境失败)build ✓。GitHub 显示 mergeable=True(behind 只是 master 更新,无冲突)。可直接合并。

  8. added a commit that references this issue on Sep 6, 2026
  9. added 2 commits that reference this issue on Sep 6, 2026
  10. added 9 commits that reference this issue on Sep 7, 2026
  11. added 2 commits that reference this issue on Oct 11, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    bugSomething isn't workingp1

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions