Skip to content

[PR] fix: T1 harvest stall escalation — let mass-qualified T2/T3 distillation proceed first when T1 channel does not drain (# | fix: T1 收获停滞升级 —— T1 通道不排水时让 mass-qualified 的 T2/T3 蒸馏先行(#5671 跑步机根修) - #5700

Merged
ranxianglei merged 3 commits into
masterfrom
2026-11-05_t1-harvest-stall
Nov 5, 2026

Conversation

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: zhipuai-lb/glm-5.2)

kernel-change: tier 仲裁饿死修复(#5698,已按 Kernel Boundary 先开 issue 声明,owner 在 #5671 讨论中要求根修)。 改动范围:kernel/src/compress.ts(decideNudge 仲裁 + nudge 节点记录 + applyCompression 成功路径记账)、kernel/src/types.ts(NudgeState 两个 optional 字段)、kernel/package.json(0.0.180 → 0.0.181)。

Fixes #5698
Fixes #5671(机制①跑步机;机制② preflight 不收敛由 open PR #5678 处理,两机制独立)

一句话

模型每次只顺从小部分 T1 压缩范围时,T2/T3 蒸馏永远轮不到出场(else-if 排在 T1 腿后面 + 额外要求 t2Pen > t1Eff),摘要块只增不减,上下文单调上涨顶死会话——本 PR 让「T1 通道被证明不排水」时 mass-qualified 的蒸馏通道先行。

机制(全部源码+实验独立验证,不依赖描述)

decideNudge growth 阶梯:if (t1Eff >= th) {T1} else if (t2Pen >= th && t2Pen > t1Eff) {T2}——部分顺从(生产日志每次折 3–6K 对 ~450K offered)使 t1Eff 永远 ≥ 50K,T2 的 mass 腿和 count 腿都够不着;pressure 档(≥75%)max-pending 仲裁照样选 T1(447K > 112K)。实验(真实 kernel、defaultConfig、260 回合懒折叠车道):floor 510,381 tok(1M 窗口 51%)、T2/T3 零触发;同一状态手工发一次 T2 蒸馏回收 91.6%(568K → 48K)——引擎没坏,调度结构性饿死它。昨天 #5671 评论里的缓解配置 tierNudgeTokens.t2=30000 实验证实无效(else-if 后面,改阈值没用),已在 issue 里更正。

修复

  1. fire 记账:T1 nudge fire 时把 breakdown.pendingT1 记入 state.nudge.lastT1FirePending(consume-once)。
  2. 收获判定:applyCompression 成功时——蒸馏形折叠(新块 tier≥2)→ 清 stall;T1 形折叠收获 < STALL_HARVEST_RATIO(0.5) × offered → 置 t1HarvestStall,≥ 0.5 → 清。
  3. 仲裁消费(仅 tiers.enabled):growth 档——stalled 且 t2Pen/t3Pen ≥ 自身阈值(不再要求 > t1Eff,cadence 照旧)→ 蒸馏先于 T1;pressure 档——stalled 且 max(t2,t3) ≥ minPressureBenefit → T1 出候选集。reason 追加 [T1 harvest stall] 标记。

实验后验证(真实 kernel 重跑)

车道 修复前 修复后
生产形状懒折叠(~650 tok/块摘要,同 #5671 日志) T2 零触发,块数无界涨 T2 于 turn 208(131 块)/ turn 408 定期触发,活块有界(48+2),pile 不再无界堆积
stopgap t2=30k 变体 与 baseline 逐字节相同 T2 触发,floor 393K vs 510K
全顺从 eager floor 94K,无 T2 逐字节不变(stall 永不置位)
小摘要懒折叠(pile 58K < 75K 阈值) T2 零触发 T2 仍不触发——正确门控:没有可回收的 mass 就不蒸馏(#379 哲学:mass 是需求信号)

约束核对

测试

审阅等级

kernel 改动 = 人类审阅(永不 auto-merge)。残留已知边界:模型连蒸馏也只做部分时(只引用部分块),本修复不追踪 T2 自身的停滞——蒸馏每次 cadence 重发,靠其自身收敛;生产日志未见此形态。

…fires ahead of a non-draining T1 channel (#5698, #5671 treadmill)
@github-actions

github-actions Bot commented Nov 5, 2026 •

Copy link
Copy Markdown
Contributor

📦 Built Package Artifact

Branch: 2026-11-05_t1-harvest-stall (b1ce5cd)

Latest build — install this exact version

npm install -g billion-context@0.0.8197-pr.5700.84d8832

This exact version is immutable and reproducible. The rolling pr tag tracks the newest test build across all PRs.

Recent builds (commit → version)

commit version build
b1ce5cd billion-context@0.0.8197-pr.5700.84d8832 build
4379f19 billion-context@0.0.8194-pr.5700.f2f8679 build
e3d1a88 billion-context@0.0.8193-pr.5700.07fe6e3 build

Download artifact

  1. Download the artifact from the Actions run
  2. Extract the tarball and install:
tar xzf billion-context-pr5700.tgz
npm install -g package

Install instructions are refreshed on each push.

@ranxianglei ranxianglei changed the title fix: T1 收获停滞升级 —— T1 通道不排水时让 mass-qualified 的 T2/T3 蒸馏先行(#5671 跑步机根修) [PR] fix: T1 harvest stall escalation — let mass-qualified T2/T3 distillation proceed first when T1 channel does not drain (# | fix: T1 收获停滞升级 —— T1 通道不排水时让 mass-qualified 的 T2/T3 蒸馏先行(#5671 跑步机根修) Nov 5, 2026
@ranxianglei

Copy link
Copy Markdown
Owner Author

🤖 Powered by ework · qwen3.8-27b

[bot] 🏷 (ai: vllm-qwen/qwen3.8-27b)

查重: 不重复。 本 PR(GitHub #5700)↔ 其按 Kernel Boundary 先行声明的跟踪 issue #5698,一一对应;与 open PR #5678(preflight 中途切 digest 收敛)同源于用户报告 #5671 但机制独立——#5678 管「fold pool 太碎、LLM 路径预算内收不了口」,本 PR 管「tier 仲裁把 T2/T3 蒸馏结构性饿死」,两者已在 PR 正文中明确划界。镜像侧核对过 open [PR] 行:没有第二个 PR 针对本 thread。

标签: bug + dsh + scope/kernel + p1(一句话理由:kernel tier 仲裁缺陷;生产证据来自 dsh persona 子会话日志;上下文只增不减顶死会话属缓存泄露类,按 owner 2026-10-19 修订一律 p1)。

开始深度审阅:已拉分支核对 diff(基于当前 master、0 commits behind,6 文件 / +400-6,与声明范围一致),正在逐段读 kernel 改动 + 测试有效性 + CI 状态,结论按结构化八问给。

@ranxianglei ranxianglei added bug Something isn't working dsh p1 scope/kernel labels Nov 5, 2026
Review follow-up for the T1 harvest-stall escalation (#5671/#5698):
the new gate landed with only its positive direction asserted. Add the
two missing pins:
  (F) stalled but distill mass sub-threshold => NO escalation (T1 keeps
      firing, no marker) - #3617 both-directions discipline;
  (G) tier-3 condense escalates ahead of T1/T2 while stalled, and the
      SAME pre-decision state without the stall flag falls back to T1
      on the normal ladder (counterfactual).
@ranxianglei

Copy link
Copy Markdown
Owner Author

🤖 Powered by ework · qwen3.8-27b

🔶 需要决策

本 PR 的自致红(lock-sync)已修好并验证绿(详见下方七问总结)。剩余 10 个 test shard 红经逐日志核对 + 本地 A/B 全部判定为继承性 master 状态,其中两族是在档 flake(BLOCKED-ref ×10 shard、#5418 watermark null !== 2 ×3 shard,干净 master 上同样复现),另一族是新发现的确定性 master 级契约冲突,需要拍板:

详情与完整证据链已报备 #4599(CI 总控)。needs-decision 标签已打。

@ranxianglei

Copy link
Copy Markdown
Owner Author

🤖 Powered by ework · qwen3.8-27b

(ai: vllm-qwen/qwen3.8-27b)

CI 自动修复车道(attempt 1/3)七问总结

  1. 是什么问题:本 PR(T1 harvest stall 根修,kernel: T2/T3 distillation structurally starves when the T1 channel partially complies (#5671 treadmill root cause) | kernel: T2/T3 蒸馏在 T1 通道部分顺从时结构性饿死(#5671 跑步机根因) #5698/Repeated compression just won't squeeze it down any further — the model itself says there's no more space. | 重复压缩压不下去 模型自己说没空间了 #5671)的 CI lock-sync job 红——kernel 版本 bump 后两个 lockfile 未同步。修复后又暴露 10 个 test shard 红,经逐日志核对 + 本地 A/B 全部判定为继承性 master 状态(非本 PR 引入)。

  2. 什么原因导致的:lock-sync = PR 把 kernel/package.json 从 0.0.180 bump 到 0.0.181,但根 package-lock.json(kernel file-link 的版本记录)与 kernel/package-lock.json(自身版本 ×2)没重生成,共 3 行漂移。剩余红分三族:a) BLOCKED-ref flake 家族 ×10 shard(在档,干净 master 复现);b) [Bug][dsh] Plugin lane performs a full re-parse and resends the entire body every round (81 MiB → hundreds of MB AST), w | [Bug][dsh] plugin 车道每轮全量解析重发 body(81 MiB→数百 MB AST)是 #5403 OOM 的生产者:用水位线断言替换逐条复核,服务端只解析新增尾段 #5418 watermark A/B null !== 2 hermetic-proxy timing-flake ×3 shard(在档,干净 master 复现);c) 新发现确定性 master 级契约冲突:[Bug] dsh 车道切模型 fork 出的 _sub: 会话不继承父会话 fold 块:上游上下文从 ~83K 瞬间膨胀到 794K、命中归 0、节省转负(0.1.187/0.1.188) #2817 回归钉(turn 1 无 tools 的 dsh 主回合被今日合入的 single-shot sidecar gate 01fcc5d 路由到 verbatim side lane、不计 stats.requests——该 gate 的 commit message 将此声明为 accepted residual,但旧测试未同步更新),合入即红,CI 3/3 shard + 本地确定性复现;c9ba48566 基线绿 → 与本 PR 零交集。

  3. 影响范围与严重程度:lock-sync 红只挡本 PR 合并信号(已除)。三族继承红污染所有新 PR 的红绿判定(master 基线问题):c 族确定性(出现即红),a/b 两族为负载/时序 flake 家族(本轮命中率也高)。本 PR 产品行为零变化(diff 仅 lockfile 3 行)。

  4. 怎么修复的:按 CI 同款命令(npm install --package-lock-only)重生成两个 lockfile,幂等复验,仅版本号 3 行变化,独立标注 commit 4379f1974 推至 PR 分支;新 head 上 lock-sync 与全部静态门(guard/lane/docs 等)验证绿。继承红按规程不在本分支修(master 级修复收敛 ci-fixes/哨兵),完整证据链(A/B 矩阵、逐轮计数插桩、prepare 增量点插桩、机制定位)已报备 CI Control Center: Centralized CI Failure Handling & Status Sync (Comment all CI issues here; do not open new issues) | CI 总控: CI 失败集中处理与状态同步(所有 CI 问题在此评论, 勿开新 issue) #4599。

  5. 是否有回归问题:无。lockfile 同步只把版本记录对齐真实树,不改依赖解析结果;零产品代码变更。既有行为清点:本 PR 原有 diff(kernel compress T1/T2/T3 收获调度)本轮未被触碰。

  6. 是否破坏缓存:不涉及(未触碰任何缓存/重试/游标逻辑)。

  7. 是否改了设计方向 / 新配置:方向不变、无新配置。遗留一个决策(见上方 🔶 需要决策 评论):[Bug] dsh 车道切模型 fork 出的 _sub: 会话不继承父会话 fold 块:上游上下文从 ~83K 瞬间膨胀到 794K、命中归 0、节省转负(0.1.187/0.1.188) #2817 契约冲突的收敛方式——A 更新测试对齐已声明残差(推荐)/ B 收紧 gate / C side-lane 计入计数;默认不决策则等哨兵收敛。

备注:分析期间并行评审车道在 4379f1974 之上推了 b1ce5cdc9(test-only:给新 escalation gate 补 #3617 双向钉,仅动 kernel/tests/issue5698-t1-harvest-stall.test.ts +94/-1)——属 PR 自身开发面,不影响上述继承红判定;当前 head 的 CI 仍在跑同一批继承红(9 failed / 1 pending)。

收工判定:本车道机械修复闭环(lock-sync 绿,已验证);PR 剩余红全部继承,needs-decision 标签已打,本车道停手等决策/哨兵收敛。

@ranxianglei ranxianglei left a comment

Copy link
Copy Markdown
Owner Author

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

(ai: vllm-qwen/qwen3.8-27b)

结论:代码本身无阻塞缺陷,待 owner 人工评审并批准 kernel 变更(Kernel Boundary rule 3: human-only review,agent 不可 approve)。本 review 为 findings-only;授权请求见下方单独的 🔶 评论。

结构化八问

  1. 是什么问题:T1 nudge 触发后模型只部分遵从(只折叠了合格消息的一部分)→ T1 有效 pending 永远降不下来 → growth ladder t1Eff >= th 恒真、T2/T3 蒸馏被结构性饿死;上下文持续膨胀却「重复压缩压不下去」(#5671 跑步机)。
  2. 什么原因导致的:decideNudge growth band 是 else-if 阶梯、pressure band 按 max pending 重选 T1——两条路径在 t1Eff 高时都结构性偏向 T1;T2 要求 t2Pen > t1Eff,在部分遵从下数学上不可达。配置侧绕行(tierNudgeTokens.t2=30000)只改阈值不改结构,已实测 byte-identically 无效。
  3. 影响范围与严重程度:所有「模型对 T1 部分遵从」的 tiered 会话(大窗口 lazy lane 最先命中;#5698 实测 floor 510K tok、T2 零触发);p1(核心压缩能力停摆、上下文只增不减)。变更本身只在 stall flag 被真实部分遵从证据 armed 后生效,正常会话不受影响。
  4. 怎么修复的:三点闭环——① nudgeNode 在每次真实 T1 注入点盖戳 lastT1FirePending = breakdown.pendingT1(fire 时有效 pending);② fire 后首次成功折叠(blocksCreated>0)由 applyCompression 判定收获质量:新块含 tier>1 → 清 stall;否则 tokensCompressed < STALL_HARVEST_RATIO(0.5) × firePending → 置 t1HarvestStall,consume-once 语义(noop batch 不消费戳);③ stall 置位后 growth band 在 T1 leg 之前插入独立 T3/T2 leg(T2 leg 不要求 > t1Eff 主导性,只要 mass ≥ th2 + cadence),pressure band 在 distill mass ≥ minPressureBenefit 时把 T1 移出候选集;reason 附 [T1 harvest stall] 标记。
  5. 是否有回归问题:逐项清点——
    • 非 stall 路径 byte-identical:legacy 快照缺两个字段 → state.nudge.t1HarvestStall === true 为 false → inert;growth band 重写后的链用 injectedTier === null && guard ≡ 原 else-if 语义;非 stall 候选集 [1] / [1,2,3] 与旧行为一致;
    • KDD #8 flat 50K cadence 未动(新 leg 复用同一套 lastShownByTier/growthFloor 机制);
    • #379 哲学保持:mass 仍是需求信号,stall 只在 distill mass 达标后才被参考,未引入 usage proxy gate;
    • NudgeState 两个新字段 optional,旧 state JSON round-trip 不受影响;bili 侧无字段白名单(src/session.ts 只对 absorbedDebt/lastPerMessageNudgeTokens 特殊处理),持久化完整;
    • 版本纪律:kernel/src 改动 + 0.0.180→0.0.181 + 双 lockfile 同步,CI kernel-guard/lock-sync/version-guard 全绿。
    • 行为变更披露(旧值→新值):stall flag 置位期间,growth band 可让 T3/T2 先于 T1 注入(旧:不可能);高压力下 distill mass ≥ minPressureBenefit 时 T1 退出候选集(旧:恒在)。两者都只在真实部分遵从证据后出现,PR 正文已披露。
  6. 是否破坏缓存:不涉及。不动 wire/render/ref 空间/持久化格式(两个 optional additive 字段);id 账本、快照渲染、前缀缓存接缝均未触碰。
  7. 是否改了设计方向:不涉及。仅在既有 tier arbitration 上增加「收获质量」判定,无架构转向;残留边界(T2 自身部分遵从 stall 不跟踪)正文已声明且可接受(distill 每 cadence 重触发)。
  8. 是否引入新配置:不涉及。无 env/config surface 新增(STALL_HARVEST_RATIO 是模块级常量,不是配置旋钮)。

测试有效性(④)

新增 kernel/tests/issue5698-t1-harvest-stall.test.ts 5 case(A 全链 fire→partial→stall→T2 先行→distill 清除 / B eager 不 stall / C pressure 排除 + unstalled counterfactual / D tiers-disabled 不参考 / E consume-once)。断言有牙:断言 tier + reason 字符串,counterfactual 断言旧行为 byte-identical。本地 PR head 实跑:5/5 pass。小缺口(非阻塞):growth-band T3 escalation leg 无专门 case;compliant-harvest clear(≥50% fold 复位 stall)在 test E 里是手工模拟而非走真路径;无 case 钉住 noop batch 不消费戳。kernel suite 在 CI 绿色(windows static-gates 跑了 npm --prefix kernel test @0.0.181 通过)。

CI 红归属(重要更正)

任务前提说「PR is green」,实际 head 4379f19 对应的 synchronize run(run 41961413488)为 FAILURE:10/11 CORE shard 红;12 个 guard 全绿 + static-gates(含 kernel suite)+ mysql-contract + e2e lanes 全绿。镜像缓存显示全绿是其后 labeled-event wave 的 scope=skip 占位快照。失败签名(ubuntu-22/1:3447 tests、4 fail):tests/issue2446-dsh-mcp-catalog.test.ts:258 BLOCKED ref 断言(×2 subtest)、tests/issue2817-crosswire-persona-fold.test.ts:196 8 !== 9、tests/issue5403-watermark-fastpath.test.ts:209 #5418 A/B measured wire total null !== 2;windows-22/1 同为 dsh-mcp-catalog。本地 A/B 验证:三个失败文件在 4379f19 与 master 0aace2f 上分别跑——两树失败完全相同(同文件同行同值),且空闲机器上确定性复现 ⇒ 与本 PR diff 无关,属 master 继承红。另注:master 今日绿色的 Release run 可能走了 #3539「full pass already green → skip local full pass」分支,不构成 master 全量套件绿的证据。按 CI 协调政策已转 #4599(该线程留了一行补充证据)。

diff 整洁度(⑤)

6 files +400/−6,全部与本 PR 相关(kernel 逻辑 + types + 版本 + lockfile + 测试),无跑题文件、无 whitespace 噪音。

判定

方向正确(根因而非症状,绕行方案已被实测证伪)、实现与设计一致、非 stall 路径 byte-identical、行为变更完整披露、测试有牙。代码本身未发现阻塞缺陷;matrix 红为 master 继承、不归因于本 PR。按 Kernel Boundary rule 3(human-only review)与授权边界,不能 approve——owner 批准请求见下方 🔶 评论。

@ranxianglei

Copy link
Copy Markdown
Owner Author

🔶 需要决策

本 PR 含 kernel 变更(正文已声明 kernel-change)。按 Kernel Boundary rule 1 & 3(declare before you touch + human-only review, always),agent 不能 approve,等待 owner 动作:

@ranxianglei

Copy link
Copy Markdown
Owner Author

🤖 Powered by ework · qwen3.8-27b

[bot] 🏷 Review 完成(findings-only,未 approve——PR 含 kernel 变更,按 Kernel Boundary 只能 owner 人工批准)。

@ranxianglei

Copy link
Copy Markdown
Owner Author

🤖 Powered by ework · qwen3.8-27b

[bot] 🏷 说明:这条是上游同步回显(upstream-sync)——内容即本审核自己刚发到 GitHub PR #5700 的 🔶 需要决策评论,非新指令。无新增动作,状态不变:等待 owner 审阅 kernel diff 并批准。

@github-actions

github-actions Bot commented Nov 5, 2026

Copy link
Copy Markdown
Contributor

📦 Merged Build Published

This merge to master was published as 0.0.1038-master.6ddade1 (rolling master tag).

npm install -g billion-context@0.0.1038-master.6ddade1  # this exact build
npm install -g billion-context@master  # always the newest merged build

npm view billion-context@master prints the current version at any time.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment