Repository navigation
[PR] fix: T1 harvest stall escalation — let mass-qualified T2/T3 distillation proceed first when T1 channel does not drain (# | fix: T1 收获停滞升级 —— T1 通道不排水时让 mass-qualified 的 T2/T3 蒸馏先行(#5671 跑步机根修) - #5700
Conversation
📦 Built Package ArtifactBranch: Latest build — install this exact versionnpm install -g billion-context@0.0.8197-pr.5700.84d8832This exact version is immutable and reproducible. The rolling Recent builds (commit → version)
Download artifact
tar xzf billion-context-pr5700.tgz
npm install -g packageInstall instructions are refreshed on each push. |
[bot] 🏷 (ai: vllm-qwen/qwen3.8-27b) 查重: 不重复。 本 PR(GitHub #5700)↔ 其按 Kernel Boundary 先行声明的跟踪 issue #5698,一一对应;与 open PR #5678(preflight 中途切 digest 收敛)同源于用户报告 #5671 但机制独立——#5678 管「fold pool 太碎、LLM 路径预算内收不了口」,本 PR 管「tier 仲裁把 T2/T3 蒸馏结构性饿死」,两者已在 PR 正文中明确划界。镜像侧核对过 open [PR] 行:没有第二个 PR 针对本 thread。 标签: bug + dsh + scope/kernel + p1(一句话理由:kernel tier 仲裁缺陷;生产证据来自 dsh persona 子会话日志;上下文只增不减顶死会话属缓存泄露类,按 owner 2026-10-19 修订一律 p1)。 开始深度审阅:已拉分支核对 diff(基于当前 master、0 commits behind,6 文件 / +400-6,与声明范围一致),正在逐段读 kernel 改动 + 测试有效性 + CI 状态,结论按结构化八问给。 |
Review follow-up for the T1 harvest-stall escalation (#5671/#5698): the new gate landed with only its positive direction asserted. Add the two missing pins: (F) stalled but distill mass sub-threshold => NO escalation (T1 keeps firing, no marker) - #3617 both-directions discipline; (G) tier-3 condense escalates ahead of T1/T2 while stalled, and the SAME pre-decision state without the stall flag falls back to T1 on the normal ladder (counterfactual).
🔶 需要决策 本 PR 的自致红(lock-sync)已修好并验证绿(详见下方七问总结)。剩余 10 个 test shard 红经逐日志核对 + 本地 A/B 全部判定为继承性 master 状态,其中两族是在档 flake(BLOCKED-ref ×10 shard、#5418 watermark
详情与完整证据链已报备 #4599(CI 总控)。needs-decision 标签已打。 |
(ai: vllm-qwen/qwen3.8-27b) CI 自动修复车道(attempt 1/3)七问总结
备注:分析期间并行评审车道在 收工判定:本车道机械修复闭环(lock-sync 绿,已验证);PR 剩余红全部继承,needs-decision 标签已打,本车道停手等决策/哨兵收敛。 |
ranxianglei
left a comment
There was a problem hiding this comment.
(ai: vllm-qwen/qwen3.8-27b)
结论:代码本身无阻塞缺陷,待 owner 人工评审并批准 kernel 变更(Kernel Boundary rule 3: human-only review,agent 不可 approve)。本 review 为 findings-only;授权请求见下方单独的 🔶 评论。
结构化八问
- 是什么问题:T1 nudge 触发后模型只部分遵从(只折叠了合格消息的一部分)→ T1 有效 pending 永远降不下来 → growth ladder
t1Eff >= th恒真、T2/T3 蒸馏被结构性饿死;上下文持续膨胀却「重复压缩压不下去」(#5671 跑步机)。 - 什么原因导致的:
decideNudgegrowth band 是 else-if 阶梯、pressure band 按 max pending 重选 T1——两条路径在 t1Eff 高时都结构性偏向 T1;T2 要求t2Pen > t1Eff,在部分遵从下数学上不可达。配置侧绕行(tierNudgeTokens.t2=30000)只改阈值不改结构,已实测 byte-identically 无效。 - 影响范围与严重程度:所有「模型对 T1 部分遵从」的 tiered 会话(大窗口 lazy lane 最先命中;#5698 实测 floor 510K tok、T2 零触发);p1(核心压缩能力停摆、上下文只增不减)。变更本身只在 stall flag 被真实部分遵从证据 armed 后生效,正常会话不受影响。
- 怎么修复的:三点闭环——①
nudgeNode在每次真实 T1 注入点盖戳lastT1FirePending = breakdown.pendingT1(fire 时有效 pending);② fire 后首次成功折叠(blocksCreated>0)由applyCompression判定收获质量:新块含 tier>1 → 清 stall;否则tokensCompressed < STALL_HARVEST_RATIO(0.5) × firePending→ 置t1HarvestStall,consume-once 语义(noop batch 不消费戳);③ stall 置位后 growth band 在 T1 leg 之前插入独立 T3/T2 leg(T2 leg 不要求> t1Eff主导性,只要 mass ≥ th2 + cadence),pressure band 在 distill mass ≥ minPressureBenefit 时把 T1 移出候选集;reason 附[T1 harvest stall]标记。 - 是否有回归问题:逐项清点——
- 非 stall 路径 byte-identical:legacy 快照缺两个字段 →
state.nudge.t1HarvestStall === true为 false → inert;growth band 重写后的链用injectedTier === null &&guard ≡ 原 else-if 语义;非 stall 候选集 [1] / [1,2,3] 与旧行为一致; - KDD #8 flat 50K cadence 未动(新 leg 复用同一套
lastShownByTier/growthFloor机制); - #379 哲学保持:mass 仍是需求信号,stall 只在 distill mass 达标后才被参考,未引入 usage proxy gate;
- NudgeState 两个新字段 optional,旧 state JSON round-trip 不受影响;bili 侧无字段白名单(src/session.ts 只对 absorbedDebt/lastPerMessageNudgeTokens 特殊处理),持久化完整;
- 版本纪律:kernel/src 改动 + 0.0.180→0.0.181 + 双 lockfile 同步,CI kernel-guard/lock-sync/version-guard 全绿。
- 行为变更披露(旧值→新值):stall flag 置位期间,growth band 可让 T3/T2 先于 T1 注入(旧:不可能);高压力下 distill mass ≥ minPressureBenefit 时 T1 退出候选集(旧:恒在)。两者都只在真实部分遵从证据后出现,PR 正文已披露。
- 非 stall 路径 byte-identical:legacy 快照缺两个字段 →
- 是否破坏缓存:不涉及。不动 wire/render/ref 空间/持久化格式(两个 optional additive 字段);id 账本、快照渲染、前缀缓存接缝均未触碰。
- 是否改了设计方向:不涉及。仅在既有 tier arbitration 上增加「收获质量」判定,无架构转向;残留边界(T2 自身部分遵从 stall 不跟踪)正文已声明且可接受(distill 每 cadence 重触发)。
- 是否引入新配置:不涉及。无 env/config surface 新增(STALL_HARVEST_RATIO 是模块级常量,不是配置旋钮)。
测试有效性(④)
新增 kernel/tests/issue5698-t1-harvest-stall.test.ts 5 case(A 全链 fire→partial→stall→T2 先行→distill 清除 / B eager 不 stall / C pressure 排除 + unstalled counterfactual / D tiers-disabled 不参考 / E consume-once)。断言有牙:断言 tier + reason 字符串,counterfactual 断言旧行为 byte-identical。本地 PR head 实跑:5/5 pass。小缺口(非阻塞):growth-band T3 escalation leg 无专门 case;compliant-harvest clear(≥50% fold 复位 stall)在 test E 里是手工模拟而非走真路径;无 case 钉住 noop batch 不消费戳。kernel suite 在 CI 绿色(windows static-gates 跑了 npm --prefix kernel test @0.0.181 通过)。
CI 红归属(重要更正)
任务前提说「PR is green」,实际 head 4379f19 对应的 synchronize run(run 41961413488)为 FAILURE:10/11 CORE shard 红;12 个 guard 全绿 + static-gates(含 kernel suite)+ mysql-contract + e2e lanes 全绿。镜像缓存显示全绿是其后 labeled-event wave 的 scope=skip 占位快照。失败签名(ubuntu-22/1:3447 tests、4 fail):tests/issue2446-dsh-mcp-catalog.test.ts:258 BLOCKED ref 断言(×2 subtest)、tests/issue2817-crosswire-persona-fold.test.ts:196 8 !== 9、tests/issue5403-watermark-fastpath.test.ts:209 #5418 A/B measured wire total null !== 2;windows-22/1 同为 dsh-mcp-catalog。本地 A/B 验证:三个失败文件在 4379f19 与 master 0aace2f 上分别跑——两树失败完全相同(同文件同行同值),且空闲机器上确定性复现 ⇒ 与本 PR diff 无关,属 master 继承红。另注:master 今日绿色的 Release run 可能走了 #3539「full pass already green → skip local full pass」分支,不构成 master 全量套件绿的证据。按 CI 协调政策已转 #4599(该线程留了一行补充证据)。
diff 整洁度(⑤)
6 files +400/−6,全部与本 PR 相关(kernel 逻辑 + types + 版本 + lockfile + 测试),无跑题文件、无 whitespace 噪音。
判定
方向正确(根因而非症状,绕行方案已被实测证伪)、实现与设计一致、非 stall 路径 byte-identical、行为变更完整披露、测试有牙。代码本身未发现阻塞缺陷;matrix 红为 master 继承、不归因于本 PR。按 Kernel Boundary rule 3(human-only review)与授权边界,不能 approve——owner 批准请求见下方 🔶 评论。
|
🔶 需要决策 本 PR 含 kernel 变更(正文已声明
|
[bot] 🏷 Review 完成(findings-only,未 approve——PR 含 kernel 变更,按 Kernel Boundary 只能 owner 人工批准)。
|
📦 Merged Build PublishedThis merge to master was published as npm install -g billion-context@0.0.1038-master.6ddade1 # this exact build
npm install -g billion-context@master # always the newest merged build
|
(ai: zhipuai-lb/glm-5.2)
kernel-change: tier 仲裁饿死修复(#5698,已按 Kernel Boundary 先开 issue 声明,owner 在 #5671 讨论中要求根修)。 改动范围:kernel/src/compress.ts(decideNudge 仲裁 + nudge 节点记录 + applyCompression 成功路径记账)、kernel/src/types.ts(NudgeState 两个 optional 字段)、kernel/package.json(0.0.180 → 0.0.181)。
Fixes #5698
Fixes #5671(机制①跑步机;机制② preflight 不收敛由 open PR #5678 处理,两机制独立)
一句话
模型每次只顺从小部分 T1 压缩范围时,T2/T3 蒸馏永远轮不到出场(else-if 排在 T1 腿后面 + 额外要求
t2Pen > t1Eff),摘要块只增不减,上下文单调上涨顶死会话——本 PR 让「T1 通道被证明不排水」时 mass-qualified 的蒸馏通道先行。机制(全部源码+实验独立验证,不依赖描述)
decideNudgegrowth 阶梯:if (t1Eff >= th) {T1} else if (t2Pen >= th && t2Pen > t1Eff) {T2}——部分顺从(生产日志每次折 3–6K 对 ~450K offered)使 t1Eff 永远 ≥ 50K,T2 的 mass 腿和 count 腿都够不着;pressure 档(≥75%)max-pending 仲裁照样选 T1(447K > 112K)。实验(真实 kernel、defaultConfig、260 回合懒折叠车道):floor 510,381 tok(1M 窗口 51%)、T2/T3 零触发;同一状态手工发一次 T2 蒸馏回收 91.6%(568K → 48K)——引擎没坏,调度结构性饿死它。昨天 #5671 评论里的缓解配置tierNudgeTokens.t2=30000实验证实无效(else-if 后面,改阈值没用),已在 issue 里更正。修复
breakdown.pendingT1记入state.nudge.lastT1FirePending(consume-once)。STALL_HARVEST_RATIO(0.5) × offered → 置t1HarvestStall,≥ 0.5 → 清。tiers.enabled):growth 档——stalled 且 t2Pen/t3Pen ≥ 自身阈值(不再要求 > t1Eff,cadence 照旧)→ 蒸馏先于 T1;pressure 档——stalled 且 max(t2,t3) ≥ minPressureBenefit → T1 出候选集。reason 追加[T1 harvest stall]标记。实验后验证(真实 kernel 重跑)
约束核对
测试
kernel/tests/issue5698-t1-harvest-stall.test.ts5 例(全链条:fire→部分折叠→stall→T2 先行→蒸馏清除;eager 永不 stall;pressure 档 T1 出局 + 无 stall 反事实逐字节旧行为;tiers disabled 不咨询;consume-once);kernel 全量 1581/1581 绿(含全部 fix: merge all system/developer messages into one leading message (SGLang #377) #379/拆分设置t1 t2 t3 nudge大小 #2376/fix: compress over unpruned view + acp-kernel 0.0.38 (billion-context-pi#195) #194/In 0.1.210, sessions with frequent interruptions barely trigger compression reminders — tokens accumulate to 330k before | 中断频繁的会话在 0.1.210 里压缩提醒几乎不触发,积到 33 万 token 才压一次 #5415 仲裁 pin)。tests/verif-subset-guard.test.ts绿(compress.ts 在守护清单内,未越子语言)。审阅等级
kernel 改动 = 人类审阅(永不 auto-merge)。残留已知边界:模型连蒸馏也只做部分时(只引用部分块),本修复不追踪 T2 自身的停滞——蒸馏每次 cadence 重发,靠其自身收敛;生产日志未见此形态。