Repository navigation
Description
一句话结论
本机 bili 0.1.195 日志里,三条互相独立的路径都在把「输出上限(max output / max_tokens)」压到个位数~几百,末端全部落在同一个用户可见症状:上游返回 finish=length 但正文 0 字符,而退化轮按 #2756 一律不重试 → 客户端拿到空白回复。2026-10-13 单日 3 个会话共 9 次空轮。
与已关闭的 #546 / #1665 / #1840 / #1842 / #2904(+PR #2922) / #2490 / #2756 的差别:有已知 output 上限时下限生效了,没有已知上限时依然没有下限,而且 #2904 只补了「可见性」,本日志证明可见性本身也被去重逻辑削弱了(出事的会话一行告警都没有)。
环境与数据源
- 日志:
/home/node/.local/state/billion-context/bili.log,18940 行,2026-10-05 → 2026-10-13 - 进程版本:
v=0.1.195(03:44:27 已refreshed 1 dsh profile bundle(s) to 0.1.196 — restart dsh to load it,但未重启,全天日志都是 0.1.195;已安装包 0.1.196) - 客户端:DSH(dsh-native),模型
ark-code-latest(未声明 output 上限),window=262144,另有mimo-v2.6-flash - 上游地址在日志里已由插件自行打码为
https://<private-host>,下文引用保持原样
路径 1:无 output 上限的模型 → restore 没有下限,预算逐轮衰减到 252
会话 session-7e8a0b6a-4f90-46db-9ab1-c3fe0a2cdc28 共 30 次 output budget restored,目标值单调衰减(按时间顺序):
41753 → 37998 → 36153 → 32942 → 27969 → 22984 → 17563 → 16113 → 12425 → 7705 → 6426 → 3071 → 2061 → 252 ×8
最后 8 轮全部是 restored 1 -> 252,紧接着 headroom 把预留算成 252,转发出去 2.7 秒后就是空轮(同一会话内的完整因果链,逐行原样):
2026-10-13T15:52:32.794Z output budget restored 1 -> 252 (#546: client shrank it from its raw-history estimate)
2026-10-13T15:52:32.795Z [headroom] model=ark-code-latest: effective window 262144 -> 261892 (reserved 252 for max output 252, cap 0.25) — nudge/preflight judge input against 261892; the outgoing max_tokens clamp still guards the full 262144 (#2096)
2026-10-13T15:52:32.998Z forward POST → https://<private-host>/api/plan/v3/chat/completions
2026-10-13T15:52:35.482Z [plugin] degenerate terminal turn not retried (finish length is not a clean stop): visibleTextChars=0, releasedMarkupChars=0 (#2756)
根因:resolveKnownOutputCeiling() 对该模型返回空时,restore 的目标退化成「客户端自己上一次的非饿死预算」,而这个值本身就是客户端逐轮压缩出来的——没有绝对下限,衰减会被 restore 一路放大到底(41753 → 252)。#1665/#1842 的下限只在「已知 ceiling」分支生效。
对照组(同一天、同一日志,有 ceiling 的 46 次 restore):
2026-10-09T01:10:43.150Z output budget restored 1 -> 131072 (#546: client shrank it from its raw-history estimate; high-water 39779 below known output ceiling — floored (#1665/#1840))
restored 1 -> 131072 共 46 次(session-88227d9d ×43、session-8951e203 ×3),这 46 轮一次空轮都没有;而无 ceiling 的 30 轮(session-7e8a0b6a)产生 6 次空轮。差别只在「有没有一个可用的下限」。
路径 2:NO known output ceiling 告警全天只报 1 次,且报在别的会话上
全日志 output-budget restore has NO known output ceiling 只出现 1 次:
2026-10-13T11:49:08.715Z [warn] [sess=session-277f11a4-...] output-budget restore has NO known output ceiling for model=ark-code-latest (starved budget 1 forwarded verbatim) — the target is the client's own last non-starved budget; while it stays pathologically small every turn truncates at max-tokens. Declare the model's max output in the bili config (providers.<url>.models."ark-code-latest".output) or have the client report it to floor the restore (#1840)
而真正被压死的 session-7e8a0b6a(30 次 restore、6 次空轮)一次告警都没有——看起来是按 model 去重/一次性上报,先在 session-277f11a4 报过就不再报。结果是:出问题的会话里唯一线索只有一行 info 级的 restored 1 -> 252,WARN 不在这里,面板可见性(#2904 / PR #2922 的 outputBudgetDegraded)帮不到这个会话。(outputBudgetDegraded 在本日志中检索不到,它只写 /__bili/plugin/status,不落日志。)
同一行告警还揭示了fork 会直接继承父会话饿死的预算:
2026-10-13T11:49:08.365Z [warn] [dsh-client] bili-native-dsh: fork child session-277f11a4-... adopted parent session-8951e203-... at branch point 7 (#2399)
2026-10-13T11:49:08.716Z [headroom] model=ark-code-latest: effective window 262144 -> 262143 (reserved 1 for max output 1, cap 0.25)
2026-10-13T11:49:09.093Z [warn] [preflight] payload ~309428 tok vs window 262143 (~1.2x) — raising summarization budget 16 -> 19, rounds 16 -> 19
2026-10-13T11:50:01.949Z forward POST → https://<private-host>/api/plan/v3/chat/completions
2026-10-13T11:50:06.431Z [plugin] degenerate terminal turn not retried (finish length is not a clean stop): visibleTextChars=0, releasedMarkupChars=0 (#2756)
starved budget 1 forwarded verbatim(max_tokens=1 被原样转发)。注意连带伤害不止输出截断:reserve=1 把 judge 分母抬到 262143,于是 [preflight] 对 1.2x 窗口的 payload 做判断并放行,同会话还有 nudge INJECT T1: usage=373% (976945/262143)——与 #3017 是同一族(分母随逐请求 reserve 漂移),#3017 可把这两行当补充证据。
路径 3:#2490 的 planning floor 把输出预算钳到 1479–9356,25 轮不恢复
2026-10-13T02:30:31.997Z output budget clamped 131072 -> 2623 (input~79665, planning floor 247162 from the refused dsh compaction replay (#2490), window=262144); prevents input+output overflow (#453); input already exceeds the headroom-adjusted target ~196608 that nudge/preflight enforce — only compression can recover it, this clamp guarantees native-window fit only (#2096)
2026-10-13T12:31:31.315Z output budget clamped 2512 -> 1479 (input~75330, planning floor 248252 from the refused dsh compaction replay (#2490), window=262144); prevents input+output overflow (#453)
- 计 25 次(session-8951e203 ×17、session-7e8a0b6a ×8),全部 2026-10-13
- 钳后目标值分布:
2623 ×15、1479 ×3、5557 ×2、7195 ×2、7511、9356、12478 - planning floor 的取值来自一次已被 refused 的 dsh 压缩 replay 的陈旧快照(≈
window − 14k,247162 / 248252),于是window − floor只给输出留两位数~四位数预算,且该 replay 被拒绝后 floor 不失效
这条路径同样以空轮收尾(12:31 那一轮):
12:31:31.315 output budget clamped 2512 -> 1479 (...)
12:31:35.148 [headroom] effective window 262144 -> 261441 (reserved 703 for max output 703, cap 0.25)
12:31:40.683 [plugin] degenerate terminal turn not retried (finish length ...): visibleTextChars=0, releasedMarkupChars=0 (#2756)
汇总:9 次空轮(全部 2026-10-13,v0.1.195)
[plugin] degenerate terminal turn not retried (finish length is not a clean stop): visibleTextChars=0, releasedMarkupChars=0 (#2756) 共 9 次,各自最近的一行预算状态:
| # | 时间 | 会话 | 转发前的预算状态 | 归因 |
|---|---|---|---|---|
| 1 | 03:46:33.590 | 72b7e3b5 | reserved 32768 for max output 32768(正常) |
待查:首轮 + title-gen sidecar 并发 |
| 2 | 11:50:06.431 | 277f11a4 | reserved 1 for max output 1(starved 原样转发) |
路径 2 |
| 3 | 11:53:25.456 | 7e8a0b6a | 分母 229376 → reserved 32768(正常,8 条消息的早期轮) |
待查:同上,title-gen sidecar 并发 |
| 4 | 12:31:40.683 | 7e8a0b6a | reserved 703 for max output 703 |
路径 3(planning floor clamp) |
| 5 | 15:52:35.482 | 7e8a0b6a | reserved 252 for max output 252 |
路径 1 |
| 6 | 15:52:46.339 | 7e8a0b6a | restored 1 -> 252 |
路径 1 |
| 7 | 15:53:29.031 | 7e8a0b6a | restored 1 -> 252 |
路径 1 |
| 8 | 15:53:42.653 | 7e8a0b6a | restored 1 -> 252 |
路径 1 |
| 9 | 15:55:10.552 | 7e8a0b6a | restored 1 -> 252 |
路径 1 |
6 / 9 可直接归因到被压小的输出预算;2 / 9 是预算正常的首轮(见下);1 / 9 是 max output=1 的 fork 轮(已计入路径 2)。
待查线索:正常预算下也出现空轮,且与 title-gen sidecar 并发
全日志只有 4 次 side request (dsh title-gen sidecar (#2503)),其中 2 次之后 1.45s 就出现空轮(03:46:33、11:53:25,即上表第 1、3 行):主请求 forward POST → 80ms 后 sidecar forward POST → 1.4s 后主轮 finish=length、0 字符。另 2 次 sidecar(16:22:33、16:00:38)正常返回。
不过这个相关性有混淆:出事的 2 次都是 ark-code-latest + /api/plan/v3/chat/completions,正常的 2 次是 /v1/chat/completions。如果 model 是混淆因子,那这条其实是「ark-code-latest 首轮就吐 length 空轮」,与预算无关;如果不是,就要查 sidecar 与主请求是否串流。日志里两者共用连接(tcp closed ... reqs=2),值得一并排查。
与已有 issue 的关系(差异点)
| Issue | 状态 | 本日志给出的新证据 |
|---|---|---|
| #546 / #1665 / #1840 / #1842 | closed | 修的是「restore 缺下限」;有 ceiling 时确实修好了(46 次全部 131072、0 空轮),无 ceiling 时仍然没有下限,衰减一路到 252 |
| #2904 + PR #2922 | closed | 只补可见性、明确「不改转发字节、不加下限」。本日志说明不够:① warn 按 model 去重,出事的会话 0 条告警;② restored 1 -> 252 之后的 6 轮照样转发、照样空轮 |
| #2490 | closed | 它的 planning floor clamp 在 0.1.195 仍把输出预算钳到 1479–9356(25 次),floor 来自已 refused 的 replay |
| #2756 | closed | finish=length 分支仍一律不重试,三条饿死路径全部以「用户看到空白」收尾 |
| #2096 | closed | headroom 已按 reserve 调整,但 reserve 来自被压小的预算 → 分母变成 window−1,preflight 判 1.2x |
| #3017 | open | 同族:分母随逐请求 reserve 漂移。本日志可补 2 行证据:reserved 1 → payload ~309428 vs window 262143 (~1.2x)、usage=373% (976945/262143) |
建议(按性价比排序)
- 无 ceiling 时给绝对下限:不要用「客户端自己上一次的预算」当 restore 目标(它本身就是被污染的量),改成
max(客户端值, 绝对下限)(例如 8192,或min(window*25%, 8192));同理 starved 预算不要原样转发(max_tokens=1转发出去没有任何合理场景)。 - 告警按会话/按跌破阈值上报,而不是按 model 去重一次;fork/branch 继承预算时也报一次。
- headroom 的 reserve 用「下限之后的预算」计算,避免
reserve=1把 judge 分母抬成window−1(否则 preflight 放行 1.2x payload、nudge 算出 373%)。 - dsh压缩与bili压缩冲突 #2490 planning floor 加下限/失效条件:replay 被 refused 后该 floor 应失效,输出预算至少保留 4096。
finish=length+ 本轮max_tokens低于阈值 → 重试一次(提高 max_tokens 再发),否则 【bug】空轮重试门闸把 reasoning 记成可见正文 —— Responses 协议下item.content[]带 reasoning 的退化轮永不重试(客户端拿到空轮) #2756 的门闸会把所有饿死路径变成用户可见的空白轮;若无法区分,至少对「0 可见字符 + length」给用户一个可感知的重试/提示,而不是静默空回复。
用户侧绕过(对同类用户有效,也是本 warn 自己给的建议):在模型里声明 output 上限 —— bili 配置 providers.<url>.models."ark-code-latest".output,或在 DSH 模型项里显式写 maxTokens(DSH 只在显式声明时才上报 defaultMaxTokens)。声明后 restore 就会落到 131072 这条已验证正常的路径上。
附:如何复现/核对
grep -n "output budget restored 1 -> 252" ~/.local/state/billion-context/bili.log
grep -n "NO known output ceiling" ~/.local/state/billion-context/bili.log # 全天仅 1 次
grep -c "planning floor" ~/.local/state/billion-context/bili.log # 25
grep -c "finish length is not a clean stop" ~/.local/state/billion-context/bili.log # 9另外:0.1.196 的 bundle 已下载但进程未重启(日志行 refreshed 1 dsh profile bundle(s) to 0.1.196 — restart dsh to load it),以上结论全部基于 0.1.195;重启后如果仍复现,我再补一份 0.1.196 的对照日志。
Activity
ranxianglei commentedon Oct 13, 2026
(ai: vllm-qwen/qwen3.8-27b)
已逐条对照 v0.1.196 master 代码核对完,三路饿死全部真实存在,且能对上你给的日志数字。先报层次判断和处置范围,正在动手。
核对结论(根因 vs 旁支)
restoreOutputBudget在无已知 output ceiling 时,restore 目标 = 客户端自己上一次的非 starved 高水位(src/server/side-request.ts),而这个高水位就是被污染的衰减量本身(41753→…→2061→252×8),全程没有任何绝对下限。所以「用客户端上一次的预算当目标」正是病灶——它不是独立信号,是被饿死源头的回声。NO known output ceiling告警按 model 全局去重(同一 model 只 warn 一次),被杀的会话因为别的会话先 warn 过而零告警——纯可见性问题,非机制问题。max_tokens=1原样转发出去。同属「无下限」这一家的旁支。dshCompactionRefusedBytes高水位 ≈ window−14k)把 output 钳到 1479–9356,floor 拒收后永不失效。这条和上面不是一家——它是 overflow fail-closed 保证 vs starvation 的产品取舍,我下面单独说。我的处置范围
side-request.ts一个模块。item.content[]带 reasoning 的退化轮永不重试(客户端拿到空轮) #2756 刻意定的「length 不是 clean stop、不重试」。关键判断:修了根因 ① 之后,starved 预算基本不会再出现,finish=length 空轮会大幅下降,所以这条重试补丁的紧迫性明显下降。建议 ① 先上线、看残留空轮还剩多少(剩下的多半是路 3 的 planning-floor case + 那 2 个「正常预算首轮 length 空轮」待查项——后者可能是 title-gen sidecar 并发干扰,跟预算无关,得另查),再决定要不要加重试。这样切的好处:一个 PR 先把「无下限」这个真正的洞堵死(9 次空轮里的大头),两条产品取舍单独等你定,不混在一个 diff 里。
正在实现 ①+②,跑通定向测试后就提 PR(会带回归测试:衰减到下限、fork 原样转发变下限、headroom 流通过程、告警按会话)。
ranxianglei commentedon Oct 13, 2026
(ai: vllm-qwen/qwen3.8-27b)
已定位并修复核心路径,PR: #3080 (Closes #3071,基于当前 master)。按八问汇报:
是什么问题:在未声明输出上限的模型上,上游返回
finish=length但可见字符为 0 的空轮,退化轮不重试 → 客户端拿到空白回复。v0.1.195 一天内 3 个 DSH 会话共 9 次。根子上有三条独立路径把转发给上游的输出预算压到极低。什么原因导致的:主因是路径 1——客户端自己的「上次非饿死预算」会随其原始历史长度无下限地衰减(…3071、2061、252、≤200),而 restore 在没有任何已知上限时只拿这个衰减值当下限,会话一旦饿死就钉死在濒死值上、每轮都在
max_tokens处截断;fork 子会话继承这个濒死值还原样转发max_tokens=1。再叠加路径 2a(无上限告警按模型全局去重,被杀会话一条告警都没打)和路径 3(dsh压缩与bili压缩冲突 #2490 planning floor 把输出钳到 1479–9356)。影响范围与严重程度:触发条件=模型未声明输出上限 + 客户端原始历史估计持续缩小到 ≤200 + 带工具的主请求;命中即完全无法使用(空白回复,不是体验瑕疵)。有已知上限的模型、非饿死请求不受影响。
怎么修复的:在「无任何已知上限」时,给饿死/天生饿死/fork 继承的 restore 目标加一个绝对能力下限
OUTPUT_RESTORE_ABSOLUTE_FLOOR = 8192(只抬不压);非饿死值仍按原样信任、已知上限模型完全不动。这正是你建议 fix: keep system prompt byte-stable for prefix cache #1 的字面做法(「别拿客户端自己的上次预算当 restore 目标」「饿死预算绝不原样转发」)。顺带把无上限告警从「按模型全局去重」改成「按会话+模型去重」,让每个受影响会话自己打一条告警(修 2a)。路径 3(headroom 用被压小的预算算预留)不需要改代码——restore 在src/server/handle.ts:1597先跑,headroom 预留:1787后读max_tokens,抬高后的值会自动流进去。是否有回归问题:逐项审过既有行为——非饿死预算(原样信任)、已知上限模型(小值仍信任、饿死仍恢复到上限)、无工具 side request、server-tool 工具调用,全部保持不变;测试里原本钉住「无下限旧行为」的断言已更新为新的下限语义,另加 4 个定向回归用例(衰减→floor、fork 继承 rattle 被抬、健康值不被误抬、已知上限回归护栏)。本地定向套件 27+26 全绿,typecheck/build 通过;全量以 CI 为准。
是否破坏缓存:不涉及。改动只在转发前对
max_tokens做一次抬升,不动消息重建/前缀/缓存键。是否改了设计方向:没有转向。是在既有 [bug] bili dsh 长会话中 max_output_tokens 被压到 ≤200,主请求被误判为 side request 并绕过压缩 #546/#546 输出预算高水位可被客户端衰减值污染,饿死会话永久钉在小预算(restore 缺下限) #1665/[bug] 长会话频繁「达到输出token上限」:restore 回落到被污染的 high-water,0.1.175 未声明 output 时仍能复现 #1840 的 restore 机制内部加一个绝对下限兜底,数据流与边界不变。
是否引入新配置:没有新增配置/env/CLI。
OUTPUT_RESTORE_ABSOLUTE_FLOOR是内部模块常量(绝对下限,且下游 plugin mode: no hard backstop when the agent ignores the compress nudge — context grows past the window and upstream 400s #453 clamp 和 headroom 预留还会再用真实余量二次约束,不会顶穿窗口)。留给你拍板的两项(已说明原因、未实现):
budget.ts标注 STICKY BY DESIGN + 对应回归测试),属于「溢出报错 vs 饿死截断」的产品取舍。我倾向用「最小输出 4096」的做法,等你定。finish=length空轮重试):会反转 【bug】空轮重试门闸把 reasoning 记成可见正文 —— Responses 协议下item.content[]带 reasoning 的退化轮永不重试(客户端拿到空轮) #2756 故意把 length 排除在空轮重试之外的设计。根因(上面的 floor)修掉后这类空轮应大幅下降,建议这版上线后先复测残留量,再决定是否要加一个会多花计费的重试兜底。本 PR 动了 wire shape(转发的
max_tokens)+承重 side-request 路径,按 §7.4 走人工 review,不 auto-merge。判定:可进人工 review,等 CI 全绿+你确认 #4/#5 的处置即可合并。ranxianglei commentedon Oct 13, 2026
(ai: vllm-qwen/qwen3.8-27b)
#3080 CI 进度更新:35 个检查里 31 个已绿——含全部 static-gates、kernel/version/config-surface/pi-subagents/lane/lock/docs 守卫、e2e、build-artifact、各真实客户端 lane(dsh/opencode/codex/pi)、hermetic registry 与 image-billing e2e。剩下 4 个是 ubuntu/windows × node22/24 的全量
test矩阵,仍在跑(最慢的那批)。本地定向套件(side-request 隔离 27 + 相邻 26)已全绿。等这 4 个跑完即整体转绿;#4(#2490 planning floor)与 #5(finish=length 空轮重试)仍等你拍板。fix(web): align degraded-budget banner wording with the #3071 absolut…
test: pin ceiling-below-floor boundary in the #3071 regression guard
lyp88997 commentedon Oct 14, 2026
三条路的核对结论我都认,逐条回复处置意见(供合并 #3080 参考):
#3080:✅ 同意合并
side-request.ts+ 4 个回归用例(衰减→floor、fork 继承被抬、健康值不误抬、已知上限护栏)正是我想看到的保护面。effective window 262144 -> 262143 (reserved 1 ...)和[preflight] payload ~309428 tok vs window 262143 (~1.2x),下限抬上去之后分母会自然回正,我复测时会一并核对这两行。#4(#2490 planning floor):采纳「输出最低保留 4096」,但要求不放松 fail-closed
按你的倾向走,附一个约束:
input本身已经顶到 native window、window − input < 4096时,仍然按 dsh压缩与bili压缩冲突 #2490 原样报错,不要为了让 4096 成立而放行可能溢出的 payload。floor_out = min(4096, window − input)),floor 本身继续粘滞、拒收后不失效,只是不再把 output 钳到 1479–9356。12:31:35 reserved 703 for max output 703→12:31:40就是一次空轮;budget.ts的 STICKY BY DESIGN 测试如果锁的是「拒收后 floor 不撤销」,这个改法应该不会碰到它,麻烦你确认一下测试是否同时锁了「output 可以被压到 4096 以下」——如果有,那属于需要你权衡的产品语义,我倾向放开到 4096。#5(
finish=length空轮重试):✅ 同意先上线 ①、量完残留再定不着急加重试,理由跟我给的数据一致:9 次空轮里 6 次可直接归因饿死预算(
reserved 1/703/252×5),① 修完这 6 次应该消失。剩下 3 次是:side request (dsh title-gen sidecar (#2503))在主请求 forward 后 80ms 并发发出、1.45s 后主轮返回 length+0 字符。全日志只有 4 次该 sidecar,2 次命中;但命中的 2 次都是ark-code-latest+/api/plan/v3,正常的 2 次是/v1/chat/completions—— 如果模型才是混淆因子,那这 2 次是"该模型首轮就吐 length 空轮",与预算无关;如果不是,要查 sidecar 与主请求是否串流(日志里两者共用连接tcp closed ... reqs=2)。这条我同意另开 issue 查,不塞进 fix: floor the ceiling-less starved output budget at an absolute minimum (#3071) #3080。复测承诺:#3080 合并后我会重启 DSH 加载新版本,再抓一天日志,把残留
finish length is not a clean stop的分类计数(饿死类 / planning-floor 类 / 正常预算首轮类)补到本 issue,届时再决定 #5 要不要做、以及要不要把"0 可见字符 + length"至少给用户一个提示而不是静默空白。另:0.1.196 的 bundle 早就下载好但进程一直没重启(日志里
refreshed 1 dsh profile bundle(s) to 0.1.196 — restart dsh to load it),所以上述全部证据是 0.1.195 的;合并后的复测会以新版本为准。ranxianglei commentedon Oct 14, 2026
(ai: vllm-qwen/qwen3.8-27b)
收到,逐条确认处置:
#3080:我不合并(平台规则:merge 只归人)。PR 已就绪、CI 除 4 个全量
test矩阵外全绿,你随时可合。#4(planning floor)测试核对结论(你让我先确认的):
tests/issue2490-ledger-floor-doomed-probe.test.ts锁的是两件事——① e2e(a):拒收后dshCompactionRefusedBytes高水位粘滞、不撤销(400KB 压过 100KB 重试);② unit:incident clamp 到 55_000,以及 cap<1024 时「不钳、原样放行」的 surrender(s4 断言 max_tokens 保持 384_000)。它没有锁任何「output 被压到 4096 以下」的具体值——最小的钳定断言就是 55_000。所以按你的约束加下限不会碰任何既有断言。#4 实现方案(严格按你的约束,另开 PR、不动 #3080 已批准的 diff):
OUTPUT_CLAMP_MIN_OUTPUT = 4096(不加配置项,与现有OUTPUT_CLAMP_FLOOR同级)。clampOutputBudget里,只在本来就要钳的那段(cap ≥ 1024 且 < requested,即现在会返回 1479/2623 的场景)把钳定值抬到max(cap, min(4096, window − input))。min(4096, window − input)恒 ≤ window−input → input+output 永不超窗,fail-closed 不放松。sidecar 那条:同意另开 issue 查、不塞进 #3080。我会带来源标记开一个「正常预算首轮空轮 + title-gen sidecar 并发」的排查 issue(含日志时间线、共用连接 reqs=2 观察、模型混淆因子的判别实验),标为待查而非已定性 bug。
现在动手实现 #4,完成后回报 PR 链接 + 测试结果。
ranxianglei commentedon Oct 14, 2026
(ai: vllm-qwen/qwen3.8-27b)
收到,按你的处置意见落地了。#4 已实现并验证,另开了你要的旁路调查 issue。逐条回你:
#4(planning-floor 最低保留 4096)——已实现,PR #3101
先回答你让我确认的那个点:
tests/issue2490-ledger-floor-doomed-probe.test.ts没有锁任何「output 被压到 4096 以下」的断言。它只锁三样:dshCompactionRefusedBytes取高水位、不撤销);cap < 1024时的 surrender(断言max_tokens保持 384_000 原值、不钳)。钉住的最小 clamp 值是 55K,远高于 4096。所以你的约束
floor_out = min(4096, window − input)恰好不碰任何一个既有断言——我按这个实现了,上面三条全部原样通过(新测试 + 既有 #2490 共 13/13)。实现方式(
src/server/budget.ts的clampOutputBudget,只在「本来就要钳」的地方生效,即cap >= OUTPUT_CLAMP_FLOOR(1024)):sub-floor surrender(cap < 1024,含 cap<0)字节级不变 → fail-closed 溢出保护保留:input+output 永不超窗口;headroom < 4096 时地板被 headroom 顶住,不会硬塞 4096 到会溢出的 payload 上(正是你说的「不要为了 4096 成立而放行可能溢出的 payload」)。2512 -> 1479),抬升是 restore 侧(fix: floor the ceiling-less starved output budget at an absolute minimum (#3071) #3080)的事,不在这条路混。OUTPUT_CLAMP_FLOOR同级)。本地:定向测试绿、typecheck 干净、build 绿;全量以 CI 为准。PR:#3101
#5(finish=length 空轮重试)——同意先不做,已按你的分类拆走
reqs=2、命中项都是 ark-code-latest+/api/plan/v3)→ 模型还是串流目前分不清,已单独开 issue 查,不塞进修复:**https://github.com/ranxianglei/billion-context/issues/3102**(带判别实验:同模型对比/v1/chat/completionsvs/api/plan/v3的首轮 length-empty 率;若都复现再查连接串流)。合并顺序 / 收尾
Closes #3071改成了Part of #3071,这样 [bug] 0.1.195 输出预算三路饿死仍复现:无 output 上限模型 restore 无下限(1→252、fork 原样转发 1)、#2490 planning floor 钳到 1479–2623 → 3 会话 9 次 finish=length 空轮不重试(#546/#1665/#1840/#2904/#2756 残留) #3071 不会因为单个 PR 合并就自动关,留到你复测完再关。max_tokens/ load-bearing 路径),等你人工合。一句话判定:#3071 三路饿死里,饿死预算(#1/#2)和 planning-floor(#4)两条根因已分别有 PR 覆盖并本地验证,剩首轮空轮那 2 次单独立项待查;可以进入合并流程。
test: re-pin #2122/#2558 clamp values to the #3071 4096 capability floor
fix: floor the #2490 planning-clamp output at a 4096 capability minim…
test: re-pin #2122/#2558 clamp values to the #3071 4096 capability floor
ranxianglei commentedon Oct 14, 2026
好几个 pr 吗?合并顺序
fix: floor the ceiling-less starved output budget at an absolute mini…
ranxianglei commentedon Oct 14, 2026
(ai: vllm-qwen/qwen3.8-27b)
是 2 个 PR(外加 1 个待查 issue,不用合):
合并顺序:先 #3080 → 再 #3101。 两者改的文件不重叠、无冲突,顺序不影响正确性,按影响面排的。
一个合并前必须说的:我复查时发现 #3080 的全量 CI 有 2 个失败(
tests/compress-success-tail.test.ts里 #1387/#521 的 stop-signal 用例)。查下来不是我这次改动引起的——#3080 当时是从旧 master 切的,之后 master 又进了 111 个提交,其中76260700e正好是修 stop-signal 的那条、那 2 个用例就是钉这个修复的;而我的 diff 只动 output-budget,没碰那个子系统。master 本身现在是全绿的。我已把 #3080 rebase 到最新 master 并强推,本地 typecheck/build + 相关套件全绿(63/63,含之前挂的那 2 个)。CI 会在新 head 重跑,预期转绿——建议等这轮 CI 绿了再合 #3080。一句话:等 #3080 rebase 后的这轮 CI 转绿就合它,然后合 #3101;#3102 先挂着等你复测数据。
4 remaining items
Merge pull request #3101 from ranxianglei/2026-10-14_planning-floor-m…
test(#3148): expect the #3101 4096 capability floor in the clamp event
test: re-pin #3148 clamp event to the #3071 4096 capability floor (mi…
test: update #3148 clamp pin for the #3071 4096 capability floor (red…
fix two CI reds found on this PR's matrix: family gate + stale #3148 …
test: update #3148 exact-clamp expectations for the #3071 4096 capabi…
Merge pull request #3080 from ranxianglei/2026-10-14_output-budget-floor
ci: three-layer pipeline — core matrix on PRs, gated 30-min full cron…
fix: ownership fast-path compares file size/mtime to the landed write…
fix: size the ranxianglei#453 output clamp on a safety-inflated input…
test: pin the ranxianglei#5278 clamp safety-margin regression; update…
fix(budget): judge the dsh ledger floor raw, skip the #5278 safe pass (…
fix(budget): gate the #5596 raw-judgment flag on the #3384 planning c…