Skip to content

[bug] 0.1.195 输出预算三路饿死仍复现:无 output 上限模型 restore 无下限(1→252、fork 原样转发 1)、#2490 planning floor 钳到 1479–2623 → 3 会话 9 次 finish=length 空轮不重试(#546/#1665/#1840/#2904/#2756 残留) #3071

Closed

Description

@lyp88997

一句话结论

本机 bili 0.1.195 日志里,三条互相独立的路径都在把「输出上限(max output / max_tokens)」压到个位数~几百,末端全部落在同一个用户可见症状:上游返回 finish=length 但正文 0 字符,而退化轮按 #2756 一律不重试 → 客户端拿到空白回复。2026-10-13 单日 3 个会话共 9 次空轮。

与已关闭的 #546 / #1665 / #1840 / #1842 / #2904(+PR #2922) / #2490 / #2756 的差别:有已知 output 上限时下限生效了,没有已知上限时依然没有下限,而且 #2904 只补了「可见性」,本日志证明可见性本身也被去重逻辑削弱了(出事的会话一行告警都没有)。

环境与数据源

  • 日志:/home/node/.local/state/billion-context/bili.log,18940 行,2026-10-05 → 2026-10-13
  • 进程版本:v=0.1.195(03:44:27 已 refreshed 1 dsh profile bundle(s) to 0.1.196 — restart dsh to load it,但未重启,全天日志都是 0.1.195;已安装包 0.1.196)
  • 客户端:DSH(dsh-native),模型 ark-code-latest(未声明 output 上限),window=262144,另有 mimo-v2.6-flash
  • 上游地址在日志里已由插件自行打码为 https://<private-host>,下文引用保持原样

路径 1:无 output 上限的模型 → restore 没有下限,预算逐轮衰减到 252

会话 session-7e8a0b6a-4f90-46db-9ab1-c3fe0a2cdc28 共 30 次 output budget restored,目标值单调衰减(按时间顺序):

41753 → 37998 → 36153 → 32942 → 27969 → 22984 → 17563 → 16113 → 12425 → 7705 → 6426 → 3071 → 2061 → 252 ×8

最后 8 轮全部是 restored 1 -> 252,紧接着 headroom 把预留算成 252,转发出去 2.7 秒后就是空轮(同一会话内的完整因果链,逐行原样):

2026-10-13T15:52:32.794Z output budget restored 1 -> 252 (#546: client shrank it from its raw-history estimate)
2026-10-13T15:52:32.795Z [headroom] model=ark-code-latest: effective window 262144 -> 261892 (reserved 252 for max output 252, cap 0.25) — nudge/preflight judge input against 261892; the outgoing max_tokens clamp still guards the full 262144 (#2096)
2026-10-13T15:52:32.998Z forward POST → https://<private-host>/api/plan/v3/chat/completions
2026-10-13T15:52:35.482Z [plugin] degenerate terminal turn not retried (finish length is not a clean stop): visibleTextChars=0, releasedMarkupChars=0 (#2756)

根因:resolveKnownOutputCeiling() 对该模型返回空时,restore 的目标退化成「客户端自己上一次的非饿死预算」,而这个值本身就是客户端逐轮压缩出来的——没有绝对下限,衰减会被 restore 一路放大到底(41753 → 252)。#1665/#1842 的下限只在「已知 ceiling」分支生效。

对照组(同一天、同一日志,有 ceiling 的 46 次 restore):

2026-10-09T01:10:43.150Z output budget restored 1 -> 131072 (#546: client shrank it from its raw-history estimate; high-water 39779 below known output ceiling — floored (#1665/#1840))

restored 1 -> 131072 共 46 次(session-88227d9d ×43、session-8951e203 ×3),这 46 轮一次空轮都没有;而无 ceiling 的 30 轮(session-7e8a0b6a)产生 6 次空轮。差别只在「有没有一个可用的下限」。

路径 2:NO known output ceiling 告警全天只报 1 次,且报在别的会话上

全日志 output-budget restore has NO known output ceiling 只出现 1 次:

2026-10-13T11:49:08.715Z [warn] [sess=session-277f11a4-...] output-budget restore has NO known output ceiling for model=ark-code-latest (starved budget 1 forwarded verbatim) — the target is the client's own last non-starved budget; while it stays pathologically small every turn truncates at max-tokens. Declare the model's max output in the bili config (providers.<url>.models."ark-code-latest".output) or have the client report it to floor the restore (#1840)

而真正被压死的 session-7e8a0b6a(30 次 restore、6 次空轮)一次告警都没有——看起来是按 model 去重/一次性上报,先在 session-277f11a4 报过就不再报。结果是:出问题的会话里唯一线索只有一行 info 级的 restored 1 -> 252,WARN 不在这里,面板可见性(#2904 / PR #2922 的 outputBudgetDegraded)帮不到这个会话。(outputBudgetDegraded 在本日志中检索不到,它只写 /__bili/plugin/status,不落日志。)

同一行告警还揭示了fork 会直接继承父会话饿死的预算:

2026-10-13T11:49:08.365Z [warn] [dsh-client] bili-native-dsh: fork child session-277f11a4-... adopted parent session-8951e203-... at branch point 7 (#2399)
2026-10-13T11:49:08.716Z [headroom] model=ark-code-latest: effective window 262144 -> 262143 (reserved 1 for max output 1, cap 0.25)
2026-10-13T11:49:09.093Z [warn] [preflight] payload ~309428 tok vs window 262143 (~1.2x) — raising summarization budget 16 -> 19, rounds 16 -> 19
2026-10-13T11:50:01.949Z forward POST → https://<private-host>/api/plan/v3/chat/completions
2026-10-13T11:50:06.431Z [plugin] degenerate terminal turn not retried (finish length is not a clean stop): visibleTextChars=0, releasedMarkupChars=0 (#2756)

starved budget 1 forwarded verbatim(max_tokens=1 被原样转发)。注意连带伤害不止输出截断:reserve=1 把 judge 分母抬到 262143,于是 [preflight] 对 1.2x 窗口的 payload 做判断并放行,同会话还有 nudge INJECT T1: usage=373% (976945/262143)——与 #3017 是同一族(分母随逐请求 reserve 漂移),#3017 可把这两行当补充证据。

路径 3:#2490 的 planning floor 把输出预算钳到 1479–9356,25 轮不恢复

2026-10-13T02:30:31.997Z output budget clamped 131072 -> 2623 (input~79665, planning floor 247162 from the refused dsh compaction replay (#2490), window=262144); prevents input+output overflow (#453); input already exceeds the headroom-adjusted target ~196608 that nudge/preflight enforce — only compression can recover it, this clamp guarantees native-window fit only (#2096)
2026-10-13T12:31:31.315Z output budget clamped 2512 -> 1479 (input~75330, planning floor 248252 from the refused dsh compaction replay (#2490), window=262144); prevents input+output overflow (#453)
  • 计 25 次(session-8951e203 ×17、session-7e8a0b6a ×8),全部 2026-10-13
  • 钳后目标值分布:2623 ×15、1479 ×3、5557 ×2、7195 ×2、7511、9356、12478
  • planning floor 的取值来自一次已被 refused 的 dsh 压缩 replay 的陈旧快照(≈ window − 14k,247162 / 248252),于是 window − floor 只给输出留两位数~四位数预算,且该 replay 被拒绝后 floor 不失效

这条路径同样以空轮收尾(12:31 那一轮):

12:31:31.315  output budget clamped 2512 -> 1479 (...)
12:31:35.148  [headroom] effective window 262144 -> 261441 (reserved 703 for max output 703, cap 0.25)
12:31:40.683  [plugin] degenerate terminal turn not retried (finish length ...): visibleTextChars=0, releasedMarkupChars=0 (#2756)

汇总:9 次空轮(全部 2026-10-13,v0.1.195)

[plugin] degenerate terminal turn not retried (finish length is not a clean stop): visibleTextChars=0, releasedMarkupChars=0 (#2756) 共 9 次,各自最近的一行预算状态:

# 时间 会话 转发前的预算状态 归因
1 03:46:33.590 72b7e3b5 reserved 32768 for max output 32768(正常) 待查:首轮 + title-gen sidecar 并发
2 11:50:06.431 277f11a4 reserved 1 for max output 1(starved 原样转发) 路径 2
3 11:53:25.456 7e8a0b6a 分母 229376 → reserved 32768(正常,8 条消息的早期轮) 待查:同上,title-gen sidecar 并发
4 12:31:40.683 7e8a0b6a reserved 703 for max output 703 路径 3(planning floor clamp)
5 15:52:35.482 7e8a0b6a reserved 252 for max output 252 路径 1
6 15:52:46.339 7e8a0b6a restored 1 -> 252 路径 1
7 15:53:29.031 7e8a0b6a restored 1 -> 252 路径 1
8 15:53:42.653 7e8a0b6a restored 1 -> 252 路径 1
9 15:55:10.552 7e8a0b6a restored 1 -> 252 路径 1

6 / 9 可直接归因到被压小的输出预算;2 / 9 是预算正常的首轮(见下);1 / 9 是 max output=1 的 fork 轮(已计入路径 2)。

待查线索:正常预算下也出现空轮,且与 title-gen sidecar 并发

全日志只有 4 次 side request (dsh title-gen sidecar (#2503)),其中 2 次之后 1.45s 就出现空轮(03:46:33、11:53:25,即上表第 1、3 行):主请求 forward POST → 80ms 后 sidecar forward POST → 1.4s 后主轮 finish=length、0 字符。另 2 次 sidecar(16:22:33、16:00:38)正常返回。

不过这个相关性有混淆:出事的 2 次都是 ark-code-latest + /api/plan/v3/chat/completions,正常的 2 次是 /v1/chat/completions。如果 model 是混淆因子,那这条其实是「ark-code-latest 首轮就吐 length 空轮」,与预算无关;如果不是,就要查 sidecar 与主请求是否串流。日志里两者共用连接(tcp closed ... reqs=2),值得一并排查。


与已有 issue 的关系(差异点)

Issue 状态 本日志给出的新证据
#546 / #1665 / #1840 / #1842 closed 修的是「restore 缺下限」;有 ceiling 时确实修好了(46 次全部 131072、0 空轮),无 ceiling 时仍然没有下限,衰减一路到 252
#2904 + PR #2922 closed 只补可见性、明确「不改转发字节、不加下限」。本日志说明不够:① warn 按 model 去重,出事的会话 0 条告警;② restored 1 -> 252 之后的 6 轮照样转发、照样空轮
#2490 closed 它的 planning floor clamp 在 0.1.195 仍把输出预算钳到 1479–9356(25 次),floor 来自已 refused 的 replay
#2756 closed finish=length 分支仍一律不重试,三条饿死路径全部以「用户看到空白」收尾
#2096 closed headroom 已按 reserve 调整,但 reserve 来自被压小的预算 → 分母变成 window−1,preflight 判 1.2x
#3017 open 同族:分母随逐请求 reserve 漂移。本日志可补 2 行证据:reserved 1 → payload ~309428 vs window 262143 (~1.2x)、usage=373% (976945/262143)

建议(按性价比排序)

  1. 无 ceiling 时给绝对下限:不要用「客户端自己上一次的预算」当 restore 目标(它本身就是被污染的量),改成 max(客户端值, 绝对下限)(例如 8192,或 min(window*25%, 8192));同理 starved 预算不要原样转发(max_tokens=1 转发出去没有任何合理场景)。
  2. 告警按会话/按跌破阈值上报,而不是按 model 去重一次;fork/branch 继承预算时也报一次。
  3. headroom 的 reserve 用「下限之后的预算」计算,避免 reserve=1 把 judge 分母抬成 window−1(否则 preflight 放行 1.2x payload、nudge 算出 373%)。
  4. dsh压缩与bili压缩冲突 #2490 planning floor 加下限/失效条件:replay 被 refused 后该 floor 应失效,输出预算至少保留 4096。
  5. finish=length + 本轮 max_tokens 低于阈值 → 重试一次(提高 max_tokens 再发),否则 【bug】空轮重试门闸把 reasoning 记成可见正文 —— Responses 协议下 item.content[] 带 reasoning 的退化轮永不重试(客户端拿到空轮) #2756 的门闸会把所有饿死路径变成用户可见的空白轮;若无法区分,至少对「0 可见字符 + length」给用户一个可感知的重试/提示,而不是静默空回复。

用户侧绕过(对同类用户有效,也是本 warn 自己给的建议):在模型里声明 output 上限 —— bili 配置 providers.<url>.models."ark-code-latest".output,或在 DSH 模型项里显式写 maxTokens(DSH 只在显式声明时才上报 defaultMaxTokens)。声明后 restore 就会落到 131072 这条已验证正常的路径上。

附:如何复现/核对

grep -n "output budget restored 1 -> 252" ~/.local/state/billion-context/bili.log
grep -n "NO known output ceiling" ~/.local/state/billion-context/bili.log      # 全天仅 1 次
grep -c "planning floor" ~/.local/state/billion-context/bili.log               # 25
grep -c "finish length is not a clean stop" ~/.local/state/billion-context/bili.log  # 9

另外:0.1.196 的 bundle 已下载但进程未重启(日志行 refreshed 1 dsh profile bundle(s) to 0.1.196 — restart dsh to load it),以上结论全部基于 0.1.195;重启后如果仍复现,我再补一份 0.1.196 的对照日志。

Activity

  1. ranxianglei commented on Oct 13, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    已逐条对照 v0.1.196 master 代码核对完,三路饿死全部真实存在,且能对上你给的日志数字。先报层次判断和处置范围,正在动手。

    核对结论(根因 vs 旁支)

    • 路 1 是根因:restoreOutputBudget 在无已知 output ceiling 时,restore 目标 = 客户端自己上一次的非 starved 高水位(src/server/side-request.ts),而这个高水位就是被污染的衰减量本身(41753→…→2061→252×8),全程没有任何绝对下限。所以「用客户端上一次的预算当目标」正是病灶——它不是独立信号,是被饿死源头的回声。
    • 路 2a:NO known output ceiling 告警按 model 全局去重(同一 model 只 warn 一次),被杀的会话因为别的会话先 warn 过而零告警——纯可见性问题,非机制问题。
    • 路 2b:fork 子会话继承父的 starved 预算,且无 highWater+无 ceiling 时 target=undefined → max_tokens=1 原样转发出去。同属「无下限」这一家的旁支。
    • 路 3:dsh压缩与bili压缩冲突 #2490 planning floor(dshCompactionRefusedBytes 高水位 ≈ window−14k)把 output 钳到 1479–9356,floor 拒收后永不失效。这条和上面不是一家——它是 overflow fail-closed 保证 vs starvation 的产品取舍,我下面单独说。
    • headroom 预留用的是被钳小的 max_tokens(effective window≈window−1):这个会随着路 1 的下限修复自动好转(restore 在 headroom 计算之前跑,写回的值直接流进预留),不需要单独改。

    我的处置范围

    • 现在就修(安全、明确正确、打根因):① 无 ceiling 时加绝对下限——转发值 = max(客户端值, 8192),starved 预算一律不再原样转发(覆盖路 1 + 路 2b);② 告警改成按「会话+model」各 warn 一次(覆盖路 2a,让每个受害会话都有 WARN 级线索)。这两条只动 side-request.ts 一个模块。
    • 先报你拍板、不擅自改(涉及钉死行为 / 产品决策):

    这样切的好处:一个 PR 先把「无下限」这个真正的洞堵死(9 次空轮里的大头),两条产品取舍单独等你定,不混在一个 diff 里。

    正在实现 ①+②,跑通定向测试后就提 PR(会带回归测试:衰减到下限、fork 原样转发变下限、headroom 流通过程、告警按会话)。

  2. ranxianglei commented on Oct 13, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    已定位并修复核心路径,PR: #3080 (Closes #3071,基于当前 master)。按八问汇报:

    1. 是什么问题:在未声明输出上限的模型上,上游返回 finish=length 但可见字符为 0 的空轮,退化轮不重试 → 客户端拿到空白回复。v0.1.195 一天内 3 个 DSH 会话共 9 次。根子上有三条独立路径把转发给上游的输出预算压到极低。

    2. 什么原因导致的:主因是路径 1——客户端自己的「上次非饿死预算」会随其原始历史长度无下限地衰减(…3071、2061、252、≤200),而 restore 在没有任何已知上限时只拿这个衰减值当下限,会话一旦饿死就钉死在濒死值上、每轮都在 max_tokens 处截断;fork 子会话继承这个濒死值还原样转发 max_tokens=1。再叠加路径 2a(无上限告警按模型全局去重,被杀会话一条告警都没打)和路径 3(dsh压缩与bili压缩冲突 #2490 planning floor 把输出钳到 1479–9356)。

    3. 影响范围与严重程度:触发条件=模型未声明输出上限 + 客户端原始历史估计持续缩小到 ≤200 + 带工具的主请求;命中即完全无法使用(空白回复,不是体验瑕疵)。有已知上限的模型、非饿死请求不受影响。

    4. 怎么修复的:在「无任何已知上限」时,给饿死/天生饿死/fork 继承的 restore 目标加一个绝对能力下限 OUTPUT_RESTORE_ABSOLUTE_FLOOR = 8192(只抬不压);非饿死值仍按原样信任、已知上限模型完全不动。这正是你建议 fix: keep system prompt byte-stable for prefix cache #1 的字面做法(「别拿客户端自己的上次预算当 restore 目标」「饿死预算绝不原样转发」)。顺带把无上限告警从「按模型全局去重」改成「按会话+模型去重」,让每个受影响会话自己打一条告警(修 2a)。路径 3(headroom 用被压小的预算算预留)不需要改代码——restore 在 src/server/handle.ts:1597 先跑,headroom 预留 :1787 后读 max_tokens,抬高后的值会自动流进去。

    5. 是否有回归问题:逐项审过既有行为——非饿死预算(原样信任)、已知上限模型(小值仍信任、饿死仍恢复到上限)、无工具 side request、server-tool 工具调用,全部保持不变;测试里原本钉住「无下限旧行为」的断言已更新为新的下限语义,另加 4 个定向回归用例(衰减→floor、fork 继承 rattle 被抬、健康值不被误抬、已知上限回归护栏)。本地定向套件 27+26 全绿,typecheck/build 通过;全量以 CI 为准。

    6. 是否破坏缓存:不涉及。改动只在转发前对 max_tokens 做一次抬升,不动消息重建/前缀/缓存键。

    7. 是否改了设计方向:没有转向。是在既有 [bug] bili dsh 长会话中 max_output_tokens 被压到 ≤200,主请求被误判为 side request 并绕过压缩 #546/#546 输出预算高水位可被客户端衰减值污染,饿死会话永久钉在小预算(restore 缺下限) #1665/[bug] 长会话频繁「达到输出token上限」:restore 回落到被污染的 high-water,0.1.175 未声明 output 时仍能复现 #1840 的 restore 机制内部加一个绝对下限兜底,数据流与边界不变。

    8. 是否引入新配置:没有新增配置/env/CLI。OUTPUT_RESTORE_ABSOLUTE_FLOOR 是内部模块常量(绝对下限,且下游 plugin mode: no hard backstop when the agent ignores the compress nudge — context grows past the window and upstream 400s #453 clamp 和 headroom 预留还会再用真实余量二次约束,不会顶穿窗口)。

    留给你拍板的两项(已说明原因、未实现):

    本 PR 动了 wire shape(转发的 max_tokens)+承重 side-request 路径,按 §7.4 走人工 review,不 auto-merge。判定:可进人工 review,等 CI 全绿+你确认 #4/#5 的处置即可合并。

  3. ranxianglei commented on Oct 13, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    #3080 CI 进度更新:35 个检查里 31 个已绿——含全部 static-gates、kernel/version/config-surface/pi-subagents/lane/lock/docs 守卫、e2e、build-artifact、各真实客户端 lane(dsh/opencode/codex/pi)、hermetic registry 与 image-billing e2e。剩下 4 个是 ubuntu/windows × node22/24 的全量 test 矩阵,仍在跑(最慢的那批)。本地定向套件(side-request 隔离 27 + 相邻 26)已全绿。等这 4 个跑完即整体转绿;#4(#2490 planning floor)与 #5(finish=length 空轮重试)仍等你拍板。

  4. lyp88997 commented on Oct 14, 2026

    @lyp88997
    Author

    三条路的核对结论我都认,逐条回复处置意见(供合并 #3080 参考):

    #3080:✅ 同意合并

    • ①「无已知上限时 restore 目标加绝对下限 8192、只抬不压、饿死值不再原样转发」=我提的第 1 条,方向和实现范围都同意;只动 side-request.ts + 4 个回归用例(衰减→floor、fork 继承被抬、健康值不误抬、已知上限护栏)正是我想看到的保护面。
    • ②「告警按会话+model 去重」=我提的第 2 条,同意。本轮日志里该 warn 全天只有 1 条且报在别的会话上,受害会话零线索——这条修完,下次再出问题我自己就能从日志定位,不用你再逐条对源码。
    • headroom 不单独改、由 restore 先跑自动流进预留,我也同意;这条对应日志里的 effective window 262144 -> 262143 (reserved 1 ...) 和 [preflight] payload ~309428 tok vs window 262143 (~1.2x),下限抬上去之后分母会自然回正,我复测时会一并核对这两行。

    #4(#2490 planning floor):采纳「输出最低保留 4096」,但要求不放松 fail-closed

    按你的倾向走,附一个约束:

    • 保留 STICKY 的 fail-closed 语义:当 input 本身已经顶到 native window、window − input < 4096 时,仍然按 dsh压缩与bili压缩冲突 #2490 原样报错,不要为了让 4096 成立而放行可能溢出的 payload。
    • 即:地板只作用在「还有余量」的场景(floor_out = min(4096, window − input)),floor 本身继续粘滞、拒收后不失效,只是不再把 output 钳到 1479–9356。
    • 依据:本轮 25 次 planning-floor clamp 里,15 次落在 2623、3 次落在 1479,其中 12:31:35 reserved 703 for max output 703 → 12:31:40 就是一次空轮;budget.ts 的 STICKY BY DESIGN 测试如果锁的是「拒收后 floor 不撤销」,这个改法应该不会碰到它,麻烦你确认一下测试是否同时锁了「output 可以被压到 4096 以下」——如果有,那属于需要你权衡的产品语义,我倾向放开到 4096。

    #5(finish=length 空轮重试):✅ 同意先上线 ①、量完残留再定

    不着急加重试,理由跟我给的数据一致:9 次空轮里 6 次可直接归因饿死预算(reserved 1 / 703 / 252 ×5),① 修完这 6 次应该消失。剩下 3 次是:

    • 2 次预算正常的首轮空轮(03:46:33 session-72b7e3b5、11:53:25 session-7e8a0b6a,reserve 都是正常的 32768),两次都伴随 side request (dsh title-gen sidecar (#2503)) 在主请求 forward 后 80ms 并发发出、1.45s 后主轮返回 length+0 字符。全日志只有 4 次该 sidecar,2 次命中;但命中的 2 次都是 ark-code-latest + /api/plan/v3,正常的 2 次是 /v1/chat/completions —— 如果模型才是混淆因子,那这 2 次是"该模型首轮就吐 length 空轮",与预算无关;如果不是,要查 sidecar 与主请求是否串流(日志里两者共用连接 tcp closed ... reqs=2)。这条我同意另开 issue 查,不塞进 fix: floor the ceiling-less starved output budget at an absolute minimum (#3071) #3080。
    • 1 次是 planning-floor 那条路(feat: OpenAI Responses API support (/v1/responses) #4 解决)。

    复测承诺:#3080 合并后我会重启 DSH 加载新版本,再抓一天日志,把残留 finish length is not a clean stop 的分类计数(饿死类 / planning-floor 类 / 正常预算首轮类)补到本 issue,届时再决定 #5 要不要做、以及要不要把"0 可见字符 + length"至少给用户一个提示而不是静默空白。

    另:0.1.196 的 bundle 早就下载好但进程一直没重启(日志里 refreshed 1 dsh profile bundle(s) to 0.1.196 — restart dsh to load it),所以上述全部证据是 0.1.195 的;合并后的复测会以新版本为准。

  5. ranxianglei commented on Oct 14, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    收到,逐条确认处置:

    #3080:我不合并(平台规则:merge 只归人)。PR 已就绪、CI 除 4 个全量 test 矩阵外全绿,你随时可合。

    #4(planning floor)测试核对结论(你让我先确认的):tests/issue2490-ledger-floor-doomed-probe.test.ts 锁的是两件事——① e2e(a):拒收后 dshCompactionRefusedBytes 高水位粘滞、不撤销(400KB 压过 100KB 重试);② unit:incident clamp 到 55_000,以及 cap<1024 时「不钳、原样放行」的 surrender(s4 断言 max_tokens 保持 384_000)。它没有锁任何「output 被压到 4096 以下」的具体值——最小的钳定断言就是 55_000。所以按你的约束加下限不会碰任何既有断言。

    #4 实现方案(严格按你的约束,另开 PR、不动 #3080 已批准的 diff):

    • 新增内部常量 OUTPUT_CLAMP_MIN_OUTPUT = 4096(不加配置项,与现有 OUTPUT_CLAMP_FLOOR 同级)。
    • 在 clampOutputBudget 里,只在本来就要钳的那段(cap ≥ 1024 且 < requested,即现在会返回 1479/2623 的场景)把钳定值抬到 max(cap, min(4096, window − input))。
    • min(4096, window − input) 恒 ≤ window−input → input+output 永不超窗,fail-closed 不放松。
    • 当 window−input < 4096、或 cap<1024 的 surrender 区时完全不改——原样保留 dsh压缩与bili压缩冲突 #2490 的报错/放行语义,那个 STICKY 测试一行都不用动。
    • 效果:本轮 25 次 planning-floor clamp 里落在 1479–9356 且还有余量的那些抬到 4096;真正顶到墙上(window−input<4096)的照旧 fail-closed。
    • 加一个定向测试文件钉住:1479→4096、2623→4096、surrender 不变、55K incident 不变、window−input<4096 时 floor 被余量封顶。

    sidecar 那条:同意另开 issue 查、不塞进 #3080。我会带来源标记开一个「正常预算首轮空轮 + title-gen sidecar 并发」的排查 issue(含日志时间线、共用连接 reqs=2 观察、模型混淆因子的判别实验),标为待查而非已定性 bug。

    现在动手实现 #4,完成后回报 PR 链接 + 测试结果。

  6. ranxianglei commented on Oct 14, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    收到,按你的处置意见落地了。#4 已实现并验证,另开了你要的旁路调查 issue。逐条回你:

    #4(planning-floor 最低保留 4096)——已实现,PR #3101

    先回答你让我确认的那个点:tests/issue2490-ledger-floor-doomed-probe.test.ts 没有锁任何「output 被压到 4096 以下」的断言。它只锁三样:

    1. e2e(a):STICKY high-water 记录(拒收后 dshCompactionRefusedBytes 取高水位、不撤销);
    2. unit:本次事故的 clamp 结果 = 55_000(ledger floor 900K vs window 1M);
    3. unit:cap < 1024 时的 surrender(断言 max_tokens 保持 384_000 原值、不钳)。

    钉住的最小 clamp 值是 55K,远高于 4096。所以你的约束 floor_out = min(4096, window − input) 恰好不碰任何一个既有断言——我按这个实现了,上面三条全部原样通过(新测试 + 既有 #2490 共 13/13)。

    实现方式(src/server/budget.ts 的 clampOutputBudget,只在「本来就要钳」的地方生效,即 cap >= OUTPUT_CLAMP_FLOOR(1024)):

    floorOut = min(4096, window − input)   // 恒 <= window − input
    clamped  = max(cap, floorOut)
    if (clamped >= requested) return undefined   // 从不抬高
    return clamped
    
    • sub-floor surrender(cap < 1024,含 cap<0)字节级不变 → fail-closed 溢出保护保留:input+output 永不超窗口;headroom < 4096 时地板被 headroom 顶住,不会硬塞 4096 到会溢出的 payload 上(正是你说的「不要为了 4096 成立而放行可能溢出的 payload」)。
    • 从不抬高:客户端预算本来就低于 4096 时照收(对应日志里那条 2512 -> 1479),抬升是 restore 侧(fix: floor the ceiling-less starved output budget at an absolute minimum (#3071) #3080)的事,不在这条路混。
    • 无新配置项(内部常量,和 OUTPUT_CLAMP_FLOOR 同级)。

    本地:定向测试绿、typecheck 干净、build 绿;全量以 CI 为准。PR:#3101

    #5(finish=length 空轮重试)——同意先不做,已按你的分类拆走

    合并顺序 / 收尾

    一句话判定:#3071 三路饿死里,饿死预算(#1/#2)和 planning-floor(#4)两条根因已分别有 PR 覆盖并本地验证,剩首轮空轮那 2 次单独立项待查;可以进入合并流程。

  7. added 3 commits that reference this issue on Oct 14, 2026
  8. ranxianglei commented on Oct 14, 2026

    @ranxianglei
    Owner

    好几个 pr 吗?合并顺序

  9. ranxianglei commented on Oct 14, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    是 2 个 PR(外加 1 个待查 issue,不用合):

    内容 覆盖
    #3080 restore 绝对下限 8192(无 output 上限的模型,饿死预算不再原样转发) 主因,9 次里 6 次
    #3101 planning-floor 最低保留 4096(#2490 那条把 output 钳到 1479–2623 的路) 1 次 + 相关 clamp
    #3102 正常预算首轮空轮(title-gen sidecar 并发)调查 issue 剩 2 次,待查,不用合

    合并顺序:先 #3080 → 再 #3101。 两者改的文件不重叠、无冲突,顺序不影响正确性,按影响面排的。

    一个合并前必须说的:我复查时发现 #3080 的全量 CI 有 2 个失败(tests/compress-success-tail.test.ts 里 #1387/#521 的 stop-signal 用例)。查下来不是我这次改动引起的——#3080 当时是从旧 master 切的,之后 master 又进了 111 个提交,其中 76260700e 正好是修 stop-signal 的那条、那 2 个用例就是钉这个修复的;而我的 diff 只动 output-budget,没碰那个子系统。master 本身现在是全绿的。我已把 #3080 rebase 到最新 master 并强推,本地 typecheck/build + 相关套件全绿(63/63,含之前挂的那 2 个)。CI 会在新 head 重跑,预期转绿——建议等这轮 CI 绿了再合 #3080。

    一句话:等 #3080 rebase 后的这轮 CI 转绿就合它,然后合 #3101;#3102 先挂着等你复测数据。

  10. 4 remaining items

  11. added 6 commits that reference this issue on Oct 15, 2026
  12. added 2 commits that reference this issue on Oct 31, 2026
  13. added 2 commits that reference this issue on Nov 13, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions