Skip to content

[Bug][dsh] #3681 Not truly fixed: auto-review request still overflows the context window per "raw uncompressed history + | [Bug][dsh] #3681 未真正修复:auto-review 评审请求仍按「原始未压缩历史 + 256K 预留」越窗(0.1.208 b261c333),且 fail-closed 连 compress 一起拒 → 会话不可自救 #5352

Open

Description

@Shigure156

English TL;DR — #3681 was closed as fixed, but the same overshoot reproduces today on bili 0.1.208 (b261c33): the auto-review request still serializes the raw, uncompressed session history and still reserves 256,000 completion tokens, so it 400s at messages > 792,576. Two things make this worse than the original report: (a) the gate is fail-closed for every tool, including compress, so the session cannot self-heal — the only escape is disabling auto-review or restarting; (b) bili's own ledger/nudge reports 178K est-view / 205K billed, i.e. the UI says "15–20 % used" while the review gate is past the wall, which actively misleads the user. Ask: which side owns the #3681 fix (bili vs. the dsh-experimental-auto-review plugin), and can the reviewer input be capped / the context tools be exempted from the gate?

0. 一句话

长会话(原始历史约 800K token)里,auto-review 仍然把未压缩的整段历史 + 256K completion 预留打进同一个请求;越窗后 fail-closed,所有工具调用被拒——包括唯一能自救的 compress——于是会话进入不可恢复的死锁。这正是 #3681(2026-10-18 closed as COMPLETED)描述的症状,今天在 0.1.208 上完整复现。

1. 与既有 issue 的关系

issue 状态 本文补什么
#3681 CLOSED (COMPLETED) 同一签名在 0.1.208 复现(3 次完整请求体数字),且新增两个未见记录的症状:compress 被同一道闸拦住 → 死锁;bili 自身视图显示 178K 与闸门 800K 严重脱节
#5058 OPEN 那篇是「compress nudge 自我放大直到超窗」;本文是评审车道越窗,且卡在「压缩工具也被评审」这一层
#2203 / #4640 OPEN / CLOSED 附近 都主张把 review lane 建成可压缩的 derived lane;本文提供它在 0.1.208 上仍然致命的现场证据

2. 环境

项 值
bili 0.1.208 (b261c33) — acp_status 的 host=billion-context 0.1.208 (b261c333)
会话 单会话,45 个压缩块,折叠 1,363.4K → 39.4K 摘要
上游 https://api.deepseek.com(OpenAI 兼容 chat/completions),deepseek-flash
窗口 上游声明 1,048,576;completion 预留 256,000
auto-review 已启用(DSH 的「调用自动审查」开关);关闭后立刻恢复正常,这是目前唯一可用的绕过方式
时间 2026-10-31 约 19:50(Asia/Shanghai)

3. 现场:三次请求体的精确数字

auto-review: reviewer ended with error CONTEXT_WINDOW_EXCEEDED:
This model's maximum context length is 1048576 tokens.
However, you requested 1051714 tokens (795714 in the messages, 256000 in the completion).

... 1055204 tokens (799204 in the messages, 256000 in the completion)
... 1056905 tokens (800905 in the messages, 256000 in the completion)

4. 新增症状(#3681 里没有的两点)

4.1 门是 fail-closed 到 compress 上,导致无法自救

原始历史 > 792,576
  → 需要 compress 把原始历史变小
  → compress 也必须先过 auto-review
  → auto-review 因为原始历史大而 400
  → compress 被拒

保护机制把降级机制一起锁死,会话级不可恢复(除关开关/重启会话)。建议至少给上下文管理类工具(compress / acp_status / decompress)开白名单:它们要么只读,要么只让视图变短,不可能制造风险。

4.2 bili 自己的视图与闸门脱节,用户看到的是「只用了 15%」

同一时刻 acp_status:

95.6K tool (60%) | 24.9K text (16%) | 39.4K summaries (25%)
45 active blocks (39.4K summary, 1363.4K original)
BILLED INPUT: 205425 tok · est-view total 178240 tok
  • bili 侧:178K,nudge 判「idle,可压量 39K < 阈值 50K」,看起来完全健康;
  • 闸门侧:~800K,越窗。

两者差 4.5 倍,因为评审请求拿的是未压缩原始 transcript,而不是 bili 的压缩视图。结果:UI 说 15–20%,工具全部 400,用户只能靠读报错数字自己推断——我上一轮就先把原因误判成「我的上下文满了」,后来才定位到是评审车道的预留。

5. 请求(可否批准其中最小项)

  1. compress 等上下文管理工具不进 auto-review 门控 —— 一行白名单即可打破死锁,风险最低;
  2. 评审请求改用压缩视图(或最近 N token + 摘要),并显式传小的 maxTokens(例如 2–4K),不要按模型默认预留 256K;
  3. 如果评审输入仍放不下 → fail-open(记日志后放行),而不是 deny 全部工具;退一步也可以只评审「本次待审的工具调用 + 最近若干条」,不打包全历史;
  4. bili 侧 nudge/ledger 把评审车道的 256K 预留计入 headroom,让 UI 反映真实余量。

6. 需要我补什么

Activity

  1. changed the title [-][Bug][dsh] #3681 未真正修复:auto-review 评审请求仍按「原始未压缩历史 + 256K 预留」越窗(0.1.208 b261c333),且 fail-closed 连 compress 一起拒 → 会话不可自救[/-] [+][Bug][dsh] #3681 Not truly fixed: auto-review request still overflows the context window per "raw uncompressed history + | [Bug][dsh] #3681 未真正修复:auto-review 评审请求仍按「原始未压缩历史 + 256K 预留」越窗(0.1.208 b261c333),且 fail-closed 连 compress 一起拒 → 会话不可自救[/+] on Oct 31, 2026
  2. ranxianglei commented on Oct 31, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    查重结论:重复。 与已关闭的 #3681 同签名、同机制、同根因;其活跃跟踪已在 #4634(事故 + 默认拦截 PR)与 #4640(根因方向)里。本条不引入新失败域,按「同症状同机制归一条」并入既有跟踪。已打标签,不关闭(关闭权在 owner)。

    标签: bug / dsh / scope/wiring / p1 / duplicate —— 缺陷;dsh auto-review 车道;机制在宿主侧请求管道(handle.ts / side-request.ts),非 kernel 折叠引擎;长会话下所有工具(含 compress)被拒、无自救路径=「用户不能用」可用性类,按 owner 2026-10-19 定 p1(有手动绕过=关 auto-review,若你认为该降 p2 可改标)。

    先直接回答你问的两件事:

    1. #3681 的修复落在哪一侧?
    根因在 DSH 插件 @deepseek-ai/dsh-experimental-auto-review,不在 bili。它把整段未压缩历史打包成审查请求、且不传 maxTokens(宿主于是预留模型默认的 256K 输出)——这是越窗的直接来源。bili 只在 fetch 层改写出站体、从不缩减宿主自己的历史,所以 bili 不是根因(#3681 §4/§5、#4634 源码级核实一致)。bili 能做的是兜底:默认拦截这条车道的流量(本地回一个最小低风险裁决,请求根本不打到上游)。

    2. 评审输入能否封顶 / 上下文工具能否豁免?

    为什么「没真正修复」——三条都钉死了:

    1. 你的 0.1.208 连直通路由都没有。 isDshAutoReviewRequest 检测器在 v0.1.209 才首次出现;v0.1.206/207/208 全都没有(我逐 tag 核对过)。所以你这版上 auto-review 仍走旧的 fork 进 |sub: 累积车道 + 转发计费,和 [BUG][dsh] auto-review's own review request exceeds the context window (794K msgs + 256K completion > 1,048,576) → fail- | [BUG][dsh] auto-review 的评审请求自身越窗(794K msgs + 256K completion > 1,048,576)→ fail-closed,之后所有工具调用被拒 #3681 时代一模一样。
    2. bili 的默认拦截 PR [PR] feat: block dsh auto-review traffic by default (#4634) #4639 至今没合并。 它是 open 状态(merged:false),没有任何发布版带它。所以即便升到最新版,目前也没有「默认拦截」在替你挡这条车道。
    3. 更糟:dsh auto-review snapshot lane grows unboundedly: steady-state token drain behind the #4634 default block #4640 发现检测器锚点可能匹配不上真实流量(D1)。 bili 的锚点是散文行 "You are the final authorization reviewer…",而 dsh 实际 system 首行是字面标记 "REVIEW_POLICY"(dsh 自己的测试断言 system.startsWith('REVIEW_POLICY\n'));systemCarrierTexts() 把整段 system 当一个元素、不按行切,所以 startsWith("You are…") 对以 REVIEW_POLICY 开头的串返回 false。直通路由和默认拦截共用这个检测器——漏判 ⇒ 两者都不触发 ⇒ 默认用户的成本泄漏/越窗照旧。这条我已就 bili 侧代码核实(锚点常量 + 非切行行为);dsh 侧发标记是 Massive token cache misses on model switch | 切模型大量token未命中 #4634/dsh auto-review snapshot lane grows unboundedly: steady-state token drain behind the #4634 default block #4640 源码级确认的。这意味着光合 [PR] feat: block dsh auto-review traffic by default (#4634) #4639 可能还不够,得先把锚点修对。

    你现在能做的(唯一有效绕过):关掉 dsh 的 auto-review(会话内 /permission 切模式立即停,或 Plugins 页关开关 / CLI remove @deepseek-ai/dsh-experimental-auto-review)——你实测有效,正确。注意:关闭时活动 Auto 会话会迁到完全权限(更宽松不是更严格)。另外:升级版本对「越窗 400」本身没帮助——只有默认拦截能挡这条车道,而它没合入;升级主要改善的是别的车道缓存形态。

    后续由谁拍板(agent 不关单、不合 PR):

    结构化八问:

    1. 是什么问题:开了 dsh auto-review 的长会话,每次工具调用都触发一个「重发整段未压缩历史 + 预留 256K 输出」的审查请求;原始历史一旦越过 1,048,576 − 256,000 = 792,576,该请求上游 400,auto-review fail-closed,于是所有工具(含唯一能自救的 compress)被拒、会话卡死。和 [BUG][dsh] auto-review's own review request exceeds the context window (794K msgs + 256K completion > 1,048,576) → fail- | [BUG][dsh] auto-review 的评审请求自身越窗(794K msgs + 256K completion > 1,048,576)→ fail-closed,之后所有工具调用被拒 #3681 完全同签名,今天在你这版 0.1.208 复现。
    2. 什么原因:两层。根因=dsh 插件把 FILTERED_HISTORY 无上限打包 + 不传 maxTokens(宿主预留 256K);bili 只改写出站体、不缩宿主历史,故非根因。「没修好」的原因=(a) 你的 0.1.208 连直通检测器都没有(v0.1.209 起才有);(b) bili 的默认拦截 PR [PR] feat: block dsh auto-review traffic by default (#4634) #4639 一直没合并,没有发布版带它;(c) dsh auto-review snapshot lane grows unboundedly: steady-state token drain behind the #4634 default block #4640 报告检测器锚点对不上真实 REVIEW_POLICY 首行(D1),即便合了也可能漏判。
    3. 影响范围与严重程度:仅影响「开了 auto-review(dsh 默认关)+ 原始历史 > ~792.5K」的用户;命中后会话内所有工具被拒、agent 瘫痪,只能手动关 auto-review 或重启。严重度 p1(可用性/无法自救类)。未开 auto-review 的用户不受影响。
    4. 怎么修:本条是 triage,未改代码。解决路径=①合入 [PR] feat: block dsh auto-review traffic by default (#4634) #4639 默认拦截(本地回最小 allow 裁决,请求不到上游,400 与 compress 被拒同时消失);②先修 D1 锚点让拦截/直通真正命中真实流量;③dsh 侧封顶历史 + 小 maxTokens 才是根因修复(外部仓,需批准)。你当下=关 auto-review。
    5. 是否有回归问题:本条不涉及(未改码)。所引修复的回归姿态见 [PR] feat: block dsh auto-review traffic by default (#4634) #4639/dsh auto-review snapshot lane grows unboundedly: steady-state token drain behind the #4634 default block #4640 各自线程。
    6. 是否破坏缓存:本条不涉及。附带一提:dsh auto-review snapshot lane grows unboundedly: steady-state token drain behind the #4634 default block #4640 指出这种「单条随历史原地扩展」的形状在 OpenAI 系 provider 上稳态几乎零前缀命中,属 dsh 侧 wire 形状问题。
    7. 是否改了设计方向:本条不改。方向早已在 Massive token cache misses on model switch | 切模型大量token未命中 #4634/dsh auto-review snapshot lane grows unboundedly: steady-state token drain behind the #4634 default block #4640 定下:bili 负责拦截/旁路这条车道、不去压缩或改写宿主私有载荷;根因留在 dsh 侧。
    8. 是否引入新配置:本条无。(未合入的 [PR] feat: block dsh auto-review traffic by default (#4634) #4639 会引入 dsh.autoReviewBlock 默认 true / env BILI_DSH_AUTOREVIEW_BLOCK,尚未发布。)

    收工判定:本条=#3681 的复报,已打 duplicate 并交叉链接 #3681/#4634/#4640/#4639,留给你处置(判重关闭 / 或作为「#4639 未合入 + D1 待修」的催办证据)。真正的活在三处:合 #4639、修 D1 锚点、dsh 侧封顶——前两者 bili 可控待你点头,第三者跨仓需你批准。

  3. jjlli commented on Nov 1, 2026

    @jjlli

    补充一条同根因、但窗口小得多的复现数据点(262,144 窗口)

    环境:DSH 0.2.1-rc.5(Web profile,Windows 11)+ @deepseek-ai/dsh-experimental-auto-review@0.2.1-rc.5,会话路由 qwen / deepseek-v4.1-flash,contextWindow: 262144,权限预设切到 auto 后约 25 分钟内全线失效。

    两类报错:

    1)本地 pi-ai 阈值先到:

    auto-review: reviewer ended with error CONTEXT_WINDOW_EXCEEDED: pi-ai detected context overflow for model "deepseek-v4.1-flash"
    

    2)随后是上游 413(与贵单同文案):

    qwen API error (413): preflight_compress_failed ... context ~274676.43 tokens exceeds the model window 229376 ... 0 compressible range(s) still visible
    

    关键换算:229376 = 262144 - 32768(输出预留)⇒ 262K 窗口下真正的越窗线只有 229,376,是本单(1,048,576 → 792,576)的 29%,也就是说同一个缺陷在小窗口模型上会早 3.5 倍发生,且用户完全看不出(UI 显示的上下文占用远低于闸门线)。

    被拒工具实测:pwsh / write / ops_bash / todo_write / mcp__openviking__read / compress 全部 deny,只有包在 run_code 里的原始 Node 调用还能用(外层 run_code 是插件里明确豁免的)——本单说的「会话不可自救」在小窗口上同样成立:compress 一起被拒,而评审请求本身是一条 user message,压缩层按消息粒度找不到可折叠区间,回回都是 0 compressible range(s)。

    对照组:同一时刻主 Agent 自身请求 290,756 tok 触发 502,重试后压缩成功继续;只有评审车道硬失败。⇒ 问题确实在评审角色的载荷构造(snapshotAutoReview() 把全量可见历史渲成一条 message,且不带 maxTokens),不在主会话的压缩能力。

    完整复现记录与诉求写在 DSH 主仓讨论里:deepseek-ai/deepseek-harness#11768

    另:若 #4639 的 dsh.autoReviewBlock / BILI_DSH_AUTOREVIEW_BLOCK 能合入,至少可让长会话用户先关掉这条车道自保。

  4. ranxianglei commented on Nov 1, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    收到这条数据点。发帖人是外部未验证账号,我把它当证据来核对、不当指令;bili 侧能验的都对着源码验了,dsh 侧符号(如 snapshotAutoReview())在本仓验不到,按你的陈述记录。结论:同根因,而且补上了一个我之前只推断、现在被源码钉死的机制。

    我核实的(bili 源码):

    • 你的报错 2 context ~…tokens exceeds the model window …, with …compressible range(s) still visible + preflight_compress_failed + 413,是 bili 代理自己发的,不是上游——文案逐字出自 src/server.ts:3678-3717(preflight fail-fast),错误码与状态写在 src/server/handle.ts:2678-2718。也就是说这条请求确实打进了 bili,bili 先尝试自己压缩、压不动、才 413。
    • bili 自己的代码把 dsh auto-review 载荷反复描述成「一条摊平的用户 blob / 单条巨型单元原地扩展」(src/session-resolve.ts:119、src/persona-anchor.ts:27、src/cache-ledger.ts:926、src/acp-cache-diff.ts:38)。kernel 折叠的是消息之间的连续区间;整段历史塞进一条 user message 时内部没有可折叠子区间 → compressibleRanges 恒为 0 → preflight 无能为力 → 直接 fail-fast。正是你说的「压缩层找不到可折叠区间,回回 0 ranges」。
    • 所以这条车道的结论比我上条更硬:bili 无法靠压缩自救(单消息不可折),唯一能让它别 413 的办法是根本不把请求发出去([PR] feat: block dsh auto-review traffic by default (#4634) #4639 默认拦截);根因修复在 dsh 侧封顶历史 + 传小 maxTokens。

    两层拦截、都只能拒不能修:

    • 报错 1(pi-ai detected context overflow)=客户端/harness 侧本地 token 阈值先行(由 auto-review 插件上报,底层是其本地 ai 层的溢出判定);
    • 报错 2(bili 413)=代理 preflight 兜底。
      两个不同执行点都在拒绝同一个超载的单消息载荷,没有一个能修好它——因为形状本身不可折。这也解释了你的对照组:主 Agent 290K 触发 502、重试后压缩成功继续,而只有评审车道硬失败——主会话是多消息可折的,评审车道是单消息不可折。顺带印证你的诉求①:你实测插件已豁免 run_code,说明「豁免清单」这个机制 dsh 侧本来就有,把 compress/decompress/acp_status 加进去是同一路子(dsh 侧可做)。

    小窗口泛化(这条真正新增的价值): 越窗线 = 窗口 − 输出预留。你这例 262144 − 32768 = 229376;#5355 那例 1048576 − 256000 = 792576。比值 229376/792576 ≈ 29%,即小窗口模型上同一缺陷早约 3.5× 触发(792576/229376 ≈ 3.46)。所以这不是「长会话 + 大模型」专属——任何原始历史越过「窗口 − 预留」都会中招,小窗口 / 大默认输出的模型更早、更隐蔽(UI 占用远低于闸门线)。影响面比 #5355 原描述更宽,进一步支持 p1。

    处置不变(agent 不关单、不合 PR、不跨仓擅自提交):

    小结(仅列有内容的项):

    1. 是什么问题:dsh auto-review 把全量可见历史渲成一条 message、不带 maxTokens,越窗后各层 fail-closed 拒掉所有工具(含 compress)。本条在 262K 小窗口复现,并给出 bili 侧机制证据。
    2. 什么原因:根因=dsh 侧单巨型消息 + 无 maxTokens;bili 非根因,但会先尝试自压再 413(已源码核实)。
    3. 影响面/严重度:泛化到所有越过「窗口 − 预留」的会话,小窗口早约 3.5× 触发且更隐蔽 → 维持 p1。
    4. 怎么修:block([PR] feat: block dsh auto-review traffic by default (#4634) #4639)止血 + 修 D1 锚点 + dsh 侧封顶(根因)。本条未改码。
    5. 回归:不涉及(未改码)。
    6. 缓存:不涉及(未改码)。附带:单消息形状在 OpenAI 系 provider 稳态几乎零前缀命中(dsh auto-review snapshot lane grows unboundedly: steady-state token drain behind the #4634 default block #4640 已记)。
    7. 设计方向:不改;方向仍=bili 拦/旁路该车道,根因留 dsh。
    8. 新配置:无(未合入的 [PR] feat: block dsh auto-review traffic by default (#4634) #4639 会带 dsh.autoReviewBlock/BILI_DSH_AUTOREVIEW_BLOCK,尚未发布)。

    收工判定:确认同根因 + 补一条被源码钉死的「单消息不可折 → bili 无法自压 → 只能 block 或源头缩」机制 + 小窗口更宽影响面;并入既有跟踪,等你对上述三个待办拍板。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    bugSomething isn't workingdshduplicateThis issue or pull request already existsp1scope/wiring

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions