Skip to content

Kernel lacks a repeated compression failure escalation mechanism (plugin mode infinite loop without circuit breaker); gate fallback branch lacks acp_status guidance. | kernel 缺少重复压缩失败升级机制(plugin mode 死循环无熔断);gate 兜底分支缺 acp_status 指引 #311

Open

Description

@ranxianglei

来源: ranxianglei/billion-context#847 (ranxianglei/billion-context#847) 分析 压缩失败后无熔断机制、失败调用自我强化 时发现

现象

#847:同一范围被连续提交 7 次,每次错误消息逐字相同,没有任何升级信号。失败的 tool call + error 留在上下文尾部,成为模型下一步行为的最强示范 → 自我强化死循环,直到上游流截断(usage 76%→89%)。

gate 的分支选择加剧了这一点(dist/index.js:2271-2298):refs 全部解析成功但内容不足时,落入兜底分支 Total compressible content too small (...). Combine more messages into your range(s)...;而已有的 already compressed … Run acp_status … CURRENT compressible ranges 引导分支只在 consumedRanges 非空时可达。对「解析成功但太小」的情况,模型得不到「去 acp_status 看当前可用范围」的指引——它只会继续按提示「合并更多消息」挣扎。

建议修复

  1. kernel 侧重复失败升级:记录同一 session 内「规范化后相同的范围集合」的失败次数(规范化 = 每段取 min..max、整体排序),≥2 次时在错误消息追加升级段,例如:
    Repeat-failure guard: you have now requested this exact range set N time(s); it deterministically fails. Do NOT re-issue it. Call acp_status first and pick from its CURRENT compressible ranges.
    这必须做在 kernel 侧才能覆盖 plugin mode(compress 在客户端扩展内本地执行,billion-context host 无法拦截其错误路径)。
  2. gate 兜底分支补指引:当所有 refs 已解析且均存活、仅因 chars 不足被拒时,复用现有 liveHint 生成逻辑(Current active blocks span bX..bY …),把「Run acp_status / use current compressible ranges」附进错误消息。
  3. 计数存于 session state(持久化),压缩成功后清零。

注:billion-context host 侧已为 proxy mode 实现了同款熔断(session metadata 计数,见 #847 对应 PR);plugin mode 仍需本修复。

Activity

  1. ranxianglei commented on Sep 16, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 收到。已完成审核与代码定位,结论:问题属实,按你的方案实现中。

    审核(先于实现)

    1. 复现/查证:kernel 侧确实无任何重复失败计数——CompressionState(src/types.ts:112)只有 blocks/messageRefs/tokenSnapshot/nudge/stats/absorbed/nextBlockId/nextRunId;applyCompression 对同一失败请求每次返回逐字相同的错误,gate 拒绝路径(src/compress.ts:323-331)甚至原样返回 input.state,失败不留任何痕迹 → 自我强化死循环成立。
    2. 层次判断:#847 的模型死循环是症状;根因正是你指出的两点——(a) kernel 无熔断信号;(b) gate 兜底分支(src/compress.ts:322)Total compressible content too small … Combine more messages… 只在 consumedRanges 为空时可达且不含 acp_status 指引,而带指引的分支(src/compress.ts:321)要求 consumedRanges 非空。「解析成功但太小」恰好落进无指引的兜底,模型的唯一出路提示("合并更多消息")在该场景下不可执行。你的方案打到根因,不是治标。
    3. 方案评估:三条建议都成立,细节上我会:规范化 key 用 parseBoundary 归一(m5≡m00005、b007≡b7、端点 min..max、段间排序),保证不同书写形式的同一范围集合命中同一计数;gate 拒绝路径改为返回携带计数的克隆 state(plugin mode host 持久化返回 state 才能跨调用生效);成功清零用整表重置。proxy mode 与 plugin mode 共用 applyCompression,kernel 侧一处修改同时覆盖。

    查重:仓库内无重复 issue(已检索)。开始实现,完成后回 PR 链接。

  2. ranxianglei commented on Sep 17, 2026

    @ranxianglei
    OwnerAuthor

    继续

  3. changed the title [-]kernel 缺少重复压缩失败升级机制(plugin mode 死循环无熔断);gate 兜底分支缺 acp_status 指引[/-] [+]Kernel lacks a repeated compression failure escalation mechanism (plugin mode infinite loop without circuit breaker); gate fallback branch lacks acp_status guidance. | kernel 缺少重复压缩失败升级机制(plugin mode 死循环无熔断);gate 兜底分支缺 acp_status 指引[/+] on Oct 16, 2026
  4. ranxianglei commented on Oct 23, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    查重: 不重复(open+closed issue/PR 均检索过 repeat-failure / circuit-breaker / retry-loop 主题;billion-context#847 是来源事件,host 侧、不同仓库)。

    标签: bug scope/kernel p2(缺陷类,内核压缩管线;p2 理由——失败有界:循环以流截断终止,state 不损坏,合法压缩不受影响,代价是特定条件下的 token 浪费与回合死亡;若你按「核心承诺失灵」判 p1,我改标)。

    已完成,PR: https://github.com/ranxianglei/acp-kernel/pull/515(分支 2026-10-23_repeat-failure-guard,基于 master 4d38906)

    八问

    1. 是什么问题:模型重发一个必然失败的压缩范围集(如低于 minCompressRange)时,kernel 每次都回一条逐字节相同的错误,没有任何升级信号——模型反复重试直到流截断(#847 里循环了 7 次)。另外 size-gate 兜底分支只说「combine more messages」,refs 正确但 span 真低于阈值时这句话不可执行。
    2. 什么原因导致的:kernel 的拒绝路径对请求历史无记忆——每次 applyCompression 调用都是独立的,「同一个集合确定性失败」这个事实本身不产生任何新信息,模型拿到的唯一信号是「一模一样的消息再来一遍」,对 LLM 行为等价于无信号。是机制缺失,不是参数配错。
    3. 影响范围与严重程度:所有经 plugin mode 调 compress 的客户端,在遇到「确定性失败的范围集被重复提交」时触发(proxy mode 已有 host 侧等价熔断,#847 PR)。严重程度中等:需要模型反复提交同一 doomed range 才触发;后果是 token 浪费 + 回合死亡,state 不损坏、可恢复,不是数据丢失类。
    4. 怎么修复的:在 session state 上按「规范化范围集」记失败计数(规范化走 parseBoundary:m5≡m00005、b7≡b007、方向无关 m9..m5≡m5..m9、批量顺序无关);同一集合第 2 次失败起,在 errors[0] 前置显式 do-not-retry 指令,指向 acp_status 的 CURRENT compressible ranges;任意一次成功压缩清空整张表(上下文已移动,之前 doomed 的 range 可能变得可行)。三条失败路径统一计数,含「already compressed」这类 warnings-only no-op。size-gate 兜底分支补上同款 acp_status 指引。
    5. 是否有回归问题:审过的既有行为——block 创建语义、ref 分配、nudge cadence、tier 逻辑、tag/wire 格式、全部默认值——均不变。本地定向跑直接受影响套件全绿(compress/refold/effective-gate-chars/range-coverage 99 例 + persist 42 例 + 新增 6 例),全量回归交给 CI。有意行为变更 4 处,已按下表披露。
    6. 是否破坏缓存:不涉及——未触碰缓存/重试/增量游标/去重键,prefix-cache 路径不变。
    7. 是否改了设计方向:没有——仍是纯 pipeline、零依赖、平台无关;state 只加了一个前向兼容可选字段 repeatFailures(旧快照加载为 undefined,merge 透传)。
    8. 是否引入新配置:没有——无新 env/config/默认值;升级阈值「失败 2 次」是内核常量,没有合理场景需要调它,故不暴露。

    行为变更清单(旧 → 新)

    # 旧 新 原因
    1 第 N 次相同拒绝永远返回同一条单错误 第 2 次起 errors[0] 为 do-not-retry 指令,原错误降为其后 逐字重复本身就是失效信号,模型需要明确的停止重试提示
    2 「too small」gate 只说 Combine more messages… 追加「or run acp_status and target one of the CURRENT compressible ranges…」 兄弟分支本来就有该指引,唯独此分支缺失
    3 被拒调用原样返回调用方的 state 对象 返回带计数器的克隆,nextRunId 前进 1 runId 只盖在创建出的 block 上,被拒调用不创建 block,无 wire 影响
    4 warnings-only no-op 不产生额外错误 计为失败并同样升级 它们以完全相同的方式死循环

    顺手修(独立标注 commit):接线时发现 mergeCompressionState 每次加载都静默丢掉 hiddenOrphanRefs(#396 snap 功能)和 lastPassIds(#462 echo 连续性)——两者都在一个 processTurn 内自愈、无数据丢失,但该重置并非有意。已修复并在 tests/persist.test.ts 加断言钉住。

    判定:实现完成,等 CI 全绿 + review。合并按仓库规则留给人工,请自行合并:#515

  5. ranxianglei commented on Oct 23, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    补充:PR #515 的 CI 已全绿(test node 22/24、build-artifact、pr-validation 全部 success)。本地定向套件此前也已全绿。现在只等 review + 人工合并:#515

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions