Skip to content

Degeneration guard: fold single-codepoint text runs in the outgoing view (abort-loop session death; ref impl in production) #4476

Open

Description

@SeniorHan

从 acp-kernel#517 迁移(维护者建议方案 A:原作者在 billion-context 立项,本仓库接管 triage)。原文按贵方审核意见补齐三个边界点答复与引用勘误。

是什么问题

会话死亡 abort 循环:thinking 块尾部出现数千个连续同字符(真实事故:4655×「【」),宿主每轮回放该残缺 assistant 消息,模型被继续偏置反复退化、反复 abort,用户无法编辑已持久化的 thinking,会话无自恢复路径。复现于 pi 宿主;动态学已本地复现(回放→再 abort;加折叠 pass→一轮恢复)。

根因

宿主侧 thinking 回放 + aborted 残缺消息持久化构成自持循环;现有守卫只断字节级相同的 tool-call 循环(repetitionGuard,#308),生成文本/thinking 内部的字符吸引子无人拦截。机制缺失,非参数问题。

修复方案(参考实现已在生产运行,~290 行含测试)

出站视图管线加一道确定性字符级折叠 pass:

参考实现:SeniorHan/keel-fold 仓库 src/degeneration.ts(keel-fold = billion-context-pi 的下游适配,生产运行数周)。

对贵方审核三边界点的答复

  1. 覆盖面:建议覆盖——压缩块 summary 同为模型生成文本、同一失败域。参考实现折叠的是出站视图的 assistant 文本 run,summary 在出站视图内即被覆盖。
  2. marker 安全性:替换 marker 恒短于 minRun 下限(8);折叠 pass 在 render-refs 之后应用,不触碰 <acp> tag 与 mNNNNN 编号(与贵方建议一致)。
  3. 恢复提示措辞:参考实现当前为常量英文;若合入,迁移到内核 surface-text 层与宿主覆写点(与 nudge-text 同层)正是我们期望的形态。

八问(补关键项)

  • 严重度:p1(命中即会话不可用且无自恢复;触发条件特定:单码点 run ≥ 阈值 ∧ 宿主回放 thinking)。
  • 是否破坏缓存:确定性折叠 → 首次折叠后字节稳定,无持续 prefix-cache 击穿;恢复提示位置自限、新轮产出后自动消失,不累积。
  • 是否改设计方向:不转向——出站视图管线新增一个 opt-out 防御节点,零新依赖,纯管线、平台无关;view-only 不触碰持久化历史/lossless round-trip/message-id 语义(§7.3-4)。
  • 是否引入新配置:enabled(默认 true)+ 阈值(默认 200、下限 8);默认值即安全值。

引用勘误(承 acp-kernel#517 审核指出)

本 issue 引用的 repetitionGuard=#308 指 billion-context 的 #308(生成文本 tool-call 循环守卫);acp-kernel 仓库编号体系下 #308 为 release PR,两仓编号不同。

Activity

  1. ranxianglei commented on Oct 24, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    查重:不重复。 与现有两个守卫机制不同层、不同症状、不同机制:

    标签: bug · p1 · pi · scope/kernel(命中即会话不可用且无自恢复;根因是渲染管线缺节点,属内核面)。

    下面是审核结论。这是一个需要 owner 拍板的新能力(内核变更 + 配置面),不是能直接 auto-merge 的纯 fix。

    ① 是什么问题
    一个会话陷入「退化→abort→再回放→再退化」死循环:thinking 尾部出现数千个连续同字符(实测 4655×「【」),宿主(pi)把这条残缺 assistant 消息持久化后每轮回放给模型,模型被自己上一轮的退化尾偏置,反复再退化、反复 abort。用户改不了已持久化的 thinking,会话没有自恢复路径。

    ② 什么原因导致的
    三层缺口叠加:(a) 现有守卫只覆盖两类——tool-call 字节级循环(#308)和入站实时流的单码点 run(#3260,做法是 abort 当轮);(b) 出站视图渲染管线里没有对已持久化文本做字符级折叠的节点——残缺消息一旦落盘,就永远原样骑在每一轮出站前缀里;(c) 宿主回放 thinking 的既有行为把它变成持续偏置源。根因是 (b):机制缺失,非参数问题。#3260 的 abort 救不了,因为它只在生成中起作用,作用不到已落盘、正被回放的历史。

    ③ 影响范围与严重程度(按选项)

    • p1(符合「会话无法恢复类」口径,不许降 p2)。受影响面:任何会回放 assistant thinking/文本的宿主——已确认 pi,机制上适用于所有此类宿主。触发条件特定:单码点 run ≥ 阈值(默认 200)∧ 宿主回放该残缺消息。命中即完全不可用且无自恢复。

    ④ 怎么修复的(推荐选项 A 思路)
    在出站视图渲染管线的最终阶段(render-refs 之后)加一道确定性字符级折叠 pass:把 assistant 消息 text/thinking 里 ≥ minRun 的单码点 run 折叠成短 marker(保留 < minRun 份 + [N× identical chars cut],恒短于 minRun 下限 8,幂等、不碰 acp tag 与 mNNNNN 编号);仅当退化消息是最近一条 assistant 轮时附一次性恢复提示(位置自限,新轮产出后自动消失,不存持久标志,#223 教训);内部错误永不炸会话(fail-safe,出错原样返回)。纯 view-only:不改持久化历史、不动 lossless round-trip、不碰 message-id 语义。参考实现(~290 行含测试)已在生产跑数周,但它是按 pi 的消息模型(@earendil-works/pi-coding-agent AgentMessage)写的,合入需移植到本仓 CoreMessage 模型,不能直接抄。

    ⑤ 是否有回归问题(按选项逐项过既有行为)

    • 选项 A(内核节点):缓存——确定性折叠,同输入同输出,首次折叠后字节稳定,无持续 prefix-cache 击穿;恢复提示位置自限、新轮后自动消失,不累积。既有行为——render-refs 目前是管线末节点(kernel/tests/pipeline.test.ts:47 钉死「render-refs is final」),加节点会改这个不变量,需同步更新该测试+文档;折叠只作用 assistant text/thinking 内容串,不碰 tool-call arguments([bug] 插件透传会剥掉工具调用参数里的 render tag(arguments 流挂了 tag-echo 过滤器) #1039 铁律)、不碰 system/user、不碰 acp tag/mNNNNN;fail-safe 保证异常时不比现状更糟。最大风险点:恢复提示往出站视图追加一条 user 消息,改变消息数/结构,必须验证不破坏 reconcile/fold-state 与严格后端约束(SGLang 单 system@0 等),plugin 模式与 proxy 模式都要过(§6)——这是本 PR 最需钉测试处。
    • 选项 B(宿主侧收口打补丁):CoreMessage→wire 转换散在 src/server/prepare-openai.ts:304 / prepare-anthropic.ts:416 / prepare-responses.ts / prepare-google.ts + 三个 loop adapter,共约 7 处,逐处打补丁易漏车道,回归面分散难收敛。
    • 选项 C(pi 车道止血):只在 pi 宿主侧加最小折叠,其他车道留洞,治标不治本。

    ⑥ 是否破坏缓存:否(见 ⑤ 选项 A,确定性 + 位置自限)。

    ⑦ 是否改了设计方向:不转向——出站视图管线新增一个 opt-out 防御节点,零新依赖,纯管线、平台无关。但它落在内核,走内核边界流程。

    ⑧ 是否引入新配置:是,两处,都映射到现有 guardrails. 面(runaway-guard 已有 guardrails.repetition bool 与 guardrails.textRunThreshold number,#3406):

    • guardrails.degeneration.enabled(默认 true,kill-switch)
    • guardrails.degeneration.minRun(默认 200,<8 抬到 8,非法值回退默认并告警)
      默认值即安全值;CONFIGURATION.md en+zh 同步。

    选项对比

    落点 覆盖面 内核门 回归面 判定
    A 推荐 内核 render-refs 之后一个最终节点 全部车道 × 两种压缩模式,一处收口 需 owner 批准 + kernel-change: 声明 + 版本 bump 集中、可钉测试 ✅ 干净
    B 宿主侧 ~7 个收口点 全覆盖但易漏 无 分散、难收敛 ⚠️ 脆弱
    C pi 宿主侧最小折叠 仅 pi 无 小 ⚠️ 治标

    需要你(owner)在实现前拍板两件事:

    1. 内核变更批准(Kernel Boundary 规则 1):修复落在 kernel/**,需你在此 thread 明确批准;我会在 PR body 声明 kernel-change:。宿主侧为何解不了干净:如上,无单一收口点,7 处散落;内核 render 管线是唯一统一收口。
    2. 配置面批准(Config Surface Discipline 规则 3):新增 guardrails.degeneration.{enabled,minRun},映射现有 guardrails 面,非凭空造形。

    我的明确建议:采纳选项 A(内核方案),配置沿用现有 guardrails 命名。这两条你点头,我立即开工——集成点已摸清(processTurn 管线 render-refs 之后 + 恢复提示位置自限门控 + plugin/proxy 双模式回归钉),移植参考算法到 CoreMessage 即可,CI 全局把关。若你倾向先只做 pi 车道止血(C)、内核方案后续再定也告诉我,但不推荐(会留下其他车道的洞)。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions