You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
{{ message }}
Repository navigation
Degeneration guard: fold single-codepoint text runs in the outgoing view (abort-loop session death; ref impl in production) #4476
Activity
ranxianglei commentedon Oct 24, 2026
(ai: vllm-qwen/qwen3.8-27b)
查重:不重复。 与现有两个守卫机制不同层、不同症状、不同机制:
repetitionGuard(billion-context feat: #189 compress observability + gated staged/tail-bias steering (smooth transition) #308,src/agent/tool-guardrails.ts:148):断字节级相同的 tool-call 循环(模型反复调同一工具)。本 issue 的吸引子在生成文本/thinking 内部,不是 tool-call。runaway-guard(degenerationGuard 移植到 DSH 版(billion-context-dsh):插件层方案已定待实现,另需上游输出侧熔断 #3260/[PR] storage: MySQL backend — step 2 of the pluggable-storage plan (#3931) #3946,src/runaway-guard.ts:29):在入站实时流上检测单码点 run(阈值 200),触发即 abort 上游流——它是「当前这一轮生成中」的内在终止器,只盯上游正在吐的字节,完全不碰回放历史。本 issue 要的是对已持久化残缺消息在出站视图里做折叠,断的是「宿主每轮回放残缺 thinking → 偏置模型再退化 → 再 abort」这条自持回路。两者互补,不重叠。标签:
bug·p1·pi·scope/kernel(命中即会话不可用且无自恢复;根因是渲染管线缺节点,属内核面)。下面是审核结论。这是一个需要 owner 拍板的新能力(内核变更 + 配置面),不是能直接 auto-merge 的纯 fix。
① 是什么问题
一个会话陷入「退化→abort→再回放→再退化」死循环:thinking 尾部出现数千个连续同字符(实测 4655×「【」),宿主(pi)把这条残缺 assistant 消息持久化后每轮回放给模型,模型被自己上一轮的退化尾偏置,反复再退化、反复 abort。用户改不了已持久化的 thinking,会话没有自恢复路径。
② 什么原因导致的
三层缺口叠加:(a) 现有守卫只覆盖两类——tool-call 字节级循环(#308)和入站实时流的单码点 run(#3260,做法是 abort 当轮);(b) 出站视图渲染管线里没有对已持久化文本做字符级折叠的节点——残缺消息一旦落盘,就永远原样骑在每一轮出站前缀里;(c) 宿主回放 thinking 的既有行为把它变成持续偏置源。根因是 (b):机制缺失,非参数问题。#3260 的 abort 救不了,因为它只在生成中起作用,作用不到已落盘、正被回放的历史。
③ 影响范围与严重程度(按选项)
④ 怎么修复的(推荐选项 A 思路)
在出站视图渲染管线的最终阶段(render-refs 之后)加一道确定性字符级折叠 pass:把 assistant 消息 text/thinking 里 ≥ minRun 的单码点 run 折叠成短 marker(保留 < minRun 份 +
[N× identical chars cut],恒短于 minRun 下限 8,幂等、不碰 acp tag 与 mNNNNN 编号);仅当退化消息是最近一条 assistant 轮时附一次性恢复提示(位置自限,新轮产出后自动消失,不存持久标志,#223 教训);内部错误永不炸会话(fail-safe,出错原样返回)。纯 view-only:不改持久化历史、不动 lossless round-trip、不碰 message-id 语义。参考实现(~290 行含测试)已在生产跑数周,但它是按 pi 的消息模型(@earendil-works/pi-coding-agentAgentMessage)写的,合入需移植到本仓 CoreMessage 模型,不能直接抄。⑤ 是否有回归问题(按选项逐项过既有行为)
kernel/tests/pipeline.test.ts:47钉死「render-refs is final」),加节点会改这个不变量,需同步更新该测试+文档;折叠只作用 assistant text/thinking 内容串,不碰 tool-call arguments([bug] 插件透传会剥掉工具调用参数里的 render tag(arguments 流挂了 tag-echo 过滤器) #1039 铁律)、不碰 system/user、不碰 acp tag/mNNNNN;fail-safe 保证异常时不比现状更糟。最大风险点:恢复提示往出站视图追加一条 user 消息,改变消息数/结构,必须验证不破坏 reconcile/fold-state 与严格后端约束(SGLang 单 system@0 等),plugin 模式与 proxy 模式都要过(§6)——这是本 PR 最需钉测试处。src/server/prepare-openai.ts:304/prepare-anthropic.ts:416/prepare-responses.ts/prepare-google.ts+ 三个 loop adapter,共约 7 处,逐处打补丁易漏车道,回归面分散难收敛。⑥ 是否破坏缓存:否(见 ⑤ 选项 A,确定性 + 位置自限)。
⑦ 是否改了设计方向:不转向——出站视图管线新增一个 opt-out 防御节点,零新依赖,纯管线、平台无关。但它落在内核,走内核边界流程。
⑧ 是否引入新配置:是,两处,都映射到现有
guardrails.面(runaway-guard 已有guardrails.repetitionbool 与guardrails.textRunThresholdnumber,#3406):guardrails.degeneration.enabled(默认 true,kill-switch)guardrails.degeneration.minRun(默认 200,<8 抬到 8,非法值回退默认并告警)默认值即安全值;CONFIGURATION.md en+zh 同步。
选项对比
kernel-change:声明 + 版本 bump需要你(owner)在实现前拍板两件事:
kernel/**,需你在此 thread 明确批准;我会在 PR body 声明kernel-change:。宿主侧为何解不了干净:如上,无单一收口点,7 处散落;内核 render 管线是唯一统一收口。guardrails.degeneration.{enabled,minRun},映射现有 guardrails 面,非凭空造形。我的明确建议:采纳选项 A(内核方案),配置沿用现有 guardrails 命名。这两条你点头,我立即开工——集成点已摸清(processTurn 管线 render-refs 之后 + 恢复提示位置自限门控 + plugin/proxy 双模式回归钉),移植参考算法到 CoreMessage 即可,CI 全局把关。若你倾向先只做 pi 车道止血(C)、内核方案后续再定也告诉我,但不推荐(会留下其他车道的洞)。