Skip to content

The model keeps calling compress with the same parameters and failing in succession: it's copying the last completed ` | 模型反复用同一份参数调 compress 连续失败:它抄的是上一条已完成的 compress 调用;失败回执越堆越长,折叠刚成功压力表却显示 112% #5960

Closed

Description

@ranxianglei

什么现象

2026-11-08 一个长会话(01a1b6b3,替用户排查压缩问题时)陷入循环:模型 4 分钟内连发 5 次 compress,2 次成功、3 次被拒,拒了再发。模型同时向用户抱怨「用户在反复发同一条消息」「已经被催压缩 10/11/12/13/14 次,每次都在涨」——但用户实际只发过一次。25 分钟后用户手动打断。

根因:三个问题咬在一起

  1. 模型抄了不该抄的模板。 compressAtFoldPoint v2 会把历史里已完成的 compress 调用参数改写成一句「压缩已完成、摘要已前移」的指针。模型照着最近一条 compress 调用抄格式,抄到的正是这句指针——发出去必然被拒(content-not-array),拒了再抄再发。4 次失败调用的参数逐字相同,全是这句指针。
  2. 失败回执火上浇油。 每次失败回执都完整重复约 200 词的格式教程+可选范围清单+「这是你第 N 次发同样的调用」计数器。第 2 条起这些内容模型已经看过,纯堆历史;计数器还被模型误读成「用户又问了 N 次」。
  3. 压力表在折叠后反而爆表。 连续压缩的回合不会经过上游结算,锚点被判定为过期,[Bug] 0.1.209: Claude Code CLI main conversation forks onto <id>|sub:<fp>; the session-title call claims the raw key (regression from #4774) #5135 的「压缩信用」豁免恰好失效,计量回落到「客户端重发的完整原始历史」的上界:刚折叠成功省了 5 万 token,压力表却显示 238112/212992 = 112%,继续催压缩——正是折叠本该终结的循环。

修复方向

  • 解析层认出「指针回声」:内容里含 v2 指针文案 → 归类 already-folded-echo,回执一行话告知「那次压缩早已完成,别重发」,不进失败计数;
  • 内容字符串里编码单个 entry 对象(refs 在 JSON 里)时直接抢救解析,不再拒;
  • 相同格式的失败从第 2 次起回执缩成一行(首次保留完整教程),计数器只说一次;
  • 计量:有未结算的压缩信用时允许覆盖「锚点过期」判定(信用仍会被下一次真实结算清零,不会冻结计量)。

PR 跟进在本 issue 下。

Activity

  1. changed the title [-]模型反复用同一份参数调 compress 连续失败:它抄的是上一条已完成的 compress 调用;失败回执越堆越长,折叠刚成功压力表却显示 112%[/-] [+]The model keeps calling `compress` with the same parameters and failing in succession: it's copying the last completed ` | 模型反复用同一份参数调 compress 连续失败:它抄的是上一条已完成的 compress 调用;失败回执越堆越长,折叠刚成功压力表却显示 112%[/+] on Nov 8, 2026
  2. ranxianglei commented on Nov 8, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷
    (ai: vllm-qwen/qwen3.8-27b)

    查重: 不重复。 按失败签名(指针回声 / content-not-array 连发 / 折叠后压力表爆表)检索 open+closed issue 与 PR:无先前修复项。相关但不同的线索:v2 特性 PR(指针文案的来源,机制不同——特性 vs 缺陷)、计量谱系 #5135(压缩信用)/#4383(锚点过期)是问题 3 的上游机制引用,均非本事件重复。

    标签:拟打 bug + scope/kernel + p2(缺陷;核心域=压缩引擎解析层+计量;严重度=能用但有明显问题——循环可手动打断、仅在实验开关下出现、无数据丢失与缓存泄露)。镜像的 labels 端点未实现(GET/POST 返回 404,PATCH 200 但不生效),在此报备代替打标。

    状态:发现本 issue 已有在途修复 GitHub PR #5961(分支 fix/compress-burst-loop,单提交 e03cc4b,今日 23:18 提交)。对照 issue 四个修复方向逐项核对:

    1. 指针回声归类——kernel parse-compress-input.ts 新增 kind=already-folded-echo,host 侧一行 ack 回执(不进失败计数、模型不会误读计数器,仍走 dsh内部问题 出现这个错误后,重启dsh可以发消息 但陷入无限压缩失败 #2146 熔断防失控)✓
    2. content 字符串编码单个 entry 对象(refs 在 JSON 里)→ 抢救解析(stringifiedEntryFromContent,过共享 entry 校验器)✓
    3. 相同格式失败从第 2 次起缩成一行回执(首次保留完整教程,计数器只说一次)✓
    4. 计量:未结算压缩信用覆盖「锚点过期」判定(effectiveTokenCount 的 [Bug] 0.1.209: Claude Code CLI main conversation forks onto <id>|sub:<fp>; the session-title call claims the raw key (regression from #4774) #5135 信用分支去掉 !anchorStale;信用仍被下一次真实结算清零,不会冻结计量)✓

    按「一个线程一个修复 PR」规则不开并列 PR;正在逐行核对代码、跨 PR 一致性(v2 分支的 RELOCATED_POINTER_MARKER 与本 PR 镜像字面量逐字一致,已验证)与 CI 状态,随后给出结构化审核结论。

  3. ranxianglei commented on Nov 8, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    审核结论:PR #5961 覆盖 #5960 的全部四个修复方向;补齐两处审核后、CI 转绿即可合并(合并权在你;且因触碰 kernel/,按 Kernel Boundary 本就走人工评审档)。

    审核过程(证据链)

    1. 首个 head e03cc4b 的 CI 有 6 个 test shard 红,定位到 4 个既有钉死测试:T5([Bug] statusInputBaseline falls back to lastUsageGradeTokens instead of the calibrated local estimate — so one 4.7k side-request sample blocks folding for 4 hours | #1595 承诺的"改用本地估算"兜底在 statusInputBaseline 里没有实现,一次 4.7k 侧请求样本即可挡住折叠 4 小时 #4383 cycle-stale 优先级)、ACP 状态标记被拼接进用户消息文本块;跨会话代际 stale refs 压缩整批失败 #1029-②(repeat-failure guard 文案)、Error: [Compression FAILED: no valid ranges parsed (kind=content-not-array, dropped=1).刷屏 #4812×2(回执塌缩时机 + preflight 车道契约)。其中 3 个是本 PR 新语义(issue 方向 3/4)的预期行为变更,需要带理由重钉;1 个是意外回归:一行塌缩没加 trackLoop 门,破坏了 Error: [Compression FAILED: no valid ranges parsed (kind=content-not-array, dropped=1).刷屏 #4812「preflight 车道永不塌缩」的契约。
    2. PR 分支随后推入 61cca20,恰好修了这四处(stream.ts 加 trackLoop && 门 + 三个测试逐个重钉)。我逐条对照代码语义独立复核过重钉的正确性(arm 阈值=3,n=3 arm 段落经 loopGuard 骑在一行回执上,n≥4 短拒不变;[Bug] statusInputBaseline falls back to lastUsageGradeTokens instead of the calibrated local estimate — so one 4.7k side-request sample blocks folding for 4 hours | #1595 承诺的"改用本地估算"兜底在 statusInputBaseline 里没有实现,一次 4.7k 侧请求样本即可挡住折叠 4 小时 #4383 无信用残例仍由 tests/issue4383-stale-usage-anchor.test.ts 钉住;gate 路径的重复守卫如 issue847/issue3126 走的是另一条拒绝路径,不受影响)——全部一致。
    3. 我的发现:重钉后的 ACP 状态标记被拼接进用户消息文本块;跨会话代际 stale refs 压缩整批失败 #1029-② 里有一条空断言(!second.includes("Eligible ranges") —— 该大小写组合在任何实际回执文本中都不存在,恒真)。已改为断言真实的教程签名短语 /compress takes ONE 'content' STRING/,回归时一行回执若重新展开成完整教程能被抓住 → c297545 已推到 PR 分支。
    4. 本地定向验证:受影响的 8 个测试文件 48/48 全绿(全量裁决以 CI 为准)。
    5. 已给 PR [PR] Compression cycle fix: identify and confirm pointer echo, condense duplicate failure receipts into a single line, and co | 压缩循环修复:认出并确认指针回声、把重复失败回执缩成一行、修复折叠后压力表虚高 #5961 打标签:bug / p2 / scope/kernel(按 PR 自身 diff 判定,非继承 issue)。

    行为变更披露(旧→新,均为 issue 中 owner 定向)

    1. 计量优先级翻转(方向 4):旧 = 锚点过期(cycle-stale)时 estimate 压过 pending credit([Bug] statusInputBaseline falls back to lastUsageGradeTokens instead of the calibrated local estimate — so one 4.7k side-request sample blocks folding for 4 hours | #1595 承诺的"改用本地估算"兜底在 statusInputBaseline 里没有实现,一次 4.7k 侧请求样本即可挡住折叠 4 小时 #4383 规则);新 = credit>0 时 netted usage 锚点压过 staleness,credit==0 保持原 [Bug] statusInputBaseline falls back to lastUsageGradeTokens instead of the calibrated local estimate — so one 4.7k side-request sample blocks folding for 4 hours | #1595 承诺的"改用本地估算"兜底在 statusInputBaseline 里没有实现,一次 4.7k 侧请求样本即可挡住折叠 4 小时 #4383 规则不变。窗口有界:preflight 每次转发前实测真实 outbound,下一次真实结算重新基线,计量不会冻结。这正是终结「刚折叠完压力表 112% 继续催压缩」的改动。
    2. 重复解析失败回执(方向 3):旧 = 每次重复都带完整约 200 词教程 + Repeat-failure guard 计数器(计数器被模型误读成「用户又问了 N 次」);新 = 首次保留完整教程,第 2 次起塌缩成一行「failed N time(s)…见第一条回执」,计数器只说一次;n=3 的 arm 段落骑在一行回执上、n≥4 短拒不变;preflight 内部车道(loopTracking:false)不塌缩(该门首 head 缺失,61cca2039a 已修)。
    3. 指针回声(方向 1):内容含 v2 relocation 指针文案的调用归类 already-folded-echo,回执一行告知「那次压缩早已完成」,不进失败计数;循环跟踪仍在,失控连发照样触发 dsh内部问题 出现这个错误后,重启dsh可以发消息 但陷入无限压缩失败 #2146 熔断。
    4. 抢救解析(方向 2):content 字符串编码单个 entry 对象时直接抢救解析(此前拒为 content-not-array)——有意的接受面扩大,非放宽校验。

    八问

    1. 是什么问题:长会话里模型把 relocation 指针文案当模板反复调 compress,接连被拒;失败回执越堆越长,计量在折叠成功后反而爆表(112%),继续催压缩,形成死循环直到用户手动打断。
    2. 什么原因导致的:三层咬合——解析层认不出指针回声(content-not-array 必拒);失败回执每次都重复完整教程并带易误读计数器;计量的「锚点过期」判定让压缩信用豁免恰好失效,回落到客户端重发原始历史的上界。
    3. 影响范围与严重程度:仅在「成功折叠 + 未经上游结算 + 模型重发指针文案」的组合下触发(p2):会话可用但可能陷入需手动打断的循环;无数据丢失、无缓存泄露。
    4. 怎么修复的:源头分类(解析层认回声、抢救字符串化 entry)、决策点收敛回执(首次全文、其后一行)、计量优先级回正(有信用时不被 staleness 覆盖)。
    5. 是否有回归问题:审过触碰路径的全部既有行为——[Bug] statusInputBaseline falls back to lastUsageGradeTokens instead of the calibrated local estimate — so one 4.7k side-request sample blocks folding for 4 hours | #1595 承诺的"改用本地估算"兜底在 statusInputBaseline 里没有实现,一次 4.7k 侧请求样本即可挡住折叠 4 小时 #4383 无信用残例不变(专项测试文件钉住)、gate 路径重复守卫(issue847)、no-visible-context(issue3126)、armed-breaker 短拒(n≥4)、preflight 车道完整回执(trackLoop 门)均保持或属上述有意披露;唯一意外回归(preflight 塌缩)已修复并有测试钉住。
    6. 是否破坏缓存:不涉及。缓存键/去重游标/存储布局未动;回执文案是工具结果历史(有意变更);计量修复减少假压缩催促,反而提升 burst 期间前缀缓存连续性。
    7. 是否改了设计方向:不涉及。四个修复各归其层(kernel 解析分类 / host 回执整形 / server 计量优先级),无新架构元素;kernel 0.0.188→0.0.189,PR 正文含 kernel-change 声明。
    8. 是否引入新配置:不涉及。无新 env/config/默认值。

    另注两条

    判定:c297545f4e 主 test 车道转绿后建议合并(你来按按钮);我这边审核工作到此收工。

  4. ranxianglei commented on Nov 8, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    收工汇报(审核完成,结论如下):

    做了什么

    1. 审 PR [PR] Compression cycle fix: identify and confirm pointer echo, condense duplicate failure receipts into a single line, and co | 压缩循环修复:认出并确认指针回声、把重复失败回执缩成一行、修复折叠后压力表虚高 #5961(本 issue 的在途修复,覆盖 The model keeps calling compress with the same parameters and failing in succession: it's copying the last completed ` | 模型反复用同一份参数调 compress 连续失败:它抄的是上一条已完成的 compress 调用;失败回执越堆越长,折叠刚成功压力表却显示 112% #5960 全部四个方向):首个 head e03cc4b 的 CI 有 6 个 shard 红,定位到 4 个既有钉死测试——3 个是新语义的预期变更(需带理由重钉),1 个是意外回归(一行塌缩缺 trackLoop 门,破坏 Error: [Compression FAILED: no valid ranges parsed (kind=content-not-array, dropped=1).刷屏 #4812 preflight 车道「永不塌缩」契约)。
    2. PR 分支随后推入 61cca20 恰好修了这四处;我逐条对照代码语义独立复核重钉正确性(arm 阈值=3、n=3 arm 段落骑在一行回执上、[Bug] statusInputBaseline falls back to lastUsageGradeTokens instead of the calibrated local estimate — so one 4.7k side-request sample blocks folding for 4 hours | #1595 承诺的"改用本地估算"兜底在 statusInputBaseline 里没有实现,一次 4.7k 侧请求样本即可挡住折叠 4 小时 #4383 无信用残例由专项测试文件继续钉住、gate/no-visible-context 路径不受影响),全部一致。
    3. 我发现并修掉一处空断言(ACP 状态标记被拼接进用户消息文本块;跨会话代际 stale refs 压缩整批失败 #1029-② 重钉里断言了一个任何回执都不含的大小写串,恒真)→ c297545 已推到 PR 分支。本地定向验证:受影响 8 个测试文件 48/48 绿。
    4. 已给 PR [PR] Compression cycle fix: identify and confirm pointer echo, condense duplicate failure receipts into a single line, and co | 压缩循环修复:认出并确认指针回声、把重复失败回执缩成一行、修复折叠后压力表虚高 #5961 打标签 bug/p2/scope/kernel;PR 正文含 kernel-change 声明(kernel 0.0.188→0.0.189),走人工评审档。

    行为变更披露(旧→新,均 owner 定向)

    • 计量优先级:锚点过期时旧为 estimate 压过 pending credit → 新为 credit>0 时 netted usage 锚点压过 staleness(credit==0 保持原规则);窗口有界(preflight 实测 + 下次结算重新基线)。
    • 重复解析失败回执:每次重复全文教程+计数器 → 首次全文、第 2 次起一行(计数器只说一次);preflight 内部车道不塌缩。
    • 指针回声:新增 already-folded-echo 分类,一行告知、不进失败计数(循环熔断仍跟踪)。
    • 抢救解析:content 字符串编码单个 entry 对象时接受(此前拒 content-not-array)。

    八问

    1. 是什么问题:模型把 relocation 指针文案当模板反复调 compress 连续被拒,失败回执越堆越长,折叠成功后计量反而爆表(112%)继续催压缩,死循环到手动打断。
    2. 什么原因导致的:解析层认不出指针回声 + 失败回执重复全文教程且计数器被误读 + 计量「锚点过期」判定让压缩信用豁免失效回落到原始历史上界,三层咬合。
    3. 影响范围与严重程度:仅「成功折叠+未结算+模型重发指针文案」组合触发(p2):会话可用但可能需手动打断;无数据丢失、无缓存泄露。
    4. 怎么修复的:源头分类(认回声/抢救字符串)、决策点收敛回执(首次全文其后一行)、计量优先级回正(有信用不被 staleness 覆盖)。
    5. 是否有回归问题:触碰路径既有行为逐项审过——[Bug] statusInputBaseline falls back to lastUsageGradeTokens instead of the calibrated local estimate — so one 4.7k side-request sample blocks folding for 4 hours | #1595 承诺的"改用本地估算"兜底在 statusInputBaseline 里没有实现,一次 4.7k 侧请求样本即可挡住折叠 4 小时 #4383 无信用残例、gate 重复守卫(issue847)、no-visible-context(issue3126)、n≥4 短拒、preflight 完整回执均保持或属上述有意披露;唯一意外回归已修复并有测试钉住。
    6. 是否破坏缓存:不涉及;缓存键/去重/存储布局未动,且减少假催促反而提升 burst 期前缀缓存连续性。
    7. 是否改了设计方向:不涉及;四个修复各归其层,无新架构元素。
    8. 是否引入新配置:不涉及。

    状态(live 核实):c297545f4e 的 CI——快速车道(e2e×10/theorem/registry/ci-image/windows overlay)已全部绿,主 test 车道排队中;另注 kernel 版本协调:与在途 relocate-compress v2 特性分支(声称 0.0.188)谁后合入谁需 rebase+重 bump,二者无正确性依赖。

    判定:主 test 车道转绿后建议合并(合并权在你);我这边收工。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions