Skip to content

小模型(2B级)compress 循环空转:同参数重复失败烧满 10 轮 + 幻觉 ref + 摘要长度约束不遵守 #156

Closed

Description

@ranxianglei

问题

小模型(用户日志中为 ~2B 模型,经 Codex 客户端 + Responses 协议使用)在 compress 工具上陷入重复失败循环,烧掉全部 10 轮 loop 上限的 upstream 调用而无一轮成功。

用户日志(v0.1.27,Windows,2026-08-09 → 08-14,10 sessions)实测证据:

1. 同参数失败循环(最重)

session 085ad0e1,round 4→10 连续 7 轮:

compress requested 1 range(s): m00521–m00523
compress FAILED → 0 blocks. Summary too short (28 chars, min 50)
[acp-loop] round N: proxy tool executed; re-requesting so the model sees the result

模型用完全相同的参数反复提交同一个失败 range,失败信息回传后不修正,直到 MAX_LOOP_ROUNDS=10 才 completing gracefully。每轮都是真实上游请求。

2. 幻觉 ref

另一轮报 endId="m00526" does not exist in this session —— 上下文只有 9 条 h_* id 消息,模型在模仿输入里 ACP tag 格式编造 m00526。

3. 数值约束记不住

Summary too short (28 chars, min 50)                    × 6
Total compressible content too small (159 chars, min 5000)  × 2

4. tag echo(57 次 warn)

模型把输入里的 <acp tokens=...> 历史标签当正文回显到输出(tag echo: responses response stream contains <acp tag)。代理已检测告警,但需确认所有回显路径的剥离都生效。

正常的部分

EMERGENCY 链路工作正常:另一 session 上下文冲到 124%(495710/400000)→ EMERGENCY nudge → 压缩 2 ranges 省 153686 tokens → 回落 40%。

建议方向

  1. 重复失败短路:loop 内对「相同 range + 相同失败原因」连续出现 2 次即终止循环(当前要等 round 10),把失败原因作为最终说明返回
  2. 错误信息自解释化:入参校验失败时附修复示例(如"你的摘要 28 字符,需 50+,示例:……"),降低小模型修正门槛
  3. 自定义压缩提示词(已在单独 PR 实现):允许 per-model 覆盖 howToCompressRules 等,给小模型配简化版规则
  4. tag echo 剥离路径审计

日志样本

bili (6).log 2273 行,可复现上述全部场景。

Activity

  1. ranxianglei commented on Aug 31, 2026

    @ranxianglei
    OwnerAuthor

    ework看看这个

  2. ranxianglei commented on Aug 31, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    已定位并修复了最重的那部分(同参数失败循环),PR:#370

    根因

    小模型每轮用完全相同的参数重新提交同一个失败的 compress(比如 Summary too short (28 chars, min 50))。而 compress 的校验是确定性的——参数逐字节相同 ⇒ 失败结果也相同。所以这种重复提交永远不可能成功,每轮只是在烧一次真实的 upstream 调用。旧逻辑把失败信息回传给模型后继续 re-request,直到 MAX_LOOP_ROUNDS=10 才优雅收尾——也就是日志里 round 4→10 连续 7 轮 的来源。

    修复

    runCompressLoop(src/loop/core.ts)现在记录本 loop 内每次失败的 compress/decompress 的规范化参数(failedSignatures)。当某一轮只有失败的 compress/decompress、且其中有一个重新提交了之前已经失败过的参数时,loop 提前优雅终止,而不是烧满 10 轮。

    安全性:

    • 匹配用规范化参数(parse + 递归排序 key),两次尝试之间 key 顺序/空白差异不会让匹配失效。
    • 只在模型"除了重复失败什么都没做"时才触发——同一轮里只要有成功的 compress 或任何其它 proxy 调用(如 acp_status),就不会提前断,正在推进的模型不会被误杀。
    • 模型仍有完整一次看到失败并修正的机会(断点在第二次相同提交,不是第一次)。

    这直接停掉 issue 里的连续 7 轮空转;同时也顺带避免了在"重复的幻觉 ref"(第 2 点)和"重复的过短摘要"(第 3 点)上烧轮次。

    验证

    • npm run typecheck(src):✅
    • npm test:852/852 通过
    • npm run build:✅
    • 新增回归测试(相同失败 compress → 提前断)+ 保护测试(失败 compress 伴随其它 proxy 调用 → 不提前断)
    • 改动在 src/loop/,但本环境没有 codex 二进制(spawn codex ENOENT)也没有 127.0.0.1:8199 上游,E2E 跑不了——合并前请跑一下 E2E(或手动触发的 CI e2e)。单测已直接通过 createResponsesAdapter() 驱动改动的 runCompressLoop(与 E2E 相同的 Responses 路径),全部通过。

    未在本 PR 处理(模型能力问题,非 proxy 能修的)

    第 2–4 点(幻觉 ref、记不住数值约束、tag echo)本质是 ~2B 模型的能力问题。proxy 侧已经会回传清晰的校验错误 + tag-echo 告警;本 PR 补上的是缺失的一环——不再为注定失败的相同重试浪费 upstream 调用。如果希望进一步帮小模型,可以考虑在失败信息里追加更明确的引导文案(例如"摘要至少 50 字符,请写更长"),但那属于 prompt 调优,建议单独评估。

  3. ranxianglei commented on Sep 4, 2026

    @ranxianglei
    OwnerAuthor

    现在看这个问题还存在吗

  4. ranxianglei commented on Sep 4, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · qwen3.8-27b

    结论:还在。 当前线上版本(v0.1.84)依然存在这个问题——而且我顺手把之前的修复重新对齐到了最新代码。

    为什么之前"看起来修了"其实没生效

    我上一轮提的 PR #370 有两个问题:

    1. 还没被合并(一直是 open,等人工 merge)。
    2. 基于的是旧代码。它建在 v0.1.65 上,而 master 已经往前走了 163 个 commit 到 v0.1.84,src/loop/core.ts 期间改了 +168/-44。也就是说那个 PR 就算直接合并,也是打到旧代码上、且会冲突。

    我核实了当前 master 确实还有这个坑

    拉了最新 master(fadfcdd, v0.1.84)看 src/loop/core.ts:仍然是 MAX_LOOP_ROUNDS = 10,没有任何重复检测,注释里甚至明写 "MAX_LOOP_ROUNDS bounds runaway loops"。所以小模型同参数重复失败,在线上版本里照样烧满 10 轮真实 upstream 调用。

    我刚做的:把修复 rebase 到当前 master 并重新验证

    修好了什么 vs 还剩什么

    • 修好(PR fix: break the small-model same-parameter compress failure loop early (#156) #370 合并 + CI 发布后):"烧满 10 轮"这个症状——同参数重复失败的 compress 会在第 ~2 轮提前优雅结束,每个卡住的会话省下约 8 次注定无效的 upstream 调用。
    • 仍然存在(模型能力问题,proxy 修不了):issue 的第 2–4 点(幻觉 ref 如 m00526、记不住数值约束如 min 50 字符 / min 5000 字符、tag echo)。~2B 模型依旧产不出合法的 compress 输出;我的修复只是不再为注定失败的相同重试浪费 upstream 调用,并不会让压缩本身成功——如果模型完全给不出合法输出,会话会提前优雅结束,而不是失败 10 次后才结束。

    下一步

    合并 PR #370(仅人工操作)→ CI 自动发布到 npm → 升级用户即获得"提前断"行为。另:E2E(tests/e2e/e2e-codex.test.ts)在我这边跑不了(环境里没有 codex 二进制、也没有本地上游),合并前请跑一次 E2E 或手动触发 CI e2e 确认。

    PR:#370

  5. added a commit that references this issue on Sep 6, 2026
  6. added a commit that references this issue on Oct 30, 2026
  7. added a commit that references this issue on Oct 30, 2026
  8. added 2 commits that reference this issue on Oct 31, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    bugSomething isn't working

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions