Skip to content

标题生成等侧请求污染主会话状态:prepareAnthropic 缺 isTitleGen 守卫、快照无条件覆盖、survivedCount 每请求空转 #388

Closed

Description

@wosnxn123

症状(2026-08-31 取证)

主会话(60 条消息)旁发了一个 title-gen 侧请求(≈2 条消息、56 token)后,acp_status 报告被置换为该侧请求的视图(56 text (100%),与主会话 ~124K token 的真实量完全无关)。注册表里 stats.requests:20 却 inputTokens:6——usage/contextTokens 被侧请求反复锚死。

根因

  1. 快照无条件覆盖:server.ts:1214(dist 56200)对每个转发请求(含标题生成/子代理等侧请求,同一 session key 命中即覆盖)执行 rememberPluginMessages(...)(plugin.ts:175-181),acp_status 读的就是这份"上次 prepare 的视图"(plugin.ts:411,dist 53881)。isTitleGen 判定其实存在(server.ts:1396)但只用于工具注入,从不守卫快照。
  2. anthropic 路径缺守卫:prepareAnthropic 没有 isTitleGen 短路(prepareOpenai 有)→ 侧请求也走 processTurn:assignRefs(dist 45601,ref 永久增长)、advanceSurvival(state.ts,dist 43836-43845,每请求给每个块 survivedCount++,推进块老化/generation 迁移)、session.stats.contextTokens = tokenCount(dist 56277)重写 nudge 基线(compress.ts:1082-1095)——一次 56-token 侧请求就能压制或伪造下一轮主轮的压缩提示。
  3. snapshotMessages 只在非空时覆盖、永不清空(dist 50039 if (messages.length > 0))→ 陈旧视图可被永久钉住(波及 bili export dist 62516 与持久化记录 dist 49873)。

建议修复

所有协议统一识别侧请求(isTitleGen 或 max_tokens <= 阈值 等启发),对其只转发:不 rememberPluginMessages、不 processTurn 状态变更(assignRefs/advanceSurvival/stats 均跳过),或以 side- 前缀的独立 session key 隔离。

验收标准

  • title-gen/subagent 侧请求前后,主会话 acp_status 的桶、ranges、nudge 基线、各块 survivedCount 均不变
  • stats.inputTokens 不再被 6-token 级侧请求覆盖为主值
  • bili export 的消息视图为该会话最新请求,而非冻结的旧快照
  • 回归测试:混合主/侧请求流,断言内核 state 单调仅由主请求驱动

Activity

  1. ranxianglei commented on Aug 31, 2026

    @ranxianglei
    Owner

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    [bot] 🏷 收到,正在处理。已确认三处根因:

    1. 快照无条件覆盖:server.ts 对每个转发请求(含侧请求)都调用 rememberPluginMessages,acp_status 读的正是这份视图 → 被 title-gen 的小消息覆盖。
    2. anthropic 路径缺守卫:prepareAnthropic 没有 isTitleGen 短路,侧请求也走 processTurn → assignRefs/advanceSurvival/stats.contextTokens 全部被污染。
    3. snapshotMessages 只在非空时覆盖 → 侧请求把主会话视图钉死,波及 bili export 与持久化记录。

    修复方案:统一识别侧请求(max_tokens <= 200 启发,与现有 isTitleGen 阈值一致),对其走纯透传——不 processTurn、不 rememberPluginMessages、不 snapshotMessages、不采集 usage,内核状态完全不动。稍后提交 PR + 回归测试。

  2. ranxianglei commented on Aug 31, 2026

    @ranxianglei
    Owner

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    [bot] 🏷 已修复,PR: #398

    根因确认(与你取证一致):

    • rememberPluginMessages(...) 对每个转发请求无条件执行,而 acp_status 读的正是这份"上次 prepare 视图"。
    • anthropic / openai / responses 三条路径都缺侧请求守卫 → 侧请求也走 processTurn(assignRefs / advanceSurvival)、重写 session.stats.contextTokens(nudge 基线)、snapshotMessages。
    • isTitleGen 只守卫工具注入,从不守卫快照/状态。

    修复(src/server.ts):

    • 新增 isSideRequest(parsed):输出预算极小(max_tokens / max_completion_tokens / max_output_tokens ≤ 200,与 prepareOpenai 的 isTitleGen 同阈值);缺失/非正数预算永不判为侧请求。
    • handle() 中,侧请求(非 count-tokens、非 responses-compact)走纯透传(forward 传 prepared=null):不 processTurn、不快照、不采 usage、不改 stats、不 rememberPluginMessages。主会话内核状态只由主请求驱动。

    回归测试 tests/side-request-isolation.test.ts:

    • isSideRequest 单测(各协议字段名、边界 200/201、非对象/字符串/0/负数)。
    • e2e:主请求1(大 max_tokens)→ 断言内核状态变更;侧请求(小 max_tokens)→ 断言 state / stats / snapshot / nudge 基线 / requests 逐字节不变;主请求2 → 断言状态单调推进。

    验收标准对照:

    • ✅ 侧请求前后主会话 acp_status 桶 / ranges / nudge 基线 / 各块 survivedCount 不变(state 逐字节比对)
    • ✅ stats.inputTokens / lastInputTokens 不再被 6-token 级侧请求覆盖(断言 lastInputTokens 保持主值)
    • ✅ bili export 视图不再被冻结旧快照钉住(断言 lastMessages 不变)
    • ✅ 混合主/侧流,内核状态单调仅由主请求驱动

    pre-flight:typecheck clean、870/870 测试通过、build OK。E2E codex 套件本地跳过(环境无 codex 二进制 / 本地 Responses upstream),CI 会跑。

    另注:launcher-plugin-mode 测试用了不真实的 max_tokens:10(与新启发式冲突),已改为 8192——这些测试验证的是绑定行为,不是预算处理。

    PR 待人工合并(CI 会在合并后自动发布)。

  3. added a commit that references this issue on Sep 4, 2026
  4. ranxianglei commented on Sep 4, 2026

    @ranxianglei
    Owner

    修复在 PR #398,已完成二次 review 并彻底修复(review 评论:https://github.com/ranxianglei/billion-context/pull/398#issuecomment-5534842156)。

    要点:原「纯透传(prepared=null)」方案会丢失 #460 的 title-gen 标签剥离(真实用户报告过的回归),现已改为最小 Prepared + sidePassthrough 标志 —— 侧请求仍走 strip 管道(响应卫生),但 preflight / fake-completion 重试 / compress loop / usage 采集全部跳过,内核状态零触碰。

    四条验收(状态逐字节不变 / usage 不被覆盖 / export 视图不冻结 / 混合流回归测试)均由 tests/side-request-isolation.test.ts 钉死,1030/1032 全绿(仅 2 个已知环境失败)。等合并后随下一版本发布。

  5. ranxianglei commented on Sep 4, 2026

    @ranxianglei
    Owner

    🤖 ework agent · qwen3.8-27b

    [bot] 🏷 已拉取最新分支(HEAD 8b88162,含 master 合并至 v0.1.82)并复核代码 + 本地跑通 pre-flight。

    方案确认:owner 的二次修订正确且必要。我最初的「纯透传(prepared=null)」确实会跳过 forward() 里的 #460 render-tag strip 管道——侧请求(标题生成)响应里若回显历史 render tag,会漏到客户端并经其重放放大,正是 review 抓到的回归。改为最小 Prepared { sidePassthrough: true, processedMessages: [], compressInjected: false } 后:

    我的 pre-flight 结果:

    四条验收(状态逐字节不变 / usage 不被覆盖 / export 视图不冻结 / 混合流回归)均由 tests/side-request-isolation.test.ts 钉死,复核通过。可合并;CI 会在合并后随下一版本自动发布。

  6. ranxianglei commented on Sep 4, 2026

    @ranxianglei
    Owner

    已随 PR #398 修复并发布在 v0.1.83(npm 已验证)。

    最终方案(在原 PR 基础上重做):侧请求不再走 prepared=null 纯透传,而是构造最小 Prepared 并标记 sidePassthrough: true——渲染标签剥离管道照常运行(#460 契约保持:标题生成流回显的 <acp> 标签仍会被剥),同时 fake-completion 重试显式跳过、压缩循环永不进入、内核状态零污染。

    预检:typecheck ✅,npm test 1030/1032(2 个已知环境失败,基线不变),build ✅。

    如在新版本上仍能复现污染,请重开并附日志。

  7. LessXi commented on Sep 25, 2026

    @LessXi

    关联补充:#1307

    #388 / PR #398 的侧请求隔离(isSideRequest(),判据为「输出预算 ≤ 200」)在同族问题上仍然有一个缺口,在这里补一条链接:

    现有 tests/side-request-isolation.test.ts:27 的 assert.equal(isSideRequest({ max_tokens: 8192 }), false, "normal budget is not a side request") 把「正常预算即主请求」这条假设固化成了期望行为,可以作为这个缺口的锚点。详细复现、A/B 端到端实验与两种修法见 #1307。

  8. 19 remaining items

  9. added 3 commits that reference this issue on Oct 27, 2026
  10. added a commit that references this issue on Nov 5, 2026
  11. added 2 commits that reference this issue on Nov 6, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    bugSomething isn't workingp1

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions