Skip to content

Compression fails in long sessions while new sessions work fine | 压缩失败.新会话反而没事 #3397

Description

@ranxianglei

image.png

billion-context-log (3).txt


Mirrored from ework issue #3397

Activity

  1. ranxianglei commented on Oct 16, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    查重: 不重复。 检索了 open+closed 的「压缩失败 / unknown ref / stale-ref / persona fork routing / digest drift」相关条目:最接近的是 #1029(已关,stale-ref 报错的 UX 措辞修复——那些修复在你的 0.1.197 里已经存在,截图里那段诊断文案就是证据)、#2146(已关,dsh 压缩失败死循环)、#847/#119(更早的压缩失败循环)。本次是新的机制家族,不与它们重复。

    版本定位: 日志全程 v0.1.197(不用再提供版本号)。

    初步分析(代码路径还在核实中,先同步方向):

    • 你的主对话的压缩状态其实都积累在 session-86dd…|sub:722d… 这个 fork 会话里(日志 01:56 有一次 compress 就在它上面成功,9 个 active blocks);另一个 |sub:1ee4… fork 是 dsh 每次工具调用都会打的高频单消息 sidecar 会话。
    • 01:43、02:05 两次 compress 被 bili 路由到了高频 sidecar([Bug] dsh 会话反复 model/provider 切换时主对话迁移到 |sub:<fp> persona fork,宿主盖章的 compress/decompress/acp_status 仍解析在陈旧父 id —— ref 跨空间不可解析直至熔断 #2601 无 witness 兜底按「最近活跃」挑 fork,sidecar 每几秒一发,永远赢)→ 老 refs 对它全 unknown → 失败。这部分是路由错。
    • 更严重的一条:01:59、02:01 日志里有两次 proxy 重启。persona 锚点是进程内存,重启后主对话落回了原始 key,而此前积累的 refs/blocks 全留在 |sub:722d 上 → 旧 refs 永久失效,凡引用它们的 compress 必挂。这解释了「长会话越用越坏、新会话反而没事」。
    • 另发现一个独立信号:日志多次出现 [storage] unified shadow DIGEST DRIFT … migration parity broken(你开了 BILI_STORAGE_UNIFIED)。这是存储迁移层的另一面,我会评估它与本 issue 是否同根,还是单独立项。

    继续挖代码确认机制后提修复 PR。

  2. changed the title [-]压缩失败.新会话反而没事[/-] [+]Compression fails in long sessions while new sessions work fine | 压缩失败.新会话反而没事[/+] on Oct 16, 2026
  3. ranxianglei commented on Oct 16, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    已定位并修复,PR:#3405 (Closes #3397)。按八问汇报:

    1. 是什么问题
    长会话的压缩调用永久失败(日志里反复出现 every ref is unknown to this session / All requested refs are above this session's highest ref (m00313)),而新会话一切正常。你的 v0.1.197 日志里其实是两个机制叠加成同一个症状。

    2. 什么原因导致的

    • F1(根因)— 重启竞态把累积的压缩状态弄丢了。 会话身份解析器记录的骨架(skeletons)只存在进程内存里。每次代理重启都会重跑一次冷启动竞态:谁先到达宿主 id(主会话,还是带自己 system 的浅层 sidecar 请求——dsh 的自动审查 blob 就属于这类),谁就认领 raw key,而且赢家会在重启之间翻转。主会话输掉后,它之前在自己 |sub: 通道上积累的全部 refs/blocks 都留在旧 key 下;重启后它在近乎为空的 raw key 上跑,重发的历史引用的却是孤儿代里的 ref → 每次 compress 都必然失败。新会话没有孤儿状态,所以没事。
    • F2 — [Bug] dsh 会话反复 model/provider 切换时主对话迁移到 |sub:<fp> persona fork,宿主盖章的 compress/decompress/acp_status 仍解析在陈旧父 id —— ref 跨空间不可解析直至熔断 #2601 的无见证跟随追上了最活跃的 fork。 宿主戳的管理调用解析到过期父级且没有出站见证时,代码选「最近活跃」的 |sub: 后代。dsh 的审查 persona 每几秒发一次,owner 会话却在空闲,于是跟随落到 sidecar 的小 ref 空间上(日志 01:43:24、02:05:24 都路由到 …|sub:1ee4…,最高 ref m00313、0 blocks → 失败;01:56:51 走见证路由到 owner → 成功)。

    3. 影响范围与严重程度
    触发条件:插件模式 + 宿主在多个 persona 间复用同一 id + 存在高频 sidecar 请求(典型即 dsh)+ 会话活跃期间发生过代理重启。严重度:受影响会话的压缩能力完全不可用——对话本身还能继续,但上下文只增不减,直到用户重置会话;不波及新会话、不波及其他客户端形态。

    4. 怎么修复的

    • F1:把解析器记录的骨架持久化到 <state>/billion-context/session-order.json(复用 prefix-affinity 的既有机制:防抖原子写+fsync、与磁盘合并时新者胜、LRU+字节预算、启动 hydrate、关机/进程内重启 flush)。tag 比较改用 sha256 哈希,记录体积与 system 文本长度解耦。解析从此跨重启稳定:主会话保住自己的 key,sidecar 保有自己的通道。
    • F2:管理调用的参数里引用了 ref(mNNNNN)时,优先跟随「铸号空间装得下这些 ref」的后代;没有引用或没有命中时保持原最近活跃选择(与旧行为逐字节一致)。内容无关、无逐客户端特判。

    5. 是否有回归问题
    审过的既有行为:resolver 语料(#2944 全套)、persona lineage(#2601)、dsh 指纹/连续性、跨线 fold(#2817)、affinity 持久化——定向 48 个测试全绿,typecheck/build 干净,全量以 CI 为准。fork 通道 key 字节兼容(fp16 不变);未引用 ref 时路由行为与之前完全一致;持久化失败仅告警不落错(best-effort,与 affinity 同一纪律)。无 fail-fast 变吞错、无阈值/时序漂移。

    6. 是否破坏缓存
    不涉及。prefix cache、重试、去重键均未触碰;prefix-affinity 链写入逻辑未改。

    7. 是否改了设计方向
    没有转向。只是在既有的 persona-lane 设计上补了一块缺失的持久化地基,用的正是 #1724/#1834 已经验证过的那套落盘纪律。

    8. 是否引入了新的配置
    无新配置/env/CLI 面。新增一个自管理的状态文件 session-order.json(删掉它只是回到修复前的行为)。

    行为变更披露(旧→新):① persona/conversation key 解析从「每次重启由冷启动竞态决定(赢家可能翻转)」变为「跨重启稳定」;② 管理调用兜底路由从「最近活跃后代」变为「引用了 ref 时按 ref 空间适配选择,否则不变」。

    另:你日志里还有 5 次 [storage] unified shadow DIGEST DRIFT … migration parity broken(你开的是 shadow 模式,目前仅遥测、不影响读路径)。这是不同症状+不同机制(统一存储迁移一致性),已单独立项跟踪:#3407

    合入判定:定向验证齐全、行为变更已披露、diff 收敛(6 文件 +551/−23,全部服务本 issue),可合入;全量回归等 CI 绿即可。

  4. added a commit that references this issue on Oct 20, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    bugSomething isn't workingp2

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions