Repository navigation
Conversation
(ai: vllm-qwen/qwen3.8-27b) 查重:不重复。按失败签名 + 机制检索 open/closed issue 与 PR,同族但机制不同:#4765(bounded session loading / lazy fields,懒加载而非 release 折叠)、#4888(retire superseded msg_id generations,存储去重)、#4761(web blocks-pane preview fallback,UI 回查)、#3024(fork adoption 409,fork 采纳)。本 PR 是 #3050(R3 ②a 标签:bug + p1 + scope/storage(沿用既有 pr)。理由:长会话堆耗尽崩溃属可用性缺陷(p1);改动落在会话驻留内存 + 统一存储持久化语义(scope/storage)。 判定:拦下,不建议按当前形态合并。 一句话:这个修法把一个「顺序敏感」的操作当成了「顺序无关」的操作。#3050 R3 ②a 的折叠之所以安全,前提是「一次 save 已经把原始尾部摄入统一存储之后」才折叠;本 PR 把折叠挪到 结构化八问
其它发现(次要,合并前须一并处理)
建议的正确修法(疏,非堵):真正缺口是「去抖 save 路径从不折叠」。应让折叠发生在成功 save 摄入原始尾部之后,而非挪进
我不擅自替你重构这块:它落在 storage 语义(human-gated),且正确形态需在 C/A 间拍板。你确认方向后我可以直接按选定方案实现并补 round-trip 回归钉。 合并判定:拦下。 目标(OOM)成立、方向(idle 折叠)正确,但当前实现违反 #3050 R3 ②a 的「先摄入后折叠」不变量,引入持久化数据丢失回归,且现有测试无法兜底;请按 C/A 之一重做。 |
(ai: vllm-qwen/qwen3.8-27b) |
(ai: vllm-qwen/qwen3.8-27b) CI 红诊断 + 处置完成(本车道 attempt 2/2,末轮) 查重: 不重复——本轮三片红与 master 自身红同签名(#5144/#5140 家族,#4599 floors 486–487 已有在档记录),与任何在途修复项不重复;处置走既有「收敛到常驻分支」路径。 诊断: 三个分片的唯一失败全部是同一 subtest 处置(按 CI 协调政策): 已把 upstream/master@a8c907dd5 + upstream/ci-fixes@cf99d935f 合入 PR 分支,零冲突(分支同步点之后 master 未触碰 persist/session/plugin-fork 文件),本地 typecheck + build 绿,推送 23420cb,CI 重跑中(快车道已绿)。注意:ci-fixes 目前不含该 flake 本身的修复(它是间歇性负载时序竞态);若 23420cb 上同签名再红,属哨兵/master 侧事项,本 PR 不再自行排查。 另一件与本次 CI 无关的阻塞: 本 PR 的审核结论仍是拦下——其折叠时机违反 #3050 R3②a「先摄入后折叠」不变量,加载高时该轮新增内容不会进统一存储(数据丢失窗口,p1 类)。修法方向需 owner 拍板,已单独立项:#5190(decision request,选项 A vs C,推荐 C)。拍板后由我在本分支内闭环重构。 结构化八问
判定: 本车道收工(继承红已按政策处置,attempt 2/2 末轮)。PR 自身阻塞项 = #5190 待 owner 拍板,拍板后在本分支闭环重构。 |
Problem
Under long-running client sessions with large raw transcripts (e.g. 5,000+ messages / ~11 MiB incoming request payload), Billion-Context can crash with V8 heap exhaustion:
Root Cause
While
#3050 R3 ②a(foldResidentTail) intended for idle sessions to keep only the bounded folded view resident in memory (lastMessagesFolded), this pruning was only called during asynchronous disk persistence (saveNow/debounceMstimer /flushSync).When requests arrive in continuous succession or between persistence windows,
session.lastMessagespermanently pins the incoming multi-megabyte unpruned AST object graph in RAM across turns. Multiple subsequent turns cause garbage collection thrashing near the 2048 MB heap ceiling.Solution
releaseInFlight(session)(src/session.ts), whensession.inFlight === 0, immediately foldsession.lastMessagesto its bounded view viaboundedFoldedSnapshot(session).global.gc()if exposed (--expose-gc) when releasing in-flight markers to collect request allocations promptly.boundedFoldedSnapshot(session)fromsrc/persist.ts.tests/bounded-storage.test.tsverifying that completing an in-flight request foldslastMessagesand markslastMessagesFolded = true.Verification
node --import tsx --test tests/bounded-storage.test.ts-> 12/12 pass).breakdown.lastMessagesdropped from 35.6 MiB to 217 KiB.