Repository navigation
Description
Description *
问题摘要
在 Windows 上通过 bili Proxy mode 使用 Codex Desktop 的长会话中,bili v0.1.201(storage 模式为 shadow)反复记录 unified replay 与 legacy load view 不一致,并清除 ingest watermark。日志明确说下一次保存会重新 ingest full tail:
[storage] unified shadow DIGEST DRIFT for <session>: unified replay != legacy load view — dropped the ingest watermark, the next save re-ingests the full tail
我确认的是日志和恢复路径所描述的行为;尚未定位具体哪种消息/写入形态触发了 digest 差异,也不能证明缓存下降完全由此导致。
环境
- bili v0.1.201,commit ff42dcc;Node v24.20.0
- Windows 10 x64,OS build 19045
- 客户端:Codex Desktop(当时未记录精确客户端版本)
- 使用模式:Proxy mode;复现时未设置 storage.unified,运行状态为 requested/effective=shadow,degraded=false
- 上游/模型:cc-switch 管理的 relay,模型 gpt-6.1-sol;为避免泄露,未附上游主机名
- 相关设置:BILI_CODEX_COMPACT=intercept;compress.preserveRecentMessages=1;compress.promptPack=lean
观察到的步骤
- 在上述环境以默认 shadow 模式运行 bili,并将 Codex Desktop 请求经 Proxy mode 转发。
- 在持续多轮、包含压缩/折叠的长会话中正常使用并保存会话。
- 检查 bili.log,观察到上述 DIGEST DRIFT 警告。在切换存储模式前,日志中累计有 28 条该类记录(跨观察到的会话);尚未找到确定、可稳定触发的最小复现步骤。
- 作为诊断绕过,在启动器中设置 BILI_STORAGE_UNIFIED=legacy 并重启。运行状态随后显示 requested/effective=legacy;此后没有新的 shadow DIGEST DRIFT 记录。这个结果只说明 legacy 绕过了该 shadow 对账路径,不证明根因已修复。
预期与影响
期望 shadow 对账能区分真实状态差异与比较口径差异;如果是实际漂移,恢复应收敛并使后续保存稳定,而不是反复丢弃 watermark、全量重灌。实际日志显示 watermark 被清除且下一次保存重灌 full tail,可能改变发往上游的历史前缀。
缓存影响仅为相关性证据:切换到 legacy 前,活动会话的一段 29 次请求统计为 input=2,957,102、cached=1,171,023(39.6%),其中有 0% 命中请求,也有后续 70% 以上命中。上游缓存 TTL/中转节点、系统提示变化及 fold 重建也会影响结果,因此我不能把这组低命中率单独归因于 DIGEST DRIFT。另有 fold coverage mismatch 告警,但未证明它与本问题同源。
与已有问题的区别及版本说明
- unified shadow storage digest drift on long dsh sessions (telemetry-only) | 统一存储影子模式摘要漂移 #3407 处理的是 blockContents Map 插入顺序导致的 false-positive parity digest;PR fix: shadow parity digest compares blockContents by content, not Map insertion order #3423 的修复已合并。本机 v0.1.201 source map 中,digest 两侧均使用 orderedBlockContents(...),所以本次现象看起来不是该 Map 顺序问题。
- [bug] Fold anchor detaches after host restart (parent-gone): hydrated and unified-shadow DIGEST DRIFT within the same second, gap solidifies without self-healing (0.1.197, complementary to #3013 restart path) | [bug] 宿主重启(parent-gone)后 fold 锚点脱锚:hydrated 与 unified-shadow DIGEST DRIFT 同秒,缺口固化不自愈(0.1.197,与 #3013 重启路径互补) #3285/fix: 重启交接后 unified 存储跨进程污染固化(DIGEST DRIFT 永不愈合)— #3285 #3288 处理 parent-gone 重启交接时跨进程继承 watermark/残留消息行的问题,并记录为 v0.1.198 已发布。本次日志尚未建立与进程重启的关联。
- 198-master Post-release Follow-ups | 198-master 发版后拾遗 #3559/Reaped blocks resurrect after restart in full mode: stale index row outlives the #2695 reap and poisons the JSON envelope #3841 讨论的是 full 模式下的 blockContents/orphan 行问题;本次观察发生在 shadow 模式。
- 截至 2026-10-20,npm registry 的 latest 为 0.1.202。我尚未在 0.1.202 上做运行时复测;仅静态检查过候选包,其中仍可见 drift 时清除 watermark 的逻辑。因此请将 v0.1.202 的实际复现状态视为未验证,而不是已确认。
能否确认这是否是上述修复之后仍存在的独立 shadow digest-drift 路径?如果需要最新版本上的运行时复现,我可以按建议补测;也欢迎指出应附加哪些无敏感信息的诊断数据。
bili version *
0.1.201 (commit ff42dcc; Node v24.20.0)
Usage mode *
Proxy mode (client manually points its base URL at bili)
Client and version *
Codex Desktop (exact version not captured)
Operating system *
Windows 10 x64 (Windows_NT 10.0.19045, build 19045; not WSL2)
Upstream and model *
cc-switch-managed relay (upstream hostname redacted), model gpt-6.1-sol; Codex metadata reported 1,050,000 tokens, while bili logs showed a 272,000 clamp and 204,000 preflight window
Compression-related config (optional)
At reproduction: storage.unified unset (effective shadow); BILI_CODEX_COMPACT=intercept; compress.preserveRecentMessages=1; compress.promptPack=lean. Diagnostic bypass after reproduction: BILI_STORAGE_UNIFIED=legacy (current runtime).Log excerpt (strongly recommended)
2026-10-20, bili v0.1.201; session IDs and upstream host redacted:
[storage] unified shadow DIGEST DRIFT for <session>: unified replay != legacy load view — dropped the ingest watermark, the next save re-ingests the full tail
28 such entries had accumulated before switching to legacy. The last observed entry was 2026-10-20T03:02:14.623Z.
Pre-bypass active-session summary: 29 requests, input=2,957,102, cached=1,171,023 (39.60%); included 0% and later >70% hits. Cache causality is not established.
/acp or acp_status output (optional)
Activity
ranxianglei commentedon Oct 20, 2026
(ai: vllm-qwen/qwen3.8-27b)
查重: 不重复 —— 与 #3407、#3285/#3288、#3559/#3841 同属「DIGEST DRIFT」症状家族,但触发机制与三者都不同:#3407 是 blockContents Map 插入顺序(你的构建已含 #3423 修复,我对照 v0.1.201 源码确认两侧 digest 都走了 orderedBlockContents);#3285/#3288 需要进程重启交接做前置条件(你的日志无重启关联);#3559/#3841 发生在 full 模式(你在 shadow)。保持打开,继续 triage。
标签: bug / codex / scope/storage / p2(缺陷类;涉及 Codex Desktop;统一存储对账路径;p2 而非 p1——shadow 模式下不影响会话可用性与出站字节流,代价是 CPU 开销 + 日志噪音)。
代码层验证结论(逐行核对你运行的 v0.1.201 = ff42dcc)
src/storage/ingest.tsplanIngestDelta 注释:"Interior edits BELOW the boundary are the watermark design's accepted trade-off … the sampled verify digest is the backstop")。于是:两次保存之间历史里某条老消息被改写 → delta 放行 → 采样对账抓到 → 清 watermark → 下一次保存全量重灌 → 收敛。你看到的就是这个兜底在反复工作,它每次事件后都正确自愈了(分歧窗口 ≤20 次保存)。疑似触发源(需要你机器的数据确认)
delta 路径漏检的形态是:旧消息被改写、且改写位置在边界槽位之下、边界槽位本身没变。你的环境里按可能性排序:
BILI_CODEX_COMPACT=intercept 本身不是直接触发源:compaction 事件会让 tail 整体变短,走的是安全的全量 ingest 路径;伪造的 handoff 消息用内容派生的稳定 id,跨请求字节稳定。
请补充的数据(均不需要敏感信息)
我会做的事(无决策依赖,立即开工)
现在日志只说"有差异",不说"差异在哪",现场诊断只能猜。我会:
回归测试随 PR 一起出,PR 链接稍后贴在这里。
sunguangchao1 commentedon Oct 20, 2026
按你列的四项补充本机证据。所有时间均为 UTC,下文 S-A~S-D 是稳定的会话代号,已移除真实 session/request ID、上游主机、密钥、请求头、本机路径和对话/工具输出正文。未上传原始日志、rollout 或数据库。
先更正原报告的影响判断:同意 shadow 是写镜像,清 watermark / full-tail re-ingest 本身不能证明出站字节被改写。先前的缓存命中率只是同时段观察,不能据此认定 shadow drift 导致缓存下降;下面只报告一致性事件和时间关系。
本次重新扫描保留的
bili.log.old与bili.log,仅计实际带时间戳、error 等级、session/version 标签的 storage DIGEST DRIFT 记录,排除正文/工具输出中引用的日志。共 28 条,全部在轮转后的 old 文件;当前文件 0 条。原 issue 写的“最后一次 03:02:14.623Z”是较早截取的时间;重新扫描后,实际最后一条是 2026-10-20T03:20:10.076Z。
能够确认同一会话反复漂移,不能从这批日志确认连续两次 sampled verify 都失败。 v0.1.201 的成功采样只递增内存
verifyOk,没有对应成功日志;失败记录也不包含该会话的 ingest/sample 序号。因此中间可能有成功采样,既不能把相邻错误当作连续失败,也不能据现有记录确认每次都已自愈。切换 legacy 时代理已重启,原 shadow 的内存计数无法从当前 status 恢复。28 次事件的完整时间列表(仅会话代号与时间)
选取 S-D / 2026-10-20T02:42:03.855Z。下面覆盖原始窗口的 -50~+50 行(共 101 行),保留 19 条相关结构日志;其余 82 行为隐私最小化而省略,并逐段保留行偏移/行数,不冒充连续原始全文。偏移 0 为 drift。
可见 drift 之前已有 nudge、preflight fold、16 个 covered ID 缺失的 reconcile/coverage 告警;之后又一次 fold,缺口仍是 16。这里的同现关系不证明两者同源。
脱敏日志窗口(偏移 -50~+50)
只解析了与这四个会话 ID 关联的 8 份本地 rollout JSONL;完整 JSON.parse,没有解析失败,仅提取事件类型、时间及版本字段,不公开 payload 正文。观察窗口为 2026-10-19 起。
另有一处值得核对的不同信号:S-D 首次 drift 前 771 ms,bili 自己检测到 native auto-compaction,但已检查的该会话本地 rollout 没有同一时刻的顶层
type:"compacted"。不能据此补造一个 rollout 事件或断言原因:因此,S-D 后面的 6 次 drift 也不能简单等同于 6 次 rollout compacted 事件。
compacted类型本身也不足以区分手动/自动触发。版本补充:关联 rollout 的
session_meta标记originator="Codex Desktop";较新的文件记录cli_version=0.162.0-alpha.17.2/0.163.0-alpha.10.2,较老文件创建时为 0.140.0-alpha.2 / 0.142.2 / 0.144.2。它们是文件元数据,不能当作每次 drift 当时的桌面应用精确版本。cc-switch 保留日志覆盖 2026-10-19 02:28:46Z~2026-10-20 09:10:40Z;其中 02:50:22Z 起的 1,104 条“请求目标”记录使用同一个目标 URL 字符串(主机不公开)。排除“CC Switch started”启动横幅后,未检出明确的切换/故障转移事件。这只能说明本机日志未证明切换,无法看到中转服务内部的账号/节点调度,也不能证明没有隐式轮换。 历史消息是否在 UI 被编辑,现有日志也无法可靠判定。
这是绕过后的当前状态,不是出错时的 shadow 计数;2026-10-20T03:35:49.862Z 已重启并切为 legacy,本次未再改配置、切 full、升级或重启。
{ "capturedAt": "2026-10-20T09:11:13.2391166Z", "version": "0.1.201", "diskVersion": "0.1.201", "stale": false, "inFlight": 1, "storage": { "requested": "legacy", "effective": "legacy", "degraded": false, "intentionalOptOut": false, "reason": null, "engine": null, "bootstrap": "not-needed", "bootstrapFailure": null, "cooldownRemainingMs": null, "sidecarDisabled": false } }当前
storage对象没有verifyDrift/lastError字段,所以上面没有把它们写成 0/null 冒充历史值。运行模式与历史保存的 session metadata/面板标签也需区分。目前最缺的是你计划增加的“首个分叉维度/槽位”和“每会话连续采样结果”证据。现有资料支持重复发生及压缩/coverage 告警同现,尚不足以判定是边界以下内容改写、比较口径差异,还是连续不收敛。请据此继续 triage。
ranxianglei commentedon Oct 20, 2026
(ai: vllm-qwen/qwen3.8-27b)
谢谢——四组数据把判断往前推了一大步。先说结论,再说已提交的修复,最后是需要你下一轮补采的内容。
你的数据确立了什么
codex local auto-compaction detected (92/355 covered ids retained) — rebasing ACP state onto the compacted history (#2372)之后 771 ms;而 S-D 后续 6 次漂移都不紧邻任何 rollouttype:"compacted"事件。这个形态与「Codex Desktop 在本地 auto-compaction / 上下文管理时原地改写旧消息,随后 bili 保存」一致,但单独还不足以定案。关于你的原始问题:是,这是 #3407/#3285/#3288 修复之后仍然存在的独立路径(首条回复已给对照),本轮工作就是给它装上诊断并关掉其中一个具体窗口。
已提交修复:PR #3948
#3948 (Related: #3919;issue 不关闭,等下一轮运行时数据)
两部分,各补一个上面的缺口:
(repeat: ...)标记——「连续不收敛」从此在日志里直接可见。行为变更披露(旧值→新值):
[diverged: lastMessages; tail slot 0: expect h_msg0/user len=67 sha=e24a6f57, got tampered/user len=70 sha=c18830b2])及可能的(repeat: ...)标记;原行前缀逐字节不变,现有 grep 不受影响。下一轮采集(等含此 PR 的版本可用后跑一次)
BILI_STORAGE_UNIFIED=shadow。[diverged: ...]取证与可能的(repeat:)标记),外加/__bili/status输出——新构建的 status 已有verifyDrift与driftedSessions字段(v0.1.201 没有,不用补造)。判读标准(可先自查):
(repeat:)标记 → 连续不收敛,恢复路径有缺陷,按 bug 处理。结构化八问
收工判定:本 issue 保持打开;PR #3948 待 CI 与人工审核;合入后请按上面步骤跑一轮并把新日志行发来,届时对「按设计触发 vs 真实缺陷」下最终结论。
ranxianglei commentedon Oct 20, 2026
(ai: vllm-qwen/qwen3.8-27b)
进度同步(无新的技术结论,仅 CI 状态):
test (windows-latest, node 22, shard 2)。失败的是tests/dsh-native.test.ts的#2604: a failed title POST re-arms the dedup so the next event retries——等 retry POST 等到 15 秒超时(timeout waiting for retry POST)。判定为环境时序抖动而非本 PR 回归,依据:①同一提交下该测试在其余矩阵格(ubuntu ×3、windows node-24)全部通过;②该测试属于 dsh 标题推送去重路径,与本 PR 改动的存储层(src/storage/{ingest,shadow,store}.ts)无交集;③同文件相邻的另外三个 面板会话名与 DSH 实际会话名不一致(hostTitle 通道未覆盖 DSH 车道) #2604 用例在同一 run 里全绿。对本 issue 本身没有新增待办:仍然等包含 #3948 的构建上、shadow 模式复现后附上的新 DIGEST DRIFT 日志行(现在会带
[diverged: …; tail slot N: …]取证后缀和(repeat: …)标记),那组数据用来区分「边界下内容改写 / 比较口径差异 / 连续不收敛」三种假设。ranxianglei commentedon Oct 20, 2026
(ai: vllm-qwen/qwen3.8-27b)
最终 CI 结论(接上一条进度同步):
39404045527(PR [PR] storage: shadow DIGEST DRIFT now names the diverged dimension and slot; prefix rewrites fail soft at the delta boundary #3948 的 CI workflow,head0dd6f221f)全部 job 绿——19 success + 1 skipped(red-signal,仅在测试失败时运行)。先前红的test (windows-latest, node 22, shard 2)本次通过,与「一次性时序抖动」判定一致。状态:PR #3948 代码定稿 + CI 全绿,等待人工 review 与合并(合并由人操作:https://github.com/ranxianglei/billion-context/pull/3948)。
issue 保持打开:等包含 #3948 的构建上、shadow 模式复现后附上的新 DIGEST DRIFT 日志行(现在带
[diverged: …; tail slot N: expect id/role len sha, got id/role len sha]取证后缀,连续漂移会多一个(repeat: …)标记),那组数据用来在「边界下内容改写 / 比较口径差异 / 连续不收敛」三个假设之间定案。fix(storage): name what drifted on shadow DIGEST DRIFT and fail prefi…
ranxianglei commentedon Oct 20, 2026
Fixed by PR #3948 (merged): sampled shadow digest drift now logs a structural forensics line (first divergent row / blockContents keys missing from the replay / whether the divergence repeats), and the drift set + repeat signal are surfaced through the storage status wire for the web panel. The watermark-clear heal behavior (#3166) is unchanged. Closing as completed.
sunguangchao1 commentedon Oct 23, 2026
补充 #3948 合入后的复测结果(已脱敏,不含中转站 403):
bili v0.1.204(c87185a0),Node v24.20.0,Windows;
BILI_STORAGE_UNIFIED=shadow、BILI_CODEX_COMPACT=intercept。统计窗口为本进程启动后的
2026-10-23T02:09:44.122Z至2026-10-23T06:26:25.718Z(UTC):记录到 20 条DIGEST DRIFT,涉及 5 个脱敏会话代号;15 条带有(repeat: consecutive sampled drift — the views are not converging)。分歧字段为 19 条state、1 条blockContents,state;本次扫描的最新漂移记录时间为2026-10-23T06:24:55.536Z。同期
/__bili/status显示requested/effective=shadow、degraded=false、verifyDrift=0、driftedSessions=0(采样于2026-10-23T06:26:25.718Z)。按原 Issue 的判据,重复标记意味着连续不收敛;请确认是否应按恢复路径问题继续处理,并说明 status 计数是实时值还是累计值。此结果仅报告 shadow 存储日志,不据此推断出站内容或缓存变化。
fix(storage): align streaming digest key order with canonicalize (ran…
fix(storage): name divergent drift fields and force the full path whi…