Repository navigation
[PR] Badge slow sessions in the web panel + document the compression/host-history boundary (#5796) - #5799
Conversation
Sessions reaching SLOW_SESSION_REQUESTS_WARN (5000) model requests now carry an additive slowSession field on their summary row and render a 长会话/slow badge in the web list and overview table. Host-side history grows every turn while compression only shrinks the outbound wire, so past this point each step measurably slows down; the badge makes the 'start a new session' exit visible instead of buried in log warnings.
📦 Built Package ArtifactBranch: Latest build — install this exact versionnpm install -g billion-context@0.0.8356-pr.5799.d46165dThis exact version is immutable and reproducible. The rolling Recent builds (commit → version)
Download artifact
tar xzf billion-context-pr5799.tgz
npm install -g packageInstall instructions are refreshed on each push. |
(ai: vllm-qwen/qwen3.8-27b) 查重:不重复 —— 本线程已有且仅有一个修复 PR(GitHub #5799,分支 这是 #5796 决策请求的无决策切片(option E)——徽标 + 文档边界,不依赖 A–D 的裁决。按「识别自己的 PR」处理:没有重做,只拉分支逐行核代码 + 查 CI。 核对结果(6 个文件全读,+63/−0 纯增量,diff 与描述完全一致):
CI(镜像缓存暂无数据,单次直读 GitHub):已完成项全绿 —— 8×gate、version-guard、unused-exports、kernel-guard、lane-guard、config-surface-guard、docs-sync/coverage、lock-sync、mysql-contract、build-artifact 均 success,real-client e2e 车道按惯例 skipped; 八问:
判定:代码与测试干净、行为变更已如实披露、CI 快门全绿、回归分片收尾中且零失败 —— 无需我再改动。待 分类:[PR](特性+文档,非缺陷,不打 bug);范围 |
The zh tooltip said 已运行 {n} 轮 but the badge gate fires on the session's
model-request count (one host turn spans multiple requests, incl. retries);
word it as 已处理 {n} 次模型请求 to match the en value and the field.
ranxianglei
left a comment
There was a problem hiding this comment.
(ai: vllm-qwen/qwen3.8-27b)
注:GitHub 禁止 PR 作者账号对自己的 PR 提交正式 APPROVE(本环境唯一 GitHub 身份即作者 ranxianglei),故此评论承载完整审核结论——结论:APPROVE(可合,请人工 merge)。
APPROVE —— 独立审完方向、回归、代码、测试、diff 五关,无阻塞项。
方向关(原 issue)
#5796 的核心是「dsh 长会话宿主面无收敛通道」,该线程的决策请求把修复切成 A–E:A–D(重开宿主 compaction 触发侧 / 增量车道扩 OpenAI wire / 逃生阀 / 迁移工具)等 owner 拍板。本 PR 只交付 E(面板可见性 + 文档边界)。我逐文件核对了 diff:零触碰 dsh-native / dsh-compaction-* / server guard 的三层封锁逻辑——无决策依赖的部分先修、需要决策的部分没碰,方向成立。
回归审查(逐项既有行为)
/__bili/sessions行形状:纯增量可选字段slowSession,阈值以下不存在 → 既有消费方(列表/详情/脚本)不受影响;- 标题格渲染:
sessionTitleCell(src/web/client.ts:631)被完整列表(:721)与概览 recent 表(:710)共用,新增 span 插在 keepalive 徽标之后、row-id 之前,其余徽标逻辑未动——与 PR 声明一致; - i18n:两个新键中英齐备(parity)、均被 client.ts 引用(无死键)、en 值无汉字;
- README en/zh 插入点结构完好、双语同步;
- wire / kernel / 持久化 / 配置面:零改动;缓存、重试、增量游标不涉及。
- 行为变更(有意,已披露):面板旧行为 = 无任何显示(仅 1000 消息处一条日志 warn,我核对了 src/server.ts:4629
SLOW_SESSION_MSG_WARN = 1000)→ 新行为 = ≥5000 请求出徽标。两个阈值语义不同(日志 = 值得记录,徽标 = 值得开新会话),常量注释解释了为何刻意更高。披露充分。
代码 & 测试
- 门是命名常量
SLOW_SESSION_REQUESTS_WARN = 5000(>=语义),doc 注释给出推导(~2 host msgs/request → 5k req ≈ 10k msgs),无魔法数字; summaryOf的条件展开写法与相邻字段(contextBest / autoModeForge)同风格;requests取自 max(stats, ledger agg)(sessions-data.ts:813),来源正确;- 徽标走
t(key, { n: fmtW(...) }):t()的{name}插值(client.ts:202)与fmtW(client.ts:494)都在作用域内,escapeHtml 齐备; - 新测试走真
SessionStore.writeNow+buildSessionList(非 mock),钉住双方向 + 精确边界(6000→带计数 / 5000→>=命中 / 100→undefined)——阈值改错、语义改成>、字段形状漂移都会被它抓住,是真测试。
已顺手修
zh 文案「已运行 {n} 轮」把计量单位说错了——徽标按模型请求数触发(一个宿主回合包含多次请求,还含重试),en 值是 "requests";已改为「已处理 {n} 次模型请求」。commit 35f7bc8,已推 PR 分支;新 head 全量 CI 绿(9 个 workflow runs 全部 success,含主 CI 的 27 个 job)。注:镜像缓存当时仍残留 2 条 in_progress 陈旧条目,按规则单次直查 Actions API 核对,确认已全部完成。
八问
- 是什么问题:dsh 长会话每步越来越慢,但用户收不到任何面板提示,也不知道「开新会话」这个可用出口存在(#5796 的 E 切片:可见性 + 文档)。
- 什么原因导致的:压缩只缩「发给模型的量」、不缩宿主侧对话文件(用户数据不可改写)+ bili 活跃期 dsh 宿主自动 compaction 按设计禁用(#1772/#2474/#3354)→ 宿主面单调增长、步耗时线性上涨;既有信号只有 1000 消息一条日志 warn,面板不可见、文档未写。(根因「谁来收敛宿主面」= A–D 决策项,不在本 PR。)
- 影响范围与严重程度:所有 dsh 车道长会话用户的体验级问题(实测 ~3 万消息时单步数十秒);能用、有绕行,不影响正确性与缓存。本 PR 本身是纯增量展示层,风险 ≈ 0。
- 怎么修复的:≥5000 模型请求的会话在列表/概览共享标题格出「长会话/slow」徽标(悬浮说明原因并指向开新会话)+ README 中英文 FAQ 各一对,写明压缩做/不做什么、dsh 自动 compaction 为何被禁、实测代价形态、实际出口。
- 是否有回归问题:无(上面逐项清单)。唯一行为变化 = 面板新增徽标,有意且已披露旧值→新值。
- 是否破坏缓存:不涉及(未触碰上下文/压缩/缓存路径)。
- 是否改了设计方向:没有;三层封锁原样保留,A–D 仍待 owner 在 #5796 拍板(needs-decision 标签已在)。
- 是否引入新配置:没有;阈值是内部常量(5000 请求),不是新 knob;无 env/config/CLI 新增。
合并判定:可合(human merge)。A–D 逻辑未动,继续等 owner 裁决。
[bot] (ai: vllm-qwen/qwen3.8-27b) CI 修复进度汇报(自动修复车道 attempt 1/3): 问题:红掉的 test 是 已做:
当前状态:CI 在 |
[bot] (ai: vllm-qwen/qwen3.8-27b) CI 已转绿。
备注:分支相对最新 master 显示 behind(master 在我们 merge 后又前进了),BEHIND 不构成合并阻塞,GitHub 合并时自动收敛即可,不再追移动目标空跑 CI。可人工合并:#5799 |
📦 Merged Build PublishedThis merge to master was published as npm install -g billion-context@0.0.1051-master.e1a87a9 # this exact build
npm install -g billion-context@master # always the newest merged build
|
…thored-compaction usage, ranxianglei#5799 long-session badge docs, ranxianglei#5798 presend body parse-once, ranxianglei#5783 cold-load grace
Refs #5796 — the no-decision slice (option E) of that thread's decision request; options A–D still await the owner's ruling.
What
Two small pieces, one commit each:
SLOW_SESSION_REQUESTS_WARN, src/web/sessions-data.ts) its summary row carries an additiveslowSessionfield and renders a 长会话/slow badge (the full list and the overview recent table share the title cell). The tooltip says why: the host-side history only grows — compression shrinks what is sent to the model, not the client's own file — so each step gets slower over time, and the actionable exit is starting a new session.dsh.bundle.patch.yml禁用自动压缩在 web profile 下静默失效 #1772/fix(dsh): profile 层 patch 其实可以关掉 web profile 的原生自动压缩(#1772 结论修正)+ 一个会静默清空整个 preset 的写法坑 #2474/See how to integrate the plugin that automatically disables dsh compression. | 自动关闭 dsh 压缩的插件看如何集成 #3354), the measured cost shape (~tens of seconds per turn at ~30K messages, [feat][dsh] Long sessions have no convergence path: compaction gated off on both sides, incremental lane full-resends on OpenAI wire | 长会话没有收敛通道:compaction 双向封锁 + 增量车道全量重发 #5796), and the practical convergence path.Behavior change disclosure
SLOW_SESSION_MSG_WARN, src/server.ts). The panel threshold is deliberately higher: the badge means "worth starting a new session", not "log-worthy".slowSession?: { requests }on/__bili/sessionsrows; absent below threshold. No existing field renamed, removed, or re-semantics'd.Tests