Repository navigation
[PR] fix: Save and export the latest assistant reply in the handover document | fix: 交接文档保存并导出最新一条助手回复 - #4248
Conversation
(ai: vllm-qwen/qwen3.8-27b) 查重: 不重复。 本 PR 直接修 #4247(交接文档缺最后一条助手回复);open/closed 的 issue 与 PR 里无其他触及 handoff/export 采集点的条目(open PR 清单已核对,最近的 #4243/#4238 等均为其他域)。 标签: 开始审核:分支已取到本地( |
0f8bb94 to
2a74786
Compare
(ai: vllm-qwen/qwen3.8-27b) 审核完成,结论先行:方向正确、修到了根因、回归审查通过,CI 绿后可合(人工合并——跨模块且动了会话持久化格式,不满足自动合并条件)。审核期间发现分支 rebase 过(base 从 release v0.1.204 后移到 #4246 合并之后),已核对:交接相关 12 个文件两个版本逐字节一致,以下结论对当前 head 全部有效。另向 PR 分支补了一个小修 commit(文末)。 八问作答:
测试质量:真测试、断言有牙——生产管道开/关采集对比(客户端字节必须一致)× 四协议、多轮接力保留、失败轮不存、非法 metadata 不抛错、真实 WEB_CLIENT 渲染器角色分块回归钉住。本地 typecheck / build / 65 个定向测试(handoff-response、web-handoff-roles、cli-export、loop-core、plugin-protocol)全绿。 已推送到 PR 分支的小修(独立 commit
状态:CI 正在新 head 上跑(gate 层全绿,test 层进行中);真实 Codex E2E 由 CI 覆盖(本机无 codex 二进制未跑成,issue 已注明)。CI 绿后可合。 |
|
补充修复已推送: 实际验证发现,最新回复虽然已经保存,网页仍可能看起来“只有思考”:kernel 的 本次在最新回复的 reasoning → text 边界输出不可见的 验证: 边界:本次只修复新采集的最新回复。探针确认,入站历史快照经 kernel CI 状态更正:旧 head |
1426e79 to
9c94476
Compare
…anxianglei#4248) The reply-capture feature persists session.metadata.handoffResponse on successful replies; the storage-render goldens pin persisted-state digests, so their metadata/stateDigest sections drift by design. Regenerated via scripts/update-storage-render-goldens.ts; verified the delta is exactly the new handoffResponse field (wire bodies, block contents, stats unchanged). Pushed by the reviewing agent as a CI fix for this PR branch.
(ai: vllm-qwen/qwen3.8-27b) 第二轮审核完成( 我做了什么
结构化八问
旧 head 三个红分片逐条定性(回应你的状态更正)
我的补充提交
|
(ai: vllm-qwen/qwen3.8-27b) 第三轮:你新推的 这个提交改了什么(机制层面)标记方案从「只在最新回复段、按 reasoning→text 过渡插独立标记行」改为「每个 reasoning 单元格的文本尾部内嵌标记」( 两个我重点核过的边界:
八问(针对本次增量)
状态
等三个 test 分片转绿即可人工合并(持久化格式新增 + 多模块,不走 auto-merge)。 |
(ai: vllm-qwen/qwen3.8-27b) CI 状态更新: 至此三轮审核结论汇总:机制核验通过、回归审计通过(含 golden 漂移已修)、测试真实有效、本地 75/75 + typecheck/build 干净、远程 CI 全绿。可以合并——涉及持久化格式新增与多模块,按仓库规则由人工合并。行为变更披露都在前两轮回复里(导出新增 |
2691e48 to
fac4d0a
Compare
91a4ac7 to
b031d73
Compare
fe96f2f to
7242313
Compare
(ai: vllm-qwen/qwen3.8-27b) CI 已修好并推回 PR 分支。docs-sync 红与 PR 的功能代码无关——是一个已存在的灰度开关缺了文档种子。已在 PR head 上补齐种子并重新生成,本地验证「重新生成零漂移」。新 head: 八问
判定:可继续等 CI。docs-sync 应转绿,随之放行的下游 test/static-gates/e2e 会接着跑;本次为纯文档种子补齐,不应触发它们失败。 |
e60177f to
52afa10
Compare
52afa10 to
0381682
Compare
db0a208 to
2ab1bc3
Compare
2ab1bc3 to
3b0fd4a
Compare
Closes ranxianglei#4247. Bili 的交接快照只保存本轮入站请求,生成的回复穿过代理却不落盘, 导出要等客户端下一次请求重发历史才补上,会话结束时最后一条回复 永远缺失。 - 从现有回复解析点就地采集后置过滤后的回复(插件 chat/responses/ json pipes 与压缩循环两条出站路径),不新增 SSE 解析器,不改写 任何转发字节; - 回复存入会话 metadata 仅作导出用,绑定请求计数与快照指针,新 快照到达即清除,不回灌模型、不参与压缩身份与用量记账; - 导出时以现有 ### assistant 角色块附加回复,不新增节标题;元数据 格式非法时忽略不崩溃; - 测试:生产管道四种协议采集/客户端字节一致性、代理循环文本-工具 顺序与失败轮丢弃、持久化重载(legacy/full)、接力轮与陈旧绑定、 网页交接渲染器角色分块回归(标题不落入上一条消息正文)。
Apply export-only reasoning boundaries to both request snapshots and the latest reply. Consume end markers only inside active thinking segments and preserve literal markers. Cover next-request snapshots, folded/full export modes and unchanged session state. Fixes ranxianglei#4268
3b0fd4a to
fc1ff34
Compare
…-render goldens for handoffResponse + master drift (ranxianglei#4248)
…solution) Union at the runCompressLoop call site: keep master's new 'reply' (handoff-reply, #4248) plus this PR's 'visibilityMode' tri-state. Merged loop options accept both (reply?: HandoffReply / visibilityMode?: VisibilityMode).
📦 Merged Build PublishedThis merge to master was published as npm install -g billion-context@0.0.848-master.84ad668 # this exact build
npm install -g billion-context@master # always the newest merged build
|
Closes #4247.
Fixes #4268.
问题与根因
交接快照只保存本轮入站请求(
snapshotMessages())。本轮生成的助手回复要等客户端下一次请求作为历史重发,才进入快照,因此直接导出时缺少最新回复。此外,最新回复和入站历史都可能同时包含 reasoning 与正文。kernel 的
_reasoning_:没有结束边界,网页会把同一 assistant 块中的后续正文收进 thinking 折叠框。方案
src/server/handoff-response.ts按到达顺序保存 text / reasoning / tool-call,限制为 1,500,000 bytes,超限整体弃存。### assistant块追加,保持内容到达顺序。handoffCells():仅在导出副本的 reasoning 末尾加入不可见结束标记,再交给既有 kernel renderer。按结构化 contentType 分段,不依赖网页启发式判断,不修改 kernel、原始快照、消息 ID 或签名。不采用
验证
最新补丁基于
d7b60343完成验证,并提交为2691e484:web-handoff-roles、handoff-response、cli-export、loop-core:51/51 通过。plugin-protocol的 handoff 用例:2/2 通过。npm run typecheck、npm run build、git diff --check通过;构建的 dist 导入/外部依赖检查通过。成本与边界
会话 metadata 可额外持久化最多 1,500,000 bytes 的最新回复,下一次快照清除。客户端转发字节由生产管道开/关采集对比验证;展示边界改动仅影响 bili 交接导出与网页渲染。
历史回复边界现已覆盖,不再保留“历史路径尚未修复”的限制。kernel 自身面向其他消费者的独立导出行为未在本 PR 中修改。