Skip to content

Plugin lanes: pin identity to client msgids, render outbound from the server-owned history | 插件车道服务端正史:消息身份钉在客户端 id 上,出站前缀由正史渲染 #4491

Closed

Description

@ranxianglei

插件车道服务端正史:消息身份钉在客户端 id 上,出站前缀由正史渲染

Plugin lanes: server-owned session history — pin message identity to client message ids, render the outbound prefix from the store.

现状问题(一句话:客户端是权威,我们是镜子)

插件车道(pi / dsh 插件 / opencode / omp)的数据流今天是:

  1. 宿主本地会话文件是唯一权威,每轮把全量历史交给我们;
  2. 我们靠内容哈希认脸(认出"这 2 万条哪些见过"),折叠建议改写后交回;
  3. 出站字节 = 客户端件的加工产物。

后果:

方案(已与 owner 定稿,2026-10-24)

把客户端从"权威持有者"降级为"事件源"。五个部件:

  1. 会话绑定:attach 时已有 conversationId;宿主每轮发增量事件(新消息 append / epoch 信号),不再全量重发——复用增量车道通道(Incremental turns: POST /__bili/plugin/turn — native clients send only the delta (#3248) #3253)。
  2. 服务端正史:统一存储以 (conversationId, seq) 为唯一真相。客户端消息 id(msgid pin)直接钉身份:id 即唯一键,不做内容指纹双钥(owner 拍板)。
  3. 出站渲染:客户端 shim 在 fetch 拦截点,把 body 的历史部分替换为服务端渲染视图——POST /__bili/plugin/render {conversationId, untilSeq},复用 D 引擎(快照渲染 [PR] Snapshot rendering: proxy lane outbound prefix rendered from server-side canonical history; existing sessions immune to | 快照渲染:proxy 车道出站前缀从服务端正史渲染,存量会话对内核升级免疫(#3756) #3759)返回渲染好的前缀,shim 拼本地尾巴发上游。出站字节 = 服务端纯函数输出。
  4. 压缩记账:锚定 seq 区间([PR] #4316 Layer 3 (number directly mapped to canonical seq) PR 1/3: Fold-overwrite into real seq range | #4316 层3(编号直连正史 seq)PR 1/3:折叠覆盖写入真实 seq 区间 #4335/[PR] storage: seq ledger foundations — block interval bounds + ledgerSeq ref stamping (#4316 layer 3, phase 1) #4346 已落地:blocks start_seq/end_seq 真值 + ledgerSeq 直连)。
  5. 降级路径:服务端不可达 → shim 退回现行为(本地历史直发)+ 标 epoch,恢复后对账。

全量重发时的对齐语义(id 集合代数)

客户端还是发全量怎么办:拿客户端 msgid pin(pi/opencode 插件 API 层直接有;dsh 待审计,见下表)。

入站情况 服务端动作
新 id 追加新行,分下一个 seq
id 消失 + 有 summary id 出现(压缩签名) tombstone(reason=compressed),折叠记账挂钩
id 消失,无新增(纯删除) tombstone(reason=deleted)
同 id 内容变(编辑) 原行更新内容字节,保 seq(id 即唯一键)
大批 id 翻新(世代切换) epoch 翻转,受控重建(不是 1057 失配灾难)

服务端只维护 id 顺序列表(id→seq 的 append-only 有序账本)——极简记账,不做复杂代次(owner 拍板)。

宿主 id 可达性审计(前置验证,研究进行中)

宿主 id 生成 切模型稳定 undo 稳定 到接缝点 判定
pi (待填) (待填) (待填) 插件 API 层(CoreMessage.id) (待填)
opencode (待填) (待填) (待填) (待填) (待填)
dsh (待填) (待填) (待填) 存疑:id 在宿主会话库,fetch 拦截点只见序列化 body (待填)
omp (待填) (待填) (待填) (待填) (待填)

纯代理车道(无会话绑定)不在本 issue 范围——那边的答案是快照渲染 D 方案(已建成)。

打桩计划(先 RED 后 GREEN)

  • S1 id 集合代数:新 id 追加/消失 tombstone/同 id 内容变=编辑保 seq;
  • S2 压缩签名:一批消失+summary 出现 → reason=compressed;纯消失 → reason=deleted;
  • S3 epoch:大批 id 翻新 → 受控重建,tombstone 不丢历史;
  • S4 渲染端点:POST /__bili/plugin/render 返回 (conversationId, untilSeq) 的服务端渲染前缀;
  • S5 pi 车道端到端:全量重发按 id 对齐(内容字节变化不再换行换 seq);
  • S6 降级:渲染不可达 → 退回客户端本地历史 + epoch 标记。

依赖(全部已落地)

配置面

新增 rollout 门(pluginLaneServerHistory,默认 0%)需 owner 签——本 issue 即申请。

Part of #4316(层 1+2 的插件车道落地)。cc @ranxianglei

Activity

  1. changed the title [-]插件车道服务端正史:消息身份钉在客户端 id 上,出站前缀由正史渲染 | Plugin lanes: pin identity to client msgids, render outbound from the server-owned history[/-] [+]Plugin lanes: pin identity to client msgids, render outbound from the server-owned history | 插件车道服务端正史:消息身份钉在客户端 id 上,出站前缀由正史渲染[/+] on Oct 24, 2026
  2. ranxianglei commented on Oct 24, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    查重: 不重复。 本 issue 是 #4316(已关闭,三层方案 owner 定稿)的登记子项——层 1+2 的插件车道落地。依赖 PR #4335(blocks start_seq/end_seq 真值)、#4346(ledgerSeq 直连+快照渲染盖章)、#4395(行身份剥 wireIndex/tombstone/谱系/seam 指纹)均已合入 master(当前 HEAD 02f544da0);open issue/PR 中未发现并行的「插件车道服务端正史」工作。增量车道(#3248 /__bili/plugin/turn)与快照渲染(#3756)是既有设施,本 issue 是接线而非重造。

    标签: pi dsh opencode omp scope/kernel p2(覆盖四个插件车道;领域是消息身份/折叠记账=kernel scope;功能请求不打 bug;现状可用但有 churn 重烧成本与编号换血 → p2)。主题类别:M(跨车道功能提案)。

    Triage(功能类三步审核,独立做过):

    1. 合理性:解决的是钉死的真实问题——After model switch / client-side history rewrite, all message identities (content hashes) are replaced: ACP numbers re-m | 切模型/客户端重写历史后,消息身份(内容哈希)全部更换:acp 编号重铸、折叠覆盖大规模重挂、死 ref、churn 区临时膨胀重折 #4316 受害形态(pi 车道 1057 条覆盖失配、churn 区重烧 ~30 万 token、客户端改写历史 = 编号换血)。客户端从「权威持有者」降级为「事件源」,出站字节变成服务端纯函数输出,身份问题一次解决而不是每接一个宿主重解一遍。成立。
    2. 系统设计:五个部件全部落在已建成的设施上——①会话绑定复用增量车道通道(Delta lane: native-mode clients send only deltas, server maintains full state + one-time fold, upstream receives snapsho | 增量车道:native 模式客户端只发增量,服务端全量维护+一次折叠,上游只收快照(#2926 的泛化) #3248,marker x-bili-plugin-turn,strict ack 契约已在);②服务端正史复用统一存储 v8 行身份底座(Four storage-layer defects: identity hash contaminated with positional metadata (truncation triggers identity swap) / sw | 存储层四缺陷:身份哈希掺位置元数据(截断即换血)/清扫删除回退历史/渲染接缝图片只比长度/fork 谱系死列 #4390/[PR] storage: position-independent row identity + historian tombstones (#4390) #4395:messages 表 append-only + tombstone/reactivate-in-place,msg_id 列已存在,msgid pin = 把该列的所有权从内容哈希改为客户端 id,不做双钥);③出站渲染复用 D 引擎(Snapshot rendering: proxy-lane outbound is now rendered authoritatively server-side; existing sessions are immune to ker | 快照渲染:proxy 车道出站从服务端正史渲染,存量会话对内核升级免疫(#3752 根治) #3756 快照渲染机制 + 统一存储读路径);④压缩记账 [PR] #4316 Layer 3 (number directly mapped to canonical seq) PR 1/3: Fold-overwrite into real seq range | #4316 层3(编号直连正史 seq)PR 1/3:折叠覆盖写入真实 seq 区间 #4335/[PR] storage: seq ledger foundations — block interval bounds + ledgerSeq ref stamping (#4316 layer 3, phase 1) #4346 已落地;⑤降级 = shim try/catch 回现行为,恢复后对账由 id 集合代数天然完成。不发明新架构。
    3. 耦合性:纯代理车道明确不在此范围(已有 D 方案);kernel 不动(msgid pin 是 host 侧记账,kernel ref 空间原样,层 3 的 kernel 编号直连是 After model switch / client-side history rewrite, all message identities (content hashes) are replaced: ACP numbers re-m | 切模型/客户端重写历史后,消息身份(内容哈希)全部更换:acp 编号重铸、折叠覆盖大规模重挂、死 ref、churn 区临时膨胀重折 #4316 序列里独立的 PR,需要单独的 kernel-change 声明,不在本 PR 里夹带)。边界干净。

    前置验证:宿主 id 可达性审计表还是空的——这是本 issue 自己的研究项,我会在实现中把 pi/opencode/dsh/omp 四行填掉(判定口径:id 生成位置、切模型/undo 是否稳定、fetch 拦截点是否拿得到 id)。dsh 那行的「存疑」(id 在宿主会话库,拦截点只见序列化 body)如果坐实,dsh 就不具备 msgid pin 条件,降级路径兜底,我会在结论里写清。

    执行计划(先 RED 后 GREEN,一个闭环 PR,Closes #4491):

    • S1 id 集合代数:新 id 追加 / 消失+tombstone / 同 id 内容变=编辑保 seq;
    • S2 压缩签名:一批消失+summary 出现 → reason=compressed;纯消失 → reason=deleted;
    • S3 epoch:大批 id 翻新 → 受控重建,tombstone 不丢历史;
    • S4 渲染端点:POST /__bili/plugin/render {conversationId, untilSeq} 返回服务端渲染前缀(复用 D 引擎读路径 + 既有 cache marks);
    • S5 pi 车道端到端:全量重发按 msgid 对齐,内容字节变化不再换行换 seq;
    • S6 降级:render 不可达 → shim 退回本地历史直发 + epoch 标记,恢复后对账。

    配置面(issue 即申请,定稿含此门):新增 rollout 门 pluginLaneServerHistory,默认 0%(行为零漂移,旧客户端字节级不变);env BILI_ROLLOUT_PLUGIN_LANE_SERVER_HISTORY > config rollout.features.pluginLaneServerHistory(bool/percent)> 分桶。PR 描述会带完整的 config surface 一节。

    开始动工。先做服务端机制(S1–S4)+ 门 + RED/GREEN 测试桩,再填审计表,最后接 pi shim(S5/S6)。

  3. ranxianglei commented on Oct 24, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    服务端核心已落地,PR:**#4505 #4491)。默认 rollout 0%,放量前零行为变化。

    八问

    1. 是什么问题:插件车道(pi/dsh/opencode/omp)今天以客户端重发字节为权威——客户端一改历史就是编号换血 + 重锚救火(After model switch / client-side history rewrite, all message identities (content hashes) are replaced: ACP numbers re-m | 切模型/客户端重写历史后,消息身份(内容哈希)全部更换:acp 编号重铸、折叠覆盖大规模重挂、死 ref、churn 区临时膨胀重折 #4316 受害形态),出站字节是客户端件的加工产物,缓存重付照单全收。本 PR 落地定稿方案的服务端核心:消息身份钉在客户端 msgid 上,出站前缀由服务端正史渲染。
    2. 什么原因导致的:消息身份从客户端重发字节派生(内容哈希),而字节是客户端的地盘——任何改写/重盖都变成身份换血。修法就是把客户端从「权威持有者」降级为「事件源」。
    3. 影响范围与严重程度:默认 0% 下对现有用户零影响(全部新路径惰性);放量后仅插件车道会话获得 id 稳定身份 + 服务端渲染前缀。原问题严重度 p2(可用但贵,有绕行=现状)。
    4. 怎么修复的:五个部件按定稿实现——biliMsgIds 通道钉身份(上游转发前一律剥除、严格校验、投毒形态硬失败)/ 统一存储为唯一真相((conversationId, seq))/ POST /__bili/plugin/render 返回正史的纯函数输出(折叠区收敛为摘要锚点,失步一律降级不猜:关=404、存储不可读/冷会话/行坏=503)/ 代数层判追加·消失原因(compressed vs deleted)·世代切换(store 侧的机械行操作——append/tombstone/reactivate/分支视图——[PR] #4316 Layer 3 (number directly mapped to canonical seq) PR 1/3: Fold-overwrite into real seq range | #4316 层3(编号直连正史 seq)PR 1/3:折叠覆盖写入真实 seq 区间 #4335/[PR] storage: seq ledger foundations — block interval bounds + ledgerSeq ref stamping (#4316 layer 3, phase 1) #4346/[PR] storage: position-independent row identity + historian tombstones (#4390) #4395 已具备,本 PR 只加判断层)/ 增量车道通告 serverHistory 能力。打桩 S1–S4、S6 全绿,S5 服务端半绿(见下)。
    5. 是否有回归问题:审过既有行为——增量车道契约不变(msgIds 缺省=旧路径逐字不变,strict ack 未动)、探测响应仅新增键、prepare 只碰新字段(未知字段无条件剥除=prompt_cache_key 同款纪律)、快照渲染 D 车道与 pluginMode 直通均未触碰、无 kernel 变更、无持久化格式变更。定向套件 149/149 绿(增量车道家族、快照渲染家族、rollout、anthropic 缓存/pck + 三个新测试文件),全量判定交 CI。
    6. 是否破坏缓存:默认关时不变。放量后:渲染前缀刻意不带 cache 标记(v1 决策——标记是逐轮计算产物,回放存储副本会让前缀与下一轮组装字节失步),深度历史断点移到客户端尾巴,会话首次采用时一次性重付、之后稳定;pck 路径未动。
    7. 是否改了设计方向:按 owner 定稿改的——插件车道身份从内容派生转向客户端钉定、出站前缀从「客户端字节加工」转向「服务端渲染」;纯代理车道仍走快照渲染 D,不变。
    8. 是否引入了新的配置:是——rollout.features.pluginLaneServerHistory(默认 0)+ env BILI_ROLLOUT_PLUGIN_LANE_SERVER_HISTORY,en+zh CONFIGURATION.md 已文档化;本 issue 即该门的签批申请,PR 内附 config surface 专节。

    宿主 id 审计(前置验证)结果:

    宿主 判定 证据
    pi NO earendil-works/pi main 分支 packages/ai/src/types.ts:UserMessage/SystemMessage/ToolResultMessage 均无 id;AssistantMessage.responseId? 只是可选的 provider 侧标识,非宿主稳定身份。agent loop 到 LLM 调用边界才转 wire 消息,before_provider_request 拦截点拿不到稳定消息 id。issue 表里「插件 API 层(CoreMessage.id)」在 pi 源码中不存在。要钉身份需要上游宿主改动(宿主盖章 id),客户端侧伪造 id 属于掩盖,不做。
    opencode 待验证 我们的适配器只见 wire body;opencode 插件/SDK 层是否在拦截点暴露内部 msg id 需 opencode 侧审计
    dsh 待验证(issue 本身存疑) id 在宿主会话库,fetch 拦截点只见序列化 body
    omp 待验证 适配器只见 wire body,无 id 通道证据

    结论:暂无宿主有可用的 id 通道,所以本 PR 交付通用服务端核心(hermetic 测试钉死),不接任何宿主 shim;第一个消费者等审计落点。后续(已列 PR,不捆绑):① 首个宿主 shim 接线(被审计阻塞);② tombstone 原因落 dead_refs(需 schema 迁移,v1 先走日志+元数据计数器);③ 渲染前缀 cache 标记回放(v1 有意不带)。

  4. ranxianglei commented on Oct 24, 2026

    @ranxianglei
    OwnerAuthor

    四宿主接线已交付:PR #4523(dsh=llm/stream ALS 作用域/pi=扩展层 CoreMessage.id/opencode=V1 messages.transform/omp=getBranch 快照+对齐;全或无降级纪律+omp msgidClaims 防重试 400;四套桩 4+5+5+6 例全绿,组装分支全家复验绿)。

    接线落地后 #4491 剩余:rollout 开闸(本机狗粮→灰度 1%→5%→25%→100)与 #3464 收尾(fork 宿主 id↔bili ref 映射+字节漂移金桩)。opencode V2 http.request 拿不到 id=已知最弱一环(见 #4491 审计),V2 形状降级内容派生。

  5. 19 remaining items

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions