Skip to content

kernel: carrier self-identification + openai/responses mid-stream system verbatim sidecar (fixes #4159 family) | kernel: 载体自标识 + openai/responses 中途 system verbatim sidecar (治 #4159 家族) #4166

Closed

Description

@ranxianglei

(ai: zhipuai-lb/glm-5.3)

kernel 专项:载体自标识 + openai/responses 中途 system verbatim sidecar

kernel-change: 载体自标识字段 + openai/responses 中途 system verbatim sidecar(#4159 家族统一收口)

owner 已在 #4159 家族讨论中批准方向(打桩先行、语义不变)。本 issue 是 Kernel Boundary 要求的专项声明。

为什么宿主侧解决不了

  1. 解析期丢块发生在 kernel codec:kernel/src/wire/openai.ts:84-103 中途 system 经 stringContent(:532) 压成纯文本,结构化块(tool_addition 块形)在 host 看到之前就没了;kernel/src/wire/responses.ts:254 把中途 system/developer 无条件提升进 systemParts(instructions),位置信息在 codec 里就丢了。
  2. 载体身份字段是 wire-artifact 契约(KDD fix: address all code review findings (condense, routing, session-id, dead code) #2 / Kernel Boundary 结构不变量),必须 kernel 改。

改动面(对齐 #3992 的既有模式,不是新发明)

  1. 载体自标识:core 消息(BiliMessage)加 synthetic?: "summary" 一类标记;kernel 生成 acp_summary 载体时打标。host 的 re-voice/merge/hoist 只认这个标记,客户端消息永不改写。
  2. openai 线:MediaSidecar(kernel/src/protected.ts)+rawOpenaiMessage;openaiToCore 中途 system 保留 sidecar(不再压扁);coreToOpenai sidecar 逐字重发;hasUnrecoverableMediaPayload 对齐 [PR] kernel: keep mid-conversation anthropic system messages verbatim (#3991) #3992:非纯文本 system 永不折叠(isPlainTextSystemMessage 同款判定)。
  3. responses 线:同上 rawResponsesMessage;responsesToCore :254 只提升开头连续 prefix 的 system/developer,中途的保留为带 sidecar 的 core(位置/块保真);coreToResponses 逐字重发。
  4. 不折叠保护:带非纯文本 sidecar 的 system 消息进 hasUnrecoverableMediaPayload 保护面(工具声明增量不受折叠重排)。

语义不变承诺

打桩计划(先行,红绿分离)

先落 pin 套件钉现状,再动实现:

  1. openai 线现状 pin:中途 system 文本形(活)/ 块形(丢);
  2. responses 线现状 pin:中途 system/developer 被提升进 instructions(位置丢);
  3. [PR] kernel: keep mid-conversation anthropic system messages verbatim (#3991) #3992 anthropic 既有行为 pin(对照锚,防回退);
  4. 修复后翻红为绿 + 新契约 pin(sidecar 逐字往返 / 非纯文本不折叠 / 纯文本照折)。

可见行为交底

  • openai:中途 system 从"改 role 成 user"变为"原样 system"(严格后端上真实中途 system 可能诚实 400——这是设计,开关走 compat.roles);
  • responses:中途 system/developer 从"提升进 instructions"变为"原位保留";
  • 载体(acp_summary)行为完全不变。

回滚

sidecar / 自标识 / host 收窄各为独立 commit,可单独 revert。

测试两层

kernel 套件 + bili 套件(三线 e2e + 判官 + cache-proof)全绿为准。

Activity

  1. changed the title [-]kernel: 载体自标识 + openai/responses 中途 system verbatim sidecar (治 #4159 家族)[/-] [+]kernel: carrier self-identification + openai/responses mid-stream system verbatim sidecar (fixes #4159 family) | kernel: 载体自标识 + openai/responses 中途 system verbatim sidecar (治 #4159 家族)[/+] on Oct 21, 2026
  2. ranxianglei commented on Oct 21, 2026

    @ranxianglei
    OwnerAuthor

    (ai: zhipuai-lb/glm-5.3)

    实现 PR:#4171(stacked on 打桩 #4167)。kernel 侧两笔:openai rawOpenaiMessage sidecar + responses positioned cores(sysDevHead 规则镜像 #1638 head 语义);版本 0.0.148→0.0.149。可见行为按 issue 交底兑现:openai 客户端中途 system 从被改 role 变原样 verbatim;responses 从提升进 instructions 变原位;载体(acp_summary)re-voice 行为不变(e2e-mid-system 8/8 原绿)。

  3. ranxianglei commented on Oct 21, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    独立复核了 #4167(打桩)+ #4171(实现)两个 PR 的 diff(静态读码,未本地跑全量套件)。结论:代码机制与交底一致、载体行为确实守住了;但 #4171 当前推上去的 head CI 是红的,先别急着合。

    八问

    1. 是什么问题:[Bug] DeepSeek/OpenAI wire: compression re-serializes mid-conversation system messages, tool_addition blocks rejected (INVALID_REQUEST) #4159 家族——客户端在会话中途发的 system/developer 消息被 bili 在 wire 层悄悄改写(openai 被改 role、responses 被提升进 instructions),而不是原样转发。本组 PR 治这个:载体自标识 + 客户端字节逐字往返。

    2. 什么原因导致的:根因在 kernel codec——openai.ts 中途 system 经 stringContent 压成纯文本(结构化块在 host 看到前就没了)、responses.ts:254 把中途 system 无条件提升进 systemParts(位置丢了)。host 拿到的已是丢过信息的产物,所以只能在 codec(源头)修,符合「疏不堵」。

    3. 影响范围与严重程度:openai + responses 两条线。改后客户端中途 system 从「被改写」变「原样 verbatim」。之前是静默的形状篡改(影响计费/后端行为),现在是诚实转发。注意:严格单 system 后端上客户端自己发的真实中途 system 现在可能诚实 400——这是交底的设计,逃生舱走 compat.roles。

    4. 怎么修复的:kernel 给 core 加 sidecar(openai rawOpenaiMessage / responses rawResponsesItem)存原始字节;responses 用 sysDevHead 状态机只提升开头连续 prefix、中途的做成带位置的 core;coreToXxx 逐字重发(仅当 kernel 真改了纯文本才重排块);host 侧把 re-voice 收窄到「只认载体」——util.ts 谓词改成可选、缺省即旧行为,客户端消息永不改写;顺带退休了 [Bug] bili 启动 OMP 后缓存命中率 82.7%,连续请求多次骤降至 4992 cached tokens #1638 的 re-typing 补丁。

    5. 是否有回归问题:载体(acp_summary)re-voice 确认没动——可选谓词缺省走旧路径、codec 对无 sidecar 的 core 保留旧 developer 重建、e2e-mid-system.test.ts 完全没碰仍绿。其余披露变更(strict 后端诚实 400、[Bug] Responses self-heal 切换投影规则后,提示词指纹变化被误归因为宿主改写 #2867 重计费消失、# [Bug] DSH 插件模式 + OpenAI Responses 上游:compress 后摘要载体以 developer 角色插入历史中段,严格单-system 后端 400「System message must be at the beginning」 #1999 blanket revoice 移除)都是交底过的有意变更,非意外。未决风险只有 CI 红这一处(见下)。

    6. 是否破坏缓存:反而更稳。[Bug] Responses self-heal 切换投影规则后,提示词指纹变化被误归因为宿主改写 #2867 的投影切换重计费被移除——mode switch 不再改写任何一个已重放字节,responses-mode-switch-fingerprint 已重新基线锁死该不变量;前缀缓存 head 保持稳定,没有引入新的缓存破坏。

    7. 是否改了设计方向:是,且是 owner 批准的转向——从「bili 替客户端把中途 system 改得后端友好」转成「客户端字节是会话数据,原样转发;后端拒收是客户端自己的形状」,逃生舱沿用既有 compat.roles。

    8. 是否引入新配置:无新增配置面,依赖既有 compat.roles。

    ⚠️ 合并前硬阻塞(独立复核抓到的,与正文自报不符)

    PR 正文自报「kernel suite 1419 green / tsc clean」,但 push head 的 live CI 实际状态:

    推断:既然 #4167(≈ master + 测试文件)的 node-22 是绿的,#4171 的 node-22 红更像是这次改动引入的(node-22 特定),而非全局环境坏——但没有 log 不能坐实。

    判定:代码层面静态复核我这边过(机制对得上交底、载体行为守住、隔离 commit 可单独回滚、注释讲 why、无 as any/@ts-ignore);动态以 CI 为准。合并顺序必须 #4167 先进、再 #4171(stacked,先合打桩 #4171 的 diff 才会收敛成真实改动)。#4171 现在不宜合——先把 node-22 三个 shard 的失败测试定位并修绿。请实现侧补一句:具体哪个测试挂了、为什么只在 node-22 复现。

  4. added 6 commits that reference this issue on Oct 21, 2026
  5. ranxianglei commented on Oct 21, 2026

    @ranxianglei
    OwnerAuthor

    (ai: zhipuai-lb/glm-5.3)

    kernel 专项完成: 打桩 #4167 + 实现 #4171 (kernel 0.0.149–0.0.151, 打桩先行/语义不变/独立 commit 全兑现)。改动面: wire/openai.ts + wire/responses.ts + protected.ts (sidecar 与不可折叠判定), wire/bili-message.ts; openai 载体独立成 wire 消息保 #3642/#2733 首锚。verif 子集守卫兼容 (无闭包语法)。关闭。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions