You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
{{ message }}
Repository navigation
[Investigation] All 4 wire protocols rely on hand-crafted adapters: can we replace/align them with the official SDK? (Pr | [调查] 4 条 wire 协议全靠手搓 adapter:能否换成/对齐官方 SDK?(协议一致性调查单) #7461
changed the title [-][调查] 4 条 wire 协议全靠手搓 adapter:能否换成/对齐官方 SDK?(协议一致性调查单)[/-][+][Investigation] All 4 wire protocols rely on hand-crafted adapters: can we replace/align them with the official SDK? (Pr | [调查] 4 条 wire 协议全靠手搓 adapter:能否换成/对齐官方 SDK?(协议一致性调查单)[/+]on Nov 21, 2026
Activity
[-][调查] 4 条 wire 协议全靠手搓 adapter:能否换成/对齐官方 SDK?(协议一致性调查单)[/-][+][Investigation] All 4 wire protocols rely on hand-crafted adapters: can we replace/align them with the official SDK? (Pr | [调查] 4 条 wire 协议全靠手搓 adapter:能否换成/对齐官方 SDK?(协议一致性调查单)[/+]ranxianglei commentedon Nov 21, 2026
[bot] 🏷 (ai: vllm-qwen/qwen3.8-27b)
查重: 不重复(与已关闭的 #7406/#7407 相关——那是已修好的三个 bug 本身,本单是"为什么没被自动化抓住"的调查)。
三个方向的结论
方向 1 — 换可行性:四条全部不可换(无官方服务端发射器库)
逐协议查了官方生态,结论一致:
openai、@anthropic-ai/sdk、@google/genai都是客户端(只解析流),官方没有"服务端按 spec 发射 SSE 帧"的库。bili 的 adapter 在发射之外还要剥渲染标签、插 ACP marker/压缩信号、重试重构帧、remap item id、预算缓冲——需要 SSE 字节级控制权,官方客户端 SDK 一个都不提供。所以四条手搓 adapter 是必要的,不可换。工作量估计:不适用(无库可换)。方向 2 — 验可行性:已落地,PR #7466 把四条官方消费端全部接上
Responses 一条 #7402 已有示范。本 PR 补齐其余三条:
openai6.26.0):new OpenAI({ fetch })注入合成字节流,7 个测试。@anthropic-ai/sdk0.91.1):new Anthropic({ fetch }),7 个测试。@google/genai1.52.0):该 SDK 的generateContentStream走全局 fetch(无 client 级 fetch 选项,已在 SDK 源码确认),所以消费端跑在listen(0)的本地 HTTP server 上,5 个测试。仍 hermetic(仅回环,无外网)。SDK 经 in-tree
pi-coding-agent解析(#7402 先例),不动 package.json/lockfile;pi-ai 若哪天丢掉某个传递依赖,套件会响亮失败(可见的有意 diff),不会静默。新tests/*.test.ts被scripts/run-ci-tests.mjs自动 glob(无需注册);三条套件都不 spawn 进程,无需LIVE_FILES登记。方向 3 — record-replay spec fixture:建议暂缓
SDK 消费端(方向 2)钉的是"我们合成的流官方客户端能不能吃"——这正是 #7401/#7405/#7136 三个 bug 的逃逸面。record-replay 钉的是"我们解析上游的流是否忠实"——不同的风险面。鉴于 SDK 消费端已覆盖主要风险,record-replay 的边际收益有限而成本不低(要抓真实流量、维护 fixture),建议暂缓,等出现 SDK 消费端抓不到的字段级漂移再上。
接线时发现的真实 bug(已修,含在 PR #7466)
官方 OpenAI SDK 拒收"choice 0 从未带 role"的流(
missing role for choice 0)——和 #7401(Responses 缺content_index)同一类。当上游在发任何字节前就死掉时,代理合成的 error completion 是客户端的第一个帧,而两处发射点(relay 级emitStreamError和 loop 级adapter.emitError)都漏了 role,SDK 直接拒收整个响应,客户端看到的是连接错误而不是失败文本。两处现在都先开 assistant role;重复 role(上游已发过)无害——SDK 只是重设已为 "assistant" 的 role。由两个 error-completion 测试钉住。PR: #7466 (已打标签 enhancement/bug/p3/scope-ci;CI 运行中)
八问
compat.streamErrorShape="completion"用户 + 上游在发任何字节前死亡(边缘场景,p3);[Bug] Synthesized Responses text events lose content_index and crash SDK consumers #7401/[Bug] Fake-completion buffering silently truncates successful responses #7405/[PR] fix(openai): keep provider usage fields in the synthesized completion #7136 是已修好的真实用户面 bug。收工判定:调查三个方向全部给出结论(不可换 / 已落地 / 建议暂缓),方向 2 的 PR #7466 已开(四条官方消费端全接上 + 顺手修掉一个同类真实 bug),等 CI 绿 + 你验收。