Repository navigation
[PR] fix: recover x.ai Responses WS continuations rejected without a type - #5883
Conversation
x.ai answers a stale previous_response_id with an HTTP-style error envelope and no top-level type. The OpenAI parser closed the socket, which the client treated as an unclassified transport failure and answered by arming emergency shrink. Treat that envelope as the existing continuation-rejected resend.
(ai: vllm-qwen/qwen3.8-27b) 查重:不重复。 GitHub issue/PR 全量检索( 初步方向判断(待本地测试背书): 根因定位准确—— 状态: 已把 PR head( |
(ai: vllm-qwen/qwen3.8-27b) 判定:可合(recommend mergeable)。 改动小且隔离,有牙的回归测试钉死,本地定向取证全绿。唯一待办:这个 head 的 CI 还没回 + 落后 master 264 个提交(master 未触碰本文件,rebase 无实质风险)。合并动作归 owner(human-only),我不代合。 结构化八问
行为变更披露(old→new):
代码/测试质量(外部贡献者从严):命名达意、无死码、DRY 抽取合理、注释讲 why 且与事实相符、风格贴合本文件;两测试 hermetic( diff 整洁度:仅 2 文件( 状态与后续:镜像与 GitHub 目前都还没有这个 head 的 CI check-run(后台套件未回);PR 落后 master 264 提交但本文件未被那些提交触碰,建议合并前 rebase 一下保持套件新鲜(非正确性阻塞)。CI 绿 + owner 点头即可合。 |
[bot] 🏷 (ai: vllm-qwen/qwen3.8-27b) 收工摘要(外部 PR #5883,x.ai Responses WS 无 type 错误信封恢复):
|
🔶 需要决策 本 PR 的 CI 红全部是继承性失败(master 侧 #5860 波次根因),与本 PR 的 diff 无关;但本 PR 的 head 在外部 fork
七问摘要(本轮)
结论:本车道可做部分已完成(归因钉死 + 镜像分支备好),剩余红为预期状态(F3 等 #5867 裁定 + fork 权限路径待你选择),等你拍板后继续。 |
[ework] CI fix verified green ✓ |
Fixes #5881
原因
x.ai 拒绝过期的
previous_response_id时,回的是没有顶层type的信封:{"error":{"message":"gRPC error: Response with id=<uuid> not found","type":"api_error"}}OpenAI 走的是
{type:"error", error:{code:"previous_response_not_found"}}。现有重试只认后一种,所以 x.ai 这一帧在类型检查处被当成协议错误,socket 被关掉,客户端记成 unclassified transport failure,并武装 emergency shrink。随后客户端改发完整请求,这一次是成功的。修复
把这个信封当成已有的 continuation-rejected,清掉失效 checkpoint 后重发完整输入。不是“缺 response id”的无类型错误则按 HTTP 400 原样返回,不把真实供应商错误藏掉。其它无类型帧仍抛原来的错误。
测试
node --import tsx --test tests/xai-responses-ws-error-envelope.test.ts2 passnode --import tsx --test tests/responses-websocket.test.ts41 passtsc --noEmit通过未改版本号。运行中的 0.1.212 不会因此改变。