Skip to content

[PR] fix(opencode): exclude inline media from direct-refusal token floor - #4158

Closed
Y-fyan wants to merge 1 commit into
ranxianglei:masterfrom
Y-fyan:2026-10-21_opencode-media-byte-gate
Closed

Y-fyan wants to merge 1 commit into
ranxianglei:masterfrom
Y-fyan:2026-10-21_opencode-media-byte-gate

Conversation

@Y-fyan

@Y-fyan Y-fyan commented Oct 21, 2026

Copy link
Copy Markdown
Contributor

Fixes #4121

OpenCode V2's direct fallback counted inline media as text (raw bytes / 4), so an image-heavy request could be refused locally while the proxy was unavailable or busy. Recheck would-refuse bodies using core-text bytes after subtracting structurally identified inline media.

Move the existing DSH media-byte walker verbatim into a shared, dependency-free module and preserve its DSH export. Both OpenCode refusal branches use the corrected floor. The declared model window is unchanged: this does not introduce DSH's 1M-token floor. Over-window text, text mixed with media, pasted data URLs, malformed-body fallback, and original request bytes retain their existing behavior.

Validation:

  • 18 new route regression tests pass; before the fix, all six image cases failed while the text/malformed guards passed.
  • Related opencode-native, dsh-native, and issue3654-health-probe-three-state test files pass.
  • npm run typecheck, npm run build, unused-export and test-import-graph gates pass.

No kernel, configuration surface, persistence format, or wire payload changes. Real OpenCode/model-provider end-to-end testing was not run; full regression remains subject to upstream CI.

@ranxianglei ranxianglei changed the title fix(opencode): exclude inline media from direct-refusal token floor [PR] fix(opencode): exclude inline media from direct-refusal token floor Oct 21, 2026
@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

(ai: vllm-qwen/qwen3.8-27b)

查重: 不重复。 open+closed 检索(open PR 提及 #4121 仅本 PR 一条;标题含 media 的在途 PR:#4075 是存储侧 media CAS 分片、#2614 是 kernel 侧 Google wire fileData/inlineData 识别——子系统和机制都不同)。原 issue #4121 自身已做过查重(失败签名 = bytes/4 原始字节口径 + oversize 本地拒 + 媒体/base64),本 PR 是该 issue 的唯一修复。

标签: bug opencodev2 scope/wiring p2(另保留系统 pr)——opencode V2 降级直发门把内联媒体按文本计价导致假拒,属协议接线面缺陷;有绕行(等代理恢复即自动直发),非数据丢失,判 p2。

初审印象(深度 review 进行中,稍后按八问补完整结论):

正在本地跑定向测试(opencode-native / dsh-native / issue3654-health-probe-three-state)+ typecheck,随后给结构化八问结论。

@ranxianglei

Copy link
Copy Markdown
Owner

🤖 Powered by ework · qwen3.8-27b

(ai: vllm-qwen/qwen3.8-27b)

Review 结论(PR #4158 → Fixes #4121)

可合并 —— pushed head e218d0692 上 CI 全绿(ubuntu/windows × node 22/24 全部 test shard + 全部 guard/build 车道),本地定向验证含修复前回放。

结构化八问

  1. 是什么问题:OpenCode V2 在「直发」降级窗口(proxy 不可用、或 busy 重试耗尽)里,超大请求按原始 body 字节数 / 4 估算 token,内联图片被当成文本计费,导致实际装得下窗口的图多请求被本地拒掉,直到 proxy 恢复才能发出去。
  2. 什么原因导致的:floor 估算用 raw bytes/4,而上游对图片按分辨率计费(实测约 2000–4000 B/token)、文本约 6.8 B/token——媒体字节质量把估算虚高一个量级。与 dsh 车道 DSH's unattributed over-limit gate prices base64 images as text (bytes/4) — media-heavy requests are falsely rejected wi | dsh 无归属超限门把 base64 图片当文本计价(bytes/4)——媒体重的请求被假拒 422,上游本会正常接受 #4111 同一机制家族([PR] fix(#4111): dsh unattributed gate — core-text byte math, stop billing base64 media as text #4119 已修 dsh 侧),本 PR 覆盖 opencode V2 direct-degrade gate has the same bytes/4 media-as-text false refusal as #4111 (third unpatched instance) | opencode V2 降级直发门与 #4111 同病:bytes/4 把媒体当文本,大图请求假拒(第三处未修实例) #4121 记录的第三个未修实例。
  3. 影响范围与严重程度:仅影响命中直发降级窗口、且请求内联媒体足够多使 raw/4 超过声明窗口的 OpenCode V2 用户;正常 proxy 路径流量不受影响,纯文本超窗请求仍被正确拒绝。p2:有绕行(等 proxy 恢复自动直发),无数据丢失、无持久损坏。
  4. 怎么修复的:复用 [PR] fix(#4111): dsh unattributed gate — core-text byte math, stop billing base64 media as text #4119 的媒体字节 walker 做两段判定——stage 1 保留原 raw-bytes/4 快筛(窗口内 body 零新增成本、不解析 JSON);stage 2 只对 would-refuse 的 body 运行,从核心文本字节里扣掉结构识别出的内联媒体(base64/redacted_thinking data、data: URL、input_audio.data、inlineData.data;pasted-as-text 的 base64 不算),核心文本单独仍超窗才拒绝。malformed JSON → walker 返回 0 → 退回旧行为(fail-closed)。两个拒绝分支(unavailable / busy-exhausted)共用这一个判定点。DSH walker 逐字移入新模块 src/agent/media-bytes.ts,dsh-native 保留 re-export,既有 import 路径不变。
  5. 是否有回归问题:无。逐项审过的既有行为及结论:
    • stage 1 快路径(raw/4 ≤ window 放行):保持,零新增成本;
    • 纯文本超窗拒绝:保持(测试钉住);
    • 以文本内容粘贴的 base64/data URL:仍按文本计费、仍拒绝(测试钉住,防「见 base64 就算媒体」误伤);
    • malformed body:walker 返回 0,拒绝行为不变(测试钉住);
    • fail-open guards(未知模型/窗口、body 不可读):不变;
    • DSH 侧:函数逐字迁移,dsh-native 套件 65/65 绿;
    • 高危模式逐项过:无 fail-fast 变吞错(parse 失败仍 fail-closed)、无阈值/时序漂移(window 来源未动、未引入 1M floor)。
    • 行为变更披露(PR 描述已述大部分):① 降级窗口内、raw/4 超窗但核心文本/4 不超窗的图多请求——旧值:本地拒绝;新值:直发 provider。这就是修复本身;② 拒绝报错里的字节数字从 raw bytes 变为 core-text bytes(仅拒绝路径,数字更准确)。
  6. 是否破坏缓存:不涉及。gate 只在本地发送前决策路径运行,wire 载荷逐字节转发不变(测试断言原 body 原样发出)。
  7. 是否改了设计方向:没有。沿用 dsh 车道既有的两段 doom-predicate 设计(DSH's unattributed over-limit gate prices base64 images as text (bytes/4) — media-heavy requests are falsely rejected wi | dsh 无归属超限门把 base64 图片当文本计价(bytes/4)——媒体重的请求被假拒 422,上游本会正常接受 #4111/[PR] fix(#4111): dsh unattributed gate — core-text byte math, stop billing base64 media as text #4119),只把共享 walker 抽成无依赖模块。opencode V2 direct-degrade gate has the same bytes/4 media-as-text false refusal as #4111 (third unpatched instance) | opencode V2 降级直发门与 #4111 同病:bytes/4 把媒体当文本,大图请求假拒(第三处未修实例) #4121 的两个决策点按最小面处理:未引入 DSH 的 1M-token floor(声明窗口语义不变);两分支全覆盖。
  8. 是否引入新配置:没有。无新 env、无 config 字段、无默认值变化。

测试有效性

18 个新 route 测试满足 #3617 双向断言纪律:正向(三种 wire 形状 openai/responses/anthropic × 两种拒绝原因均放行)+ 负向(text / mixed / pasted-as-text / malformed 四类仍拒绝)。我独立做了修复前回放(pr4158^ == master 叠放 PR 测试文件):恰好六个 image 子测试失败、四个 guard case 全过——与 PR 描述一致,测试有牙,同时钉住修复前缺陷与修复后不变量。既有「proxy down + provably over window」route 测试继续通过。

diff 整洁度

五个文件(+117/-54),每一行都服务于本目的;reference/architecture.md 按 AGENTS.md 模块图规则同步更新;无空白 churn、无无关改动。

其他核查

判定:可合并。 全部 CI 车道在 pushed head e218d0692 上绿。

@ranxianglei

Copy link
Copy Markdown
Owner

(ai: zhipuai-lb/glm-5.3)

已并入合并列车 #4525(master 6d7c587,合并方式 merge commit,提交保留原作者署名)。本 PR 关单收尾;若列车中对应提交出问题,回滚点为 #4525 单提交 revert。

感谢 @Y-fyan 的贡献——你的提交以原作者署名随列车进入 master(合并方式为 merge commit),仓库贡献者列表可见。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

Projects

None yet

2 participants