Skip to content

fix: 让压缩图片历史先减量,再检查发送字节预算 - #2613

Merged
ranxianglei merged 1 commit into
ranxianglei:masterfrom
overFloweee:2026-10-10_image-request-budget
Oct 10, 2026
Merged

ranxianglei merged 1 commit into
ranxianglei:masterfrom
overFloweee:2026-10-10_image-request-budget

Conversation

@overFloweee

@overFloweee overFloweee commented Oct 10, 2026 •

Copy link
Copy Markdown
Contributor

实际使用背景

这个问题来自 macOS 上通过 bili 代理 Codex Desktop agent 请求的一次多轮界面设计会话。图片、设计稿和工具截图不断进入历史,旧图片中的 data URL/base64 随请求携带,使 JSON 正文字节量逐渐增大。实际请求遇到了 413 decompressed request exceeds 104857600 bytes,拒绝发生在 JSON 解析、历史折叠和显式图片减量之前。

离线按历史结构近似重建,得到以下量级:

内容 近似大小
gzip 压缩后的请求体 69.78 MiB
解压后的 JSON 100.10 MiB
去掉历史图片 data URL 后的 JSON 5.38 MiB

这些是离线近似值,不是完整 HTTP 抓包的精确大小;没有导出真实聊天或图片。它们说明了触发机制:压缩正文可以通过 100 MiB 接收上限,解压后却略超同一上限,于是在已有减量策略有机会执行之前就被拒绝。即使操作者显式启用了 stripImages,也无法到达该处理阶段。去掉 data URL 的对照仅用于理解字节来源,不代表本 PR 会默认丢弃图片。

用户需要的是受限处理空间,而非无限放大请求上限:在保留原始接收与最终发送 100 MiB 边界的前提下,让已识别的压缩请求在有硬上限、并发限制和取消处理的空间内进入现有减量流程。只有显式减量或历史折叠能将最终正文降到发送预算内时才允许转发;否则仍明确拒绝。此处的 413 属于请求字节预算层,与 #2594 的模型 token 窗口对齐是不同约束,不承诺任意历史或原会话已经恢复。

问题与改动

压缩的图片历史解压后略超 100 MiB 时,旧入口在 JSON 解析和已有图片减量之前就返回 413;即使操作者已启用 stripImages,也到不了该策略。本 PR 将接收、解压处理和重建发送分开设限,让显式减量有机会执行,同时保持原始接收与最终发送的 100 MiB 边界。

Fixes #2606

行为和实现

边界 最终行为
原始 HTTP 接收 保留 100 MiB 上限
已识别、非 passthrough 的压缩模型请求 每层解压上限 200 MiB,解压过程中计数和检查
大解压请求并发 每进程最多两个超过 100 MiB 的活动请求;第三个返回 503 request_body_busy / stage: decode / Retry-After: 1
重建后的发送正文 UTF-8 string / Buffer 不超过 100 MiB,初次发送超限返回 413 / stage: forward
解压阶段客户端断开 停止流式解压,最终释放大请求名额;不联系正式上游
已发送 SSE 响应头 通过现有流错误通道结束,避免改写已提交的响应头
  • request-body-budget.ts 集中内部字节预算和大请求名额;普通请求不占名额。
  • 解码器的进度回调在保存下一块数据前检查名额,硬上限继续逐层生效;deflate 的兼容回退不吞掉大小、名额或取消错误。同步 zstd 只能在同步检查点观察取消。
  • handle 包装保持原公开签名,使用 finally 回收名额。真正损坏/不支持的编码保留既有原始转发语义。
  • relay 在所有初次正文变换后检查最终大小;共享 fetchWithTimeout 在 fetch 和 watchdog 分配前检查 string/Buffer,防止后续重发绕过发送预算。
  • 不修改 Kernel、配置 schema、CLI/env 表面、版本或依赖;不默认开启剥离或缩图。双语设计与边界见 reference/request-body-budget.md。

回归证据

新增 10 个测试,使用合成数据和隔离状态目录;未导出真实聊天/图片,未调用外部模型。

测试 核验
名额单元测试 两个大请求、普通请求免费、重复 observe/release 幂等
分层解码 gzip / Brotli 叠加 / raw deflate 硬上限;名额错误不走兼容回退
取消单元测试 预先取消及解码中取消
UTF-8 发送预算 多字节文本按字节检查,拒绝发生在 fetch/watchdog 前
真实 HTTP 图片减量 gzip 解压略超 100 MiB,普通图片及工具截图均减量后转发,最近图片字段保留
关闭剥离 不自动丢图;重建仍超限时 forward-stage 413,正式上游 0 次
大请求名额耗尽 第三个 503;同时普通 HTTP 请求成功;释放后大请求成功
解压炸弹 / 非 JSON 超 200 MiB 在 decode 拒绝;略超 100 MiB 的损坏 JSON 不能走原始转发逃逸;后续小请求正常
HTTP 解码中断开 确认已跨大请求阈值再断开;正式上游 0 次,两个名额可重新取得
SSE 已提交响应头 保持已提交状态,通过流错误结束;正式上游 0 次

红绿对照:从未修复上游 e1cd9e11c618fd4376803a415144f4a35d6ad057 的 archive 运行同一个 gzip 历史 HTTP 回归。旧 HTTP/解码路径保持原样,只复制测试及其引用的未接入旧运行路径的预算 helper。断言在旧版明确失败:413 !== 200,错误为 decompressed request exceeds 104857600 bytes;修复版通过。不是 import/依赖失败,也不是逐字节真实聊天抓包。

最终验证

  • 验证基线:9ab9d400aa01d648966cf2b5d920caf96476823b;最终 head:92fb3d08c47eeaf0b53763d4fd4a7c764f33e6b5。
  • npm run typecheck:通过。
  • npm test:5358 项,5330 通过,0 失败,28 跳过。
  • npm run build:通过;dist-import-annotations:OK;构建产物标记为 92fb3d08。
  • 相关定向回归:30/30 通过;未使用导出检查与 git diff --check 通过。
  • 真实 Codex CLI 0.161.0 + 最终 bili 构建 + loopback fake 上游:8/8 通过,零模型额度。
  • 真实图片计费/管线 fixture + loopback 上游:5/5 通过。
  • E2E_CHECK=1:CLI/dist 可用,但 http://127.0.0.1:8199/v1 的 models 接口不可达;真实外部模型 ACP_TEST_E2E 四阶段未执行。
  • 类型检查、全量测试、构建顺序执行;构建产物回归在构建完成后才启动。
  • 同步上游新加的 wire 字符清理后,将发送预算门移到最终正文处,保留上游清理/签名语义。补充新模块的架构地图登记;仍为 1 个提交、9 个文件。
  • 验证期间 master 前进到 059d67c7e9c5b3e7f9f9c03bfe99ce73c6f5fb0a(6 个提交),变更是模型发现/窗口对齐及文档;handle 中的对齐变更不触及本 PR 的解码预算区域。git merge-tree --write-tree upstream/master HEAD 无冲突。以上本地验证对应固定基线/head,不冒充后续合并树的验证。

实际限制

  1. 200 MiB 和两个大请求名额限制的是额外大正文,不是总 RSS。原始/解压缓冲、JSON、会话状态和普通并发请求仍有内存开销;本 PR 没有引入流式 JSON 解析器,也没有承诺无限历史可处理。
  2. 减量策略没启用或不能把正文降到发送预算内时,仍会明确拒绝。未压缩 HTTP 正文、WebSocket 上限、未识别/显式 passthrough 压缩正文保留原有边界。
  3. 图片归档/恢复生命周期未改。深入分析另外复现了归档写入失败后仍剥离的既有问题,已独立记录 stripImages 在原图归档失败后仍剥离图片,imageRef 无法恢复 #2608;本 PR 不声称无损归档或恢复保障。
  4. 字节预算与模型 token 窗口是不同约束;本 PR 不设置上游实际容量,也不混入 fix: 用 Codex 当前可用窗口替代过期的 272K 对齐回退 #2594 的窗口对齐或 fix: 客户端断开后阻止 preflight 继续转发正式请求 #2541 的取消生命周期修复。
  5. 测试证明合成链路行为,不代表已恢复任何既有聊天。运行中的插件和桌面配置未更新,未部署/重启。

@ranxianglei
ranxianglei merged commit ae7d9c0 into ranxianglei:master Oct 10, 2026
26 checks passed
@github-actions

Copy link
Copy Markdown
Contributor

📦 Merged Build Published

This merge to master was published as 0.0.237-master.ae7d9c0 (rolling master tag).

npm install -g billion-context@0.0.237-master.ae7d9c0  # this exact build
npm install -g billion-context@master  # always the newest merged build

npm view billion-context@master prints the current version at any time.

This was referenced Oct 10, 2026
YunzhouLi-hub pushed a commit to YunzhouLi-hub/billion-context that referenced this pull request Oct 11, 2026
…-request-budget test

ranxianglei#2688 removed compress.stripImages/stripImagesKeepRecent from CompressSettings, but ranxianglei#2613's image-request-budget test (merged after ranxianglei#2688) still referenced them, breaking master typecheck. Drop the dead keys from the fixture config and the inert stripImages=false toggle line; keep every assertion intact (over-budget rebuilt request -> forward-stage 413, no upstream contact). Zero behavioral change.
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

压缩图片历史在减量前被 100 MiB 解压上限拒绝:分离有界接收与转发字节预算

2 participants