Skip to content

fix: 用 Codex 当前可用窗口替代过期的 272K 对齐回退 - #2594

Merged
ranxianglei merged 1 commit into
ranxianglei:masterfrom
overFloweee:2026-10-10_codex-live-context-window
Oct 10, 2026
Merged

ranxianglei merged 1 commit into
ranxianglei:masterfrom
overFloweee:2026-10-10_codex-live-context-window

Conversation

@overFloweee

Copy link
Copy Markdown
Contributor

Codex 新模型缺席于 bili 发布时的模型表时,代理把客户端当前可用窗口重新裁到 272K 回退,长会话因此触发不必要的 preflight 502。本 PR 让已有的客户端窗口上报优先,并在无上报时读取本机 Codex 元数据;保留无证据情况下的原有回退。

Fixes #2593

问题和结果

gpt-6.1-sol 的当前模型缓存给出 context_window=373000、max_context_window=872000、有效比例 95%,基础配置给出 model_context_window=1048576。客户端可用窗口为 828,400,输出预留 128,000 后为 700,400;旧实现却把同一请求裁到 272000-68000=204000。

实际排查记录显示客户端窗口为 828,400,且正式上游请求已接受 439,936 输入 tokens,随后代理仍以 204,000 拒绝请求。这里的 439,936 是上游 usage;约 507,906 是从代理失败日志推导的 preflight 估算,不能当成上游真实输入计量。修复不宣称上游最大容量,也不保证历史会话没有其他问题。

实现

  • 保持现有顺序:显式 compress.modelContextLimit 仍直接生效;未显式设置时,Codex 请求的 plugin/runtime/launcher 窗口声明优先于本机缓存和旧快照。对齐仍为 min(bili 预算, Codex 窗口),不会擅自提高 bili 的原预算。
  • 无客户端声明时,只读代理 CODEX_HOME(默认 ~/.codex)下的 models_cache.json 和基础 config.toml。只提取模型 slug、窗口和有效百分比,沿用最长前缀及单层 namespace 匹配。
  • 跟随 Codex 配置语义:有 max_context_window 时对显式窗口封顶;无该字段时采用显式配置;未配置时采用模型的 context/max;最后应用 effective_context_window_percent,缺失时默认 95%,向下取整。
  • 按文件路径、inode、mtime、ctime 和 size 缓存解析结果;后续请求跟随缓存及配置更新。缺失、删除、不可读、坏 JSON、无匹配模型和无效数值均退回旧快照/272K,不使用失效数据。非 Codex 请求不读取本机窗口。
  • 日志不再把发布时快照回退宣称为运行中 Codex 的实际窗口。同步中英文客户端文档,并使旧快照测试使用独立 CODEX_HOME,避免依赖开发机配置。

官方语义依据:322bbf4d / ModelInfo usable_context_window;同一提交的 with_config_overrides。

回归证据

新增 10 个测试(8 个元数据/真实 preflight 测试、2 个本地 HTTP 代理测试)。

场景 断言
新模型、显式配置及最大窗口 正确使用当前元数据而不是 272K
默认/自定义有效比例 默认 95%、向下取整、无效比例拒绝
前缀/namespace/不匹配模型 保留匹配策略,不借用其他模型
缓存修改/删除/坏 JSON 下次请求更新或回退,不复用失效项
无效窗口、只有 max、缺少 max 的显式配置 遵循有效值和 Codex 覆盖语义
CODEX_HOME 隔离、当前声明优先、较小 bili 窗口 不跨 home 取值、不再次裁剪声明、保留 min
事件形状的预算计算 828,400 → 输出预留后 700,400,约 507,906 低于 90% 目标
真实 preflight 对照 同一份合成固定开销在旧 204K 预算下拒绝、正确预算下通过;摘要调用为 0
HTTP 代理 + 缓存/基础配置变更 新模型使用 828,400,配置降低后立即跟随到 95,000
HTTP 代理 + 窗口声明 800K 和 100K 都优先于旧模型表

红绿验证:在未修改的上游 8e7bb129 archive 中运行更新后的代理测试,原有 6 项通过,新增 2 项分别在 272000 != 828400 和 272000 != 800000 断言处失败;修复后的相关 26 项全部通过。这是合成回归和真实本地代理路径验证,不是导出/重放用户完整聊天。

验证

最终验证基线:8e7bb129440ff5d907f2c00c810bacc6a9517373;提交:e8748343479baf8164c841790a813df812a10c03。

  • npm run typecheck:通过。
  • npm test:5,311 项,5,283 通过,0 失败,28 跳过。
  • npm run build、dist-import-annotations、git diff --check:通过。
  • ACP_TEST_E2E_FAKE=1 node --import tsx --test tests/e2e/e2e-codex-fake.test.ts:真实 Codex CLI 0.161.0 + 本地假上游,8/8 通过,零模型额度。
  • E2E_CHECK=1:CLI/dist 可用;本地真实上游 127.0.0.1:8199/v1/models 不可达。未执行需真实模型的 ACP_TEST_E2E=1 四阶段验证。

边界

本机缓存只能代表代理自身 CODEX_HOME 下的基础配置。远程客户端、其他 profile、CLI -c 覆盖及自定义 catalog 应继续使用已有 launcher/runtime 窗口上报或显式 compress.modelContextLimit;本 PR 不推测代理之外的配置。有效百分比和 bili 输出预留均保留,采用保守的输入预算。

独立于 #2541 的取消生命周期修复;不包含摘要校准量尺、WS 接入、配置 schema、环境变量、kernel、版本或依赖变更。未修改运行中的插件、未重启 App,合并及发布由维护者决定。

@ranxianglei
ranxianglei merged commit 059d67c into ranxianglei:master Oct 10, 2026
26 checks passed
@github-actions

Copy link
Copy Markdown
Contributor

📦 Merged Build Published

This merge to master was published as 0.0.214-master.059d67c (rolling master tag).

npm install -g billion-context@0.0.214-master.059d67c  # this exact build
npm install -g billion-context@master  # always the newest merged build

npm view billion-context@master prints the current version at any time.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

Codex 新模型被旧快照的 272K 回退误裁剪,触发不必要的 preflight 502

2 participants