Skip to content

Claude Opus 5 经中转被当 200K 用:models.dev 查找被 host 门槛旁路 + 面板硬编码 200K 兜底 + 变体后缀失配 + 自愈只降不升 #392

Closed

Description

@wosnxn123

症状(2026-08-31 实机)

NewAPI 中转(Anthropic 官方 /v1/messages 格式)提供 claude-opus-5(1M 上下文),经 bili --upstream <relay> 时 /acp 面板与窗口判定显示 200K。同日 bili.log 的 A/B 直接证据(10899/10902 行):

  • claude-opus-5 → effectiveContextLimit 1,000,000
  • claude-opus-5-thinking → 200,000

后果:窗口报小 → 提前触发压缩/截断,且自愈机制只能下调不能上调(下详),用户侧表现为"1M 模型被当 200K 用"。

根因(四层,bili 0.1.66,HEAD 0.1.67 仍在)

  1. models.dev 查找被 host 门槛旁路:server.ts:831-842(dist 56022-56029)窗口链 betaWindow ?? pluginWindow ?? launcherWindow ?? configuredWindow ?? peekWindow ?? lookupContextLimit(model);peekWindow = host ? peekRegistryContext(model, host) : void 0——而 host 来自 resolveUpstream(server.ts:234-282),仅在 MITM 终止或 /bili/<绝对URL> 零配置前缀下有值,--upstream 常规模式下恒 undefined → models.dev 查找与 dist 56025/server.ts:850 的异步升级一起被跳过 → 落入静态表 config.ts:121 { match: /^claude-/i, limit: 200_000 }。讽刺点:bili 自带快照(dist 48116,fetchedAt 2026-08-24)已含 anthropic/claude-opus-5 → context: 1e6,且 relay 后缀扫描(registry.ts:271-281,dist 48300)对 host=undefined 本可工作——门槛完全多余(未知 host 时 providerFromHost 返回 undefined,那个候选根本不会构建)。
  2. 面板硬编码兜底 200K:plugin.ts:330(dist 53827)limit > 0 ? limit : 200000;且 metadata.effectiveContextLimit 只在 plugin 模式写入(server.ts:1077 位于 if (pluginAgent) 块内)→ wire 模式会话面板永远印 200K,无论实际解析到什么。
  3. 变体后缀不识别:-thinking 类模型名查不到任何条目(见 A/B 证据),回落静态表。
  4. 自愈只降不升:server.ts:1111 仅在 learnedLimit < modelContextLimit 时修正——过小猜测永远不会被溢出证据纠正(config.ts:150-155 与 bili出现连续压缩情况 #282 记载的老 treadmill)。
    另注:200_000 字面量同现三处(config.ts:121 / config.ts:156 floor 100K 语义相邻 / plugin.ts:330,以及 ACP_MODEL_CONTEXT_LIMIT 默认 2e5 config.ts:290)。

次要不快(顺带修)

omp 的 bili provider 声明 api: anthropic-messages + discovery: openai-models-list(本机 models.yml:144-150 实证),模型枚举探针 GET <base>/models 不被 server.ts:700-714 的分类器(仅 POST + chat/completions|/v1/messages|/messages|/responses 后缀)识别 → 合法一类行为被记 warn: unrecognized path ... forwarding unchanged(取证窗口 16:01-16:19 共 10385-10972 行区段刷屏)。功能无损,但应把 /models 归类为已知发现路径,降 info/debug。

建议修复

  • 去掉 host 门槛:无条件调用 peekRegistryContext(model, host)(host 可空);
  • effectiveContextLimit 全模式写入(把 server.ts:1077 的赋值挪出 pluginAgent 块);删 plugin.ts:330 字面量,无值时显示 unknown 而非假 200K;
  • 模型名归一化:剥 -thinking/-high 类推理后缀后再查表;
  • 自愈允许上调(有明确溢出反证 + 上限护栏);
  • 合法路径优先于静态表:评估把 /^claude-/ 静态兜底降级为最后手段。

验收标准

Activity

  1. ranxianglei commented on Aug 31, 2026

    @ranxianglei
    Owner

    请处理这个 issue 并回复处理结果

  2. wosnxn123 commented on Aug 31, 2026

    @wosnxn123
    Author

    【防误关提醒 · 处理本票前先改 #416 的 Fixes 行】GitHub 当前把 PR #416 显示为本 issue 的 closing PR,但 #416 的实际内容(omp plugin install/remove 幂等修复:extensions 块内作用域匹配 + 存在性校验 + 覆盖层重定向)对应的是 #393,其正文首行 "Fixes #392." 系生成 PR 时的工单号错链(同批 #415/#416/#418 存在互相串号:#415 挂着 Fixes #394、#418 标题写 (#412) 实为 #413 的修复)。若按现状合并 #416,#392 会被自动关闭,而本票的四层真缺陷均未处理:①models.dev 查找被 host 门槛旁路(peekRegistryContext 仅在 MITM/零配置前缀下调用,--upstream 常规模式恒落静态表);②面板硬编码 200K 兜底且 effectiveContextLimit 仅 plugin 模式写入;③-thinking 等变体后缀查表失配(本机日志 A/B 实录:claude-opus-5→1M、claude-opus-5-thinking→200K);④自愈只降不升。请:合并 #416 前把其 Fixes 行改为 #393;#392 按上述四点单独处理。

  3. ranxianglei commented on Aug 31, 2026

    @ranxianglei
    Owner

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    已处理,PR: #424 (Fixes #393)。四层真缺陷 + 一个次级问题全部修复:

    1. models.dev 查找被 host 门槛旁路 — peekRegistryContext / contextFromRegistry 原本只在解析出 host(MITM / /bili/<absURL> 模式)时才查,--upstream 常规模式恒落静态表(/^claude-/ → 200K)。已去掉 host 门槛,无条件查表;relay host(不在 HOST_TO_PROVIDER)走既有的 */<model> 后缀扫描。bundled snapshot 里本来就有 anthropic/claude-opus-5 → 1,000,000。

    2. 面板硬编码 200K 兜底 + effectiveContextLimit 仅 plugin 模式写入 — wire 模式会话从不写 metadata.effectiveContextLimit,面板恒显示 200K。现在 effectiveContextLimit 在所有模式都记录(self-heal + output-headroom 之后的最终值);面板在无真实值时显示 0(诚实的 0% (x / 0))而非伪造的 200K。

    3. 变体后缀失配 — claude-opus-5-thinking 不是 registry key(只有 base claude-opus-5)。registryLookup 现在按 modelVariants 逐级剥后缀(-thinking / -reasoning / -high / -medium / -low / -fast / -extended / -interleaved-thinking,长者优先),变体解析到 base 模型的窗口。已知 provider host 保持旧的"不后缀扫描"行为。

    4. 自愈只降不升 — overflow 只能证明窗口偏小;偏小的 fallback 永不 overflow(提前压缩),所以从不被上调。新增上调路径:当低置信 fallback(nativeFromFallback)生效、且上一成功回合报告的 input 超过了它当时测量的窗口(lastTurnWindow)时,把窗口上调到该 input 并按 model 持久化到 learnedContextLimits。"恰好塞进更大窗口(如 beta)"不算证据(prevInput > prevWindow 门槛)。

    5. 次级 — GET /models(omp 的 openai-models-list discovery)原先记 warn 级 "unrecognized path",现归类为已知 discovery 路径。

    测试:新增 tests/issue-393-registry-window.test.ts(6 个)覆盖:modelVariants 单测、-thinking 变体 → 1M、--upstream 模式(无 /bili/ 前缀、host === undefined)下 claude-opus-5 与 claude-opus-5-thinking 均解析到 1,000,000(验收①)、wire 模式(无 x-bili-plugin)写入 effectiveContextLimit(验收②)、自愈上调(验收③;下调方向已由 e2e-overflow-selfheal 覆盖)、GET /models 不再 warn(对照断言未知路径仍 warn)。

    预检:typecheck ✅ / test ✅ 874 pass / build ✅。E2E(e2e-codex)本环境无 codex 二进制(spawn codex ENOENT)跳过,改动路径已由上述单测/集成测试覆盖。

    关于 #416 误链:本 PR 的 Fixes #393 是有意为之。当前挂在本票的 PR #416(omp plugin install/remove 幂等)正文 Fixes #392. 是生成批次的串号(#415→#394、#416→#392、#418 标题写 #412 实为 #413 的修复)。若按现状合并 #416 会误关错误 issue 而本票四层缺陷仍未处理。我无法从这里编辑其它 PR 的正文——请在合并 #416 前修正/移除其 Fixes 行。

  4. added a commit that references this issue on Sep 4, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions