Skip to content

Root fix: server-side size-evidence ledger + preflight verdict state machine (fold-budget/eligibility B-class family) #3977

Closed

Description

@ranxianglei

病理(为什么这一族 bug 层出不穷)

知识与政策熔合在 if 链里,而知识无类型、无归属。 preflightCompressIfNeeded(src/server.ts:3089-3788,约 700 行)每回合回答"直接放行还是先折",所需知识(真实 token 数、窗口、拒签史、校准系数)永远不完整且随事故增长。每次事故的修法都是"在疼的地方加一个分支 + 一个 store":

  1. 忘咨询边组合爆炸——第 N 个逃生口只认识它出生时已存在的 store(N×(N-1) 条"忘了咨询"的边),类型系统看不见(全住在 session.metadata 无类型袋子里)。[Bug][preflight] Local 413 is forgotten when the baseline becomes an estimate, reopening oversized probes #3846 教科书:probeForEvidence(billion-context 卡死问题 —— 上报材料 usage获取不到导致上下文估计失误 #2313)无法咨询 localRefusals(当时不存在);[PR] fix: remember local preflight 413 refusals so estimate demotion cannot reopen oversized forwards #3867 手工插 4 处;第 5 个口必再漏。
  2. 失效规则各自为政——dead-ranges 的 subsumption、deadEnd 的 until、autoFoldBackoffUntil、highWater 原地纠正([bug] DSH: Cross-model outputBudgetHighWater restored as-is into GLM request → upstream 400 invalid max_tokens param | [bug] DSH :跨模型的 outputBudgetHighWater 被原样还原进 GLM 请求 → 上游 400 max_tokens参数非法:限制数值范围[1,131072](restore 与 clamp 都不受"已知输出上限"约束) #3833),矛盾时只能靠 if 顺序仲裁。
  3. 无世界模型——估算/硬证据/未知在 if 链里是同一种 number(任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839 估算被当事实、[Bug] 新会话(无 usage 基线)preflight 把字符数当 token——折叠其实成功(2263796→1111212)却 fail-fast 502,上游实际只计费 540828 #3146 未知被当估算、[preflight] Failure headline mixes calibrated size and raw stats, and labels input budget as model window #3663 两把尺子混用,三症状一病)。
  4. 学习环选择偏差——校准环只从成功 usage 学习;溢出 400 自带真实 token 数却被丢弃([BUG] acp-proxy upstream HTTP 400: Request with 1,198,269 tokens exceeds the model's 1,048,576 token limit, consistently | [BUG] acp-proxy upstream HTTP 400:请求 1,198,269 tokens 超过模型上限 1,048,576,一直复现——是插件压缩未生效,还是 DSH 的问题? #3900 无限 400 不自愈)。

内核侧同病同疗已验证:#2638=recommend/apply 两个真源,#3236 修法=两个真源→一个真源(unit-projection)。本 issue 把同一疗法搬到服务端:内核守"WHAT is foldable"(已由 #3236/#3371 完成),服务端守"WHETHER folding suffices"(本 issue)。

目标(两条不变量)

纪律:先打桩,盯住测试和证明,然后开干

现有覆盖:probe 口×拒签证据(#3846 a/b)、模型/origin 独立性(c/d)、verdict 分类(#3918)、死段/三路退避(#2660)。先补钉未覆盖的边,全绿后才动代码:

迁移(4 个独立 PR,每步可回滚)

  1. 纯抽取(零行为变化):账本 facade + 状态机枚举落地,判定结果逐字节不变;验收=全量测试+行为钉([Kernel Initiative] Transactional folding boundaries + wire byte fidelity (unified prefix cache fix #3938, kernel side) | [kernel 专项] 折叠边界事务化 + wire 字节保真(前缀缓存统一修复 #3938 内核侧) #3939 风格)+invariant-judge([PR] feat: invariant judge GA — default-on L1 advisory, egress chokepoint, loop continuity, bounded exemptions (#3938 PR-A) #3944)全绿。
  2. 改插点:8 个口改走 fitEvidence/转移表,删 4 处 localRefusalHere 手工插点;验收=3846/3918/1839 族测试不动仍绿 + 新增"第 5 个口自动咨询证据"负测试。
  3. verdict 收敛:出口单一渲染,观测面同步。
  4. 新能力(独立拍板):learnFromOutcome(overflow-400) + 预留 FAIL_FAST(class="send-guard")(Mid-session wire/dialect switch sends one request far beyond the declared window (upstream ContextWindowExceededError); no send-time size guard #3872 的 fail-fast 化)。

兼容:第一阶段 metadata key 原样保留(读写收口),零持久化格式变化,过 §7.4 gate 4。

吞并矩阵

整族吞并:#3867/#3943/#2662/#2638 退避族、#3900 一半(校准环)、#3909 环 1/3、#3663 再生土壤。
不吞并:#3438/#3223(线协议输出 ceiling 族)、#3923(观测)、#3872 主体、#3604(非 bug)。

关联:#3916(B类状态板)、#3971(B类集成分支,本工作栈在其上)。

Activity

  1. ranxianglei commented on Oct 20, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    查重:不重复。 按关键词(preflight verdict / fold-budget / eligibility / evidence ledger)检索 open+closed issue 与 PR,无同主题在途条目。与相邻条目的关系:

    标签: bug, scope/kernel, p1(缺陷族根治;preflight 折叠判定属上下文管理/会话核心域;吞并族含 #3900 溢出 400 无限循环——特定条件下会话完全不可用且不自愈,按 2026-10-19 修订核心承诺失灵类一律 p1)。

    Triage 评估(审核先于实现):本条是 owner 写定的根治设计规格而非 bug 报告,bug 三步(复现/定位层次/方案评估)不适用原样套用,但开工前我会逐项对照集成分支代码验证其前提:

    1. 病理核实:preflightCompressIfNeeded 是否确为 ~700 行 if 链、8 个逃生口(probe/任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839/image/[Bug] 新会话(无 usage 基线)preflight 把字符数当 token——折叠其实成功(2263796→1111212)却 fail-fast 502,上游实际只计费 540828 #3146/dead-end/growthArmed 三路/doomed-413/verdict 分类)是否逐一对应到具体代码位置、localRefusalHere 手工插点是否确为 4 处([PR] fix: remember local preflight 413 refusals so estimate demotion cannot reopen oversized forwards #3867);
    2. 覆盖核实:声称已有覆盖的测试([Bug][preflight] Local 413 is forgotten when the baseline becomes an estimate, reopening oversized probes #3846 a/b probe×拒签、c/d 模型/origin 独立性、[dsh] A healthy 93%-compressed image session becomes permanently uncompressed by ordinary usage: quota → model switch → attribution loss → 413 → rewind → 3,455 dead refs → compress REFUSED forever (0.1.202) | 一个健康压缩率 93% 的图片会话被普通操作永久废掉:额度→换模型→丢归因→413→撤回→… #3918 verdict 分类、[PR] fix(#2638): stop preflight re-nominating structurally-dead spans every turn #2660 死段/三路退避)是否真实存在且绿,并确认 P-IMG/P-DIV/P-FRESH/P-LEARN 四条边确实未覆盖;
    3. 方案可行性:A(尺寸证据账本唯一权威)+ B(verdict 状态机)与内核侧 [Bug] recommend/apply 对同一区间的 turn-integrity 判定永久不一致:acp_status 反复推荐的区间被 apply 侧整段拒绝(0.1.196,Range would split N turn(s) at the protected-zone boundary) #3236「两个真源→一个真源」同构,方向成立;第 4 步 learnFromOutcome(overflow-400) 改变校准语义,按正文「独立拍板」处理——P-LEARN 先把今天的行为钉死(400-带-token 不动 k̂),翻转在第 4 步单独做。

    执行计划(基点 = b9f439e):

    现在开始步骤 0:先通读集成分支上的 preflight 区与既有测试钉,再补四条桩。进展会在本帖继续汇报。

  2. added 7 commits that reference this issue on Oct 20, 2026
  3. ranxianglei commented on Oct 20, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    先打桩完成:PR #4009 — #4009
    (base = #3971 集成分支 2026-10-20_batch-b-fold-budget;拒签证据 store 只存在于该分支,master 上没有可钉的东西。#3971 合入后把 base 改回 master,预期零冲突——本 PR 只加一个测试文件。)

    动手前对 issue 前提做了代码级核实(逐行读集成分支 b9f439e 的 preflight 全路径):

    钉了什么(tests/issue3977-preflight-escape-pins.test.ts,纯测试、零生产代码改动,本地 8/8 绿 + typecheck 干净):

    写钉过程中发现的三个事实(对迁移阶段有用,已写进 PR 描述/注释):

    1. 默认 pixels 计费下合成 PNG 约值 0 token——route 忘配 imageBilling: "bytes" 会让整个图片仲裁 regime 静默失效。初版 e2e 红灯一度像"拒签证据没生效",实际是 regime 误判;
    2. preflight walk 里 SYSTEM head 是可折叠的(walk 日志 round 1 即列出该 range)——"system 永不折"只在正常 prepare 成立;
    3. 短于 kernel minSummaryLength(50)的摘要判 unusable → exhaustion 变非确定性 → 终局裁决从 413 降为通用 502。既有裁决契约里 413 要求确定性穷尽,构造夹具必须尊重这一点。

    八问(针对本步交付):

    1. 是什么问题:本 issue 是 B 类 fold-budget 族的根修设计;本步是它的第 0 步——迁移前把四个未覆盖的边界钉成回归测试。
    2. 什么原因导致的:不涉及(本步不修缺陷,是把现状行为锁成迁移验收标准)。
    3. 影响范围与严重程度:零行为变化(tests-only);风险面仅"钉本身写错会挡住后续迁移",故每口都双向验证。
    4. 怎么修复的:6 个单元钉直调导出的 preflightCompressIfNeeded(用构造隔离到目标 gate),2 个 e2e 钉走真实 prepare/nudge(折后图片路径 + 校准环边界)。
    5. 是否有回归问题:未触碰任何生产代码,无回归面;既有 3846/3918/2660 族套件原样未动。
    6. 是否破坏缓存:不涉及。
    7. 是否改了设计方向:没有——纯执行 issue 的纪律条款。
    8. 是否引入新配置:没有。

    下一步:

  4. ranxianglei commented on Oct 20, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    迁移步骤 1(纯抽取)完成 → PR #4012(叠在 #4009 打桩 PR 之上,基线仍为 #3971 集成分支)。

    交付物(issue 目标 A/B 的第一阶段落点):

    1. 新 src/size-evidence.ts — 尺寸证据账本 facade:EvidenceGrade("usage"/"overflow"/"local-refusal"/"estimate")+ 记录形状 {kind, origin, model, window, tokens, at, grade};readBaselineEvidence(基线→单一分级记录,无出处 source 投影为 estimate = 精确的旧行为);baselineFloor(纯函数化 emergency shrink / preflight 的本地估算用错了视图:超长会话(客户端历史 127 万,压缩后 outbound 仅 ~16 万)在上游失败无 usage report 时,bili 按原始历史估算 #1492 floor 规则 + DSH: 切换模型后,preflight 在窗口远未满时提前触发压缩 #1933 F2 跨源降级);hasOverflowEvidence(PR #489 后续: 默认图片计费 b64/4 在像素 tile 计费上游(官方 Anthropic/OpenAI)会硬 502 误杀多模态会话 #496/任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839/[Question] 非白名单上游(如 DeepSeek)图片按 b64/4 估算,实测高估约 100×;且该估算被写回 lastInputTokens 并自愈成 confirmed 窗口,使 #496 逃生门永久失效 #857 谓词);[Bug][preflight] Local 413 is forgotten when the baseline becomes an estimate, reopening oversized probes #3846 拒签存储(note/covers/read)逐字搬移。
    2. 新 src/preflight-verdict.ts — 目标 B 状态机枚举按类型契约落地(forward-fits / fold / forward-once-arbitrate(reason) / fail-fast(status,retryable,class) / cooldown / steady-state / congestion),每个成员文档标注对应出口位点。
    3. src/server.ts 改走 facade(net −59 行):基线块→facade 调用(F2 降级日志逐字节不变)、probe/noOverflowEvidence/estimateOnly 改读分级证据。

    零行为变化的证明方式:每处替换都做了等价性论证(grade 映射保持所有 source==="usage"/"overflow-arm" 比较含未知串;hasOverflowEvidence ≡ ¬旧条件含 undefined 边界;降级门控与 normalizeUpstreamOrigin 的 undefined 语义逐一对齐)。metadata key 原样保留,零持久化变化(过 §7.4 gate 4)。本地:typecheck 干净 + 11 个定向套件 55 测试全绿(覆盖全部触碰路径:3846/3918/3977-pins/preflight-client-abort/1933/2313/857/1800/fail-fast/headroom-clamp/1493);全量判定交 CI。

    两个刻意的范围决策(防止拆片也防止死代码):

    • fitEvidence() 不在本步——它在步骤 2 与调用方一起落地(8 个口改走转移表时才有真实消费者);
    • verdict 枚举本步不做运行时接线——接线与转移表同属步骤 2,现在强行接线只是给 700 行热路径加噪音。

    下一步:#4012 CI 绿后开步骤 2(改插点:8 个口改走 fitEvidence/转移表,删 4 处手工插点,新增「第 5 个口自动咨询证据」负测试)。步骤 4(learnFromOutcome(overflow-400) 翻转 P-LEARN 钉)继续等拍板。

  5. ranxianglei commented on Oct 24, 2026

    @ranxianglei
    OwnerAuthor

    (ai: zhipuai-lb/glm-5.3)

    孤儿 issue 清理:修复已由已合并 PR #3979 落地(含今日五列合并列车),但本 issue 未随之关闭。现补关;若该修复仍有残留问题请 reopen 并描述复现。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions