Repository navigation
Closed
Labels
Description
病理(为什么这一族 bug 层出不穷)
知识与政策熔合在 if 链里,而知识无类型、无归属。 preflightCompressIfNeeded(src/server.ts:3089-3788,约 700 行)每回合回答"直接放行还是先折",所需知识(真实 token 数、窗口、拒签史、校准系数)永远不完整且随事故增长。每次事故的修法都是"在疼的地方加一个分支 + 一个 store":
- 忘咨询边组合爆炸——第 N 个逃生口只认识它出生时已存在的 store(N×(N-1) 条"忘了咨询"的边),类型系统看不见(全住在
session.metadata无类型袋子里)。[Bug][preflight] Local 413 is forgotten when the baseline becomes an estimate, reopening oversized probes #3846 教科书:probeForEvidence(billion-context 卡死问题 —— 上报材料 usage获取不到导致上下文估计失误 #2313)无法咨询 localRefusals(当时不存在);[PR] fix: remember local preflight 413 refusals so estimate demotion cannot reopen oversized forwards #3867 手工插 4 处;第 5 个口必再漏。 - 失效规则各自为政——dead-ranges 的 subsumption、deadEnd 的 until、autoFoldBackoffUntil、highWater 原地纠正([bug] DSH: Cross-model
outputBudgetHighWaterrestored as-is into GLM request → upstream 400 invalidmax_tokensparam | [bug] DSH :跨模型的 outputBudgetHighWater 被原样还原进 GLM 请求 → 上游 400 max_tokens参数非法:限制数值范围[1,131072](restore 与 clamp 都不受"已知输出上限"约束) #3833),矛盾时只能靠 if 顺序仲裁。 - 无世界模型——估算/硬证据/未知在 if 链里是同一种 number(任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839 估算被当事实、[Bug] 新会话(无 usage 基线)preflight 把字符数当 token——折叠其实成功(2263796→1111212)却 fail-fast 502,上游实际只计费 540828 #3146 未知被当估算、[preflight] Failure headline mixes calibrated size and raw stats, and labels input budget as model window #3663 两把尺子混用,三症状一病)。
- 学习环选择偏差——校准环只从成功 usage 学习;溢出 400 自带真实 token 数却被丢弃([BUG] acp-proxy upstream HTTP 400: Request with 1,198,269 tokens exceeds the model's 1,048,576 token limit, consistently | [BUG] acp-proxy upstream HTTP 400:请求 1,198,269 tokens 超过模型上限 1,048,576,一直复现——是插件压缩未生效,还是 DSH 的问题? #3900 无限 400 不自愈)。
内核侧同病同疗已验证:#2638=recommend/apply 两个真源,#3236 修法=两个真源→一个真源(unit-projection)。本 issue 把同一疗法搬到服务端:内核守"WHAT is foldable"(已由 #3236/#3371 完成),服务端守"WHETHER folding suffices"(本 issue)。
目标(两条不变量)
- A(证据):每个 forward-once/仲裁/退避决策必须声明消费的证据 grade;
src/size-evidence.ts尺寸证据账本是唯一权威。记录形状{kind, origin, model, window, tokens, at, grade ∈ usage|overflow|local-refusal|estimate};API:fitEvidence(route, model, size)单一裁决 +learnFromOutcome(kind, sample)(400-带-token 进 k̂ 校准环)。 - B(裁决):preflight 出口收敛为显式状态机
src/preflight-verdict.ts(FORWARD_FITS / FOLD / FORWARD_ONCE_ARBITRATE(reason) / FAIL_FAST(status,retryable,class) / COOLDOWN / STEADY_STATE / CONGESTION),由【证据裁决,走环结果,fit 测量】三元组决定;失败标题从 verdict 单一渲染。8 个逃生口(probe/任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839/image/[Bug] 新会话(无 usage 基线)preflight 把字符数当 token——折叠其实成功(2263796→1111212)却 fail-fast 502,上游实际只计费 540828 #3146/dead-end/growthArmed 三路/doomed-413/verdict 分类)全部改走转移表。
纪律:先打桩,盯住测试和证明,然后开干
现有覆盖:probe 口×拒签证据(#3846 a/b)、模型/origin 独立性(c/d)、verdict 分类(#3918)、死段/三路退避(#2660)。先补钉未覆盖的边,全绿后才动代码:
- P-IMG:图片仲裁口×拒签证据
- P-DIV:任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839 分歧仲裁口×拒签证据
- P-FRESH:[Bug] 新会话(无 usage 基线)preflight 把字符数当 token——折叠其实成功(2263796→1111212)却 fail-fast 502,上游实际只计费 540828 #3146 新会话口×拒签证据
- P-LEARN:校准环边界(400-带-token 今天不移动 k̂)——第 4 步的翻转目标
迁移(4 个独立 PR,每步可回滚)
- 纯抽取(零行为变化):账本 facade + 状态机枚举落地,判定结果逐字节不变;验收=全量测试+行为钉([Kernel Initiative] Transactional folding boundaries + wire byte fidelity (unified prefix cache fix #3938, kernel side) | [kernel 专项] 折叠边界事务化 + wire 字节保真(前缀缓存统一修复 #3938 内核侧) #3939 风格)+invariant-judge([PR] feat: invariant judge GA — default-on L1 advisory, egress chokepoint, loop continuity, bounded exemptions (#3938 PR-A) #3944)全绿。
- 改插点:8 个口改走
fitEvidence/转移表,删 4 处localRefusalHere手工插点;验收=3846/3918/1839 族测试不动仍绿 + 新增"第 5 个口自动咨询证据"负测试。 - verdict 收敛:出口单一渲染,观测面同步。
- 新能力(独立拍板):
learnFromOutcome(overflow-400)+ 预留FAIL_FAST(class="send-guard")(Mid-session wire/dialect switch sends one request far beyond the declared window (upstream ContextWindowExceededError); no send-time size guard #3872 的 fail-fast 化)。
兼容:第一阶段 metadata key 原样保留(读写收口),零持久化格式变化,过 §7.4 gate 4。
吞并矩阵
整族吞并:#3867/#3943/#2662/#2638 退避族、#3900 一半(校准环)、#3909 环 1/3、#3663 再生土壤。
不吞并:#3438/#3223(线协议输出 ceiling 族)、#3923(观测)、#3872 主体、#3604(非 bug)。
Activity
ranxianglei commentedon Oct 20, 2026
(ai: vllm-qwen/qwen3.8-27b)
查重:不重复。 按关键词(preflight verdict / fold-budget / eligibility / evidence ledger)检索 open+closed issue 与 PR,无同主题在途条目。与相邻条目的关系:
2026-10-20_batch-b-fold-budget,head b9f439e):本工作栈的底座,非重复——我的分支将从该 head 切出,PR 指向集成分支,[PR] Batch-B integration: fold budget/eligibility — merge #3353 #3943 #3952 #3867 #2660 #3677 (#3916) #3971 合入 master 后再 retarget;标签: bug, scope/kernel, p1(缺陷族根治;preflight 折叠判定属上下文管理/会话核心域;吞并族含 #3900 溢出 400 无限循环——特定条件下会话完全不可用且不自愈,按 2026-10-19 修订核心承诺失灵类一律 p1)。
Triage 评估(审核先于实现):本条是 owner 写定的根治设计规格而非 bug 报告,bug 三步(复现/定位层次/方案评估)不适用原样套用,但开工前我会逐项对照集成分支代码验证其前提:
preflightCompressIfNeeded是否确为 ~700 行 if 链、8 个逃生口(probe/任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839/image/[Bug] 新会话(无 usage 基线)preflight 把字符数当 token——折叠其实成功(2263796→1111212)却 fail-fast 502,上游实际只计费 540828 #3146/dead-end/growthArmed 三路/doomed-413/verdict 分类)是否逐一对应到具体代码位置、localRefusalHere手工插点是否确为 4 处([PR] fix: remember local preflight 413 refusals so estimate demotion cannot reopen oversized forwards #3867);learnFromOutcome(overflow-400)改变校准语义,按正文「独立拍板」处理——P-LEARN 先把今天的行为钉死(400-带-token 不动 k̂),翻转在第 4 步单独做。执行计划(基点 = b9f439e):
现在开始步骤 0:先通读集成分支上的 preflight 区与既有测试钉,再补四条桩。进展会在本帖继续汇报。
refactor(#3977): Step 1 — pure extraction of the size-evidence stores…
fix(#3977): drop export on internal-only verdict/evidence types (unus…
test(#3977): P-LEARN pin gains a never-saw-the-400 control session
step 2: fitEvidence — the single adjudicator over persisted size evid…
step 4a: extract learnCalibrationSample from settleUsageReport (#3977)
step 4b: learnFromOutcome(overflow-400) — stated counts feed the cali…
test(#3977): upgrade P-LEARN-b for the step-4b flip — both directions…
ranxianglei commentedon Oct 20, 2026
(ai: vllm-qwen/qwen3.8-27b)
先打桩完成:PR #4009 — #4009
(base = #3971 集成分支
2026-10-20_batch-b-fold-budget;拒签证据 store 只存在于该分支,master 上没有可钉的东西。#3971 合入后把 base 改回 master,预期零冲突——本 PR 只加一个测试文件。)动手前对 issue 前提做了代码级核实(逐行读集成分支 b9f439e 的 preflight 全路径):
localRefusalHere恰有 5 处使用、跨 4 个口(probe、图片仲裁两处、任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839、[Bug] 新会话(无 usage 基线)preflight 把字符数当 token——折叠其实成功(2263796→1111212)却 fail-fast 502,上游实际只计费 540828 #3146),noteLocalRefusal3 处写入——与 [PR] fix: remember local preflight 413 refusals so estimate demotion cannot reopen oversized forwards #3867 手工插点吻合,"忘咨询边"这一族确实存在且类型系统看不见;settleUsageReport(仅被三处真实 usage 报告调用)——带 token 数的溢出 400 今天确实不移动 k̂,[BUG] acp-proxy upstream HTTP 400: Request with 1,198,269 tokens exceeds the model's 1,048,576 token limit, consistently | [BUG] acp-proxy upstream HTTP 400:请求 1,198,269 tokens 超过模型上限 1,048,576,一直复现——是插件压缩未生效,还是 DSH 的问题? #3900 的一半成立。钉了什么(
tests/issue3977-preflight-escape-pins.test.ts,纯测试、零生产代码改动,本地 8/8 绿 + typecheck 干净):overflow-arm+ 声明窗口锚定),但 k̂ 五项状态前后 deep-equal。这就是第 4 步learnFromOutcome(overflow-400)的刻意翻转目标,届时这个钉会红,红了就是对的。写钉过程中发现的三个事实(对迁移阶段有用,已写进 PR 描述/注释):
imageBilling: "bytes"会让整个图片仲裁 regime 静默失效。初版 e2e 红灯一度像"拒签证据没生效",实际是 regime 误判;minSummaryLength(50)的摘要判 unusable → exhaustion 变非确定性 → 终局裁决从 413 降为通用 502。既有裁决契约里 413 要求确定性穷尽,构造夹具必须尊重这一点。八问(针对本步交付):
preflightCompressIfNeeded(用构造隔离到目标 gate),2 个 e2e 钉走真实 prepare/nudge(折后图片路径 + 校准环边界)。下一步:
learnFromOutcome(overflow-400)按 issue 标注属"独立拍板"——我会另列选项与影响面等你拍板,不擅自开工。ranxianglei commentedon Oct 20, 2026
(ai: vllm-qwen/qwen3.8-27b)
迁移步骤 1(纯抽取)完成 → PR #4012(叠在 #4009 打桩 PR 之上,基线仍为 #3971 集成分支)。
交付物(issue 目标 A/B 的第一阶段落点):
src/size-evidence.ts— 尺寸证据账本 facade:EvidenceGrade("usage"/"overflow"/"local-refusal"/"estimate")+ 记录形状{kind, origin, model, window, tokens, at, grade};readBaselineEvidence(基线→单一分级记录,无出处 source 投影为 estimate = 精确的旧行为);baselineFloor(纯函数化 emergency shrink / preflight 的本地估算用错了视图:超长会话(客户端历史 127 万,压缩后 outbound 仅 ~16 万)在上游失败无 usage report 时,bili 按原始历史估算 #1492 floor 规则 + DSH: 切换模型后,preflight 在窗口远未满时提前触发压缩 #1933 F2 跨源降级);hasOverflowEvidence(PR #489 后续: 默认图片计费 b64/4 在像素 tile 计费上游(官方 Anthropic/OpenAI)会硬 502 误杀多模态会话 #496/任何一轮没有拿到 usage 报告的请求,都会把上下文分母放大 12–20×(nudge 读到 >1000% usage、假 EMERGENCY、基线冻结数分钟) #1839/[Question] 非白名单上游(如 DeepSeek)图片按 b64/4 估算,实测高估约 100×;且该估算被写回 lastInputTokens 并自愈成 confirmed 窗口,使 #496 逃生门永久失效 #857 谓词);[Bug][preflight] Local 413 is forgotten when the baseline becomes an estimate, reopening oversized probes #3846 拒签存储(note/covers/read)逐字搬移。src/preflight-verdict.ts— 目标 B 状态机枚举按类型契约落地(forward-fits / fold / forward-once-arbitrate(reason) / fail-fast(status,retryable,class) / cooldown / steady-state / congestion),每个成员文档标注对应出口位点。src/server.ts改走 facade(net −59 行):基线块→facade 调用(F2 降级日志逐字节不变)、probe/noOverflowEvidence/estimateOnly 改读分级证据。零行为变化的证明方式:每处替换都做了等价性论证(grade 映射保持所有
source==="usage"/"overflow-arm"比较含未知串;hasOverflowEvidence≡ ¬旧条件含 undefined 边界;降级门控与normalizeUpstreamOrigin的 undefined 语义逐一对齐)。metadata key 原样保留,零持久化变化(过 §7.4 gate 4)。本地:typecheck 干净 + 11 个定向套件 55 测试全绿(覆盖全部触碰路径:3846/3918/3977-pins/preflight-client-abort/1933/2313/857/1800/fail-fast/headroom-clamp/1493);全量判定交 CI。两个刻意的范围决策(防止拆片也防止死代码):
fitEvidence()不在本步——它在步骤 2 与调用方一起落地(8 个口改走转移表时才有真实消费者);下一步:#4012 CI 绿后开步骤 2(改插点:8 个口改走
fitEvidence/转移表,删 4 处手工插点,新增「第 5 个口自动咨询证据」负测试)。步骤 4(learnFromOutcome(overflow-400)翻转 P-LEARN 钉)继续等拍板。test: pin preflight escape-hatch × local-refusal edges + calibration …
test: re-pin P-FRESH log strings after the #4185 regime rename (#3977)
test: pin preflight escape-hatch × local-refusal edges + calibration …
refactor: extract size-evidence ledger facade + land preflight verdic…
test: re-pin P-FRESH log strings after the #4185 regime rename (#3977)
Merge pull request #3979 from ranxianglei/2026-10-20_size-evidence-le…
ranxianglei commentedon Oct 24, 2026
(ai: zhipuai-lb/glm-5.3)
孤儿 issue 清理:修复已由已合并 PR #3979 落地(含今日五列合并列车),但本 issue 未随之关闭。现补关;若该修复仍有残留问题请 reopen 并描述复现。