You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
{{ message }}
Repository navigation
[Bug][dsh][ingest] The 32 MiB ingest cost is measured against the pre-folding inbound body: a normal session folded down | [Bug][dsh][ingest] 32 MiB 摄入成本带量的是折叠前入站体:折叠到 446 KiB 的正常会话被永久 413 #6908
changed the title [-][Bug][dsh][ingest] 32 MiB 摄入成本带量的是折叠前入站体:折叠到 446 KiB 的正常会话被永久 413[/-][+][Bug][dsh][ingest] The 32 MiB ingest cost is measured against the pre-folding inbound body: a normal session folded down | [Bug][dsh][ingest] 32 MiB 摄入成本带量的是折叠前入站体:折叠到 446 KiB 的正常会话被永久 413[/+]on Nov 16, 2026
Activity
[-][Bug][dsh][ingest] 32 MiB 摄入成本带量的是折叠前入站体:折叠到 446 KiB 的正常会话被永久 413[/-][+][Bug][dsh][ingest] The 32 MiB ingest cost is measured against the pre-folding inbound body: a normal session folded down | [Bug][dsh][ingest] 32 MiB 摄入成本带量的是折叠前入站体:折叠到 446 KiB 的正常会话被永久 413[/+]ranxianglei commentedon Nov 16, 2026
(ai: vllm-qwen/qwen3.8-27b)
查重:不重复。 检索了 open+closed 的 issue 与 PR(ingest / 413 / ingestBodyBytes / dsh compaction / 32 MiB),无同症状同机制条目。#5794 是这条闸的引入(51.2 MiB / 29,619 条 / 5.5–7.2s 每轮 / 747s FATAL 的正当性论证),不是同一缺陷——本 issue 是它的量纲被误用到 dsh 全量重发车道。
标签:bug · dsh · scope/wiring · p2(缺陷;dsh 插件车道;协议接线层入站闸;可恢复——回退会话/调大
network.ingestBodyBytes/本修复皆可绕过,无数据丢失,不属 owner 窄 p1 两类)。结论
缺陷成立,已修。PR:#6933
1. 是什么问题
32 MiB 入站闸量的是折叠前的入站体,但 dsh 插件车道每轮把宿主整份原始账本原样重发(openai wire 无增量车道,#3433)。折叠把出站压到 446 KiB 完全有效,入站仍是 32 MiB;入站体一旦涨过闸值,此后每轮都在
JSON.parse之前被本地 413,与模型窗口、折叠效果都无关。且自锁:dsh 唯一能让 bili 替它压缩、缩小宿主账本的动作(compaction call,#3733)本身也是一次「整份历史 + 指令」的全量入站体(rc.2 重放整个影子区,#2193),闸在 parse 前抛,自愈永远到不了isDshCompactionCall。2. 什么原因导致的
闸的正当性论证(
docs/lifecycle.md§2.3)是「32 MiB+ 可解析文本体 ≥ ~8M token,超出所有真实窗口」——这把入站字节等同于模型输入。出站/增量车道成立,dsh 全量重发车道不成立:入站体 = 宿主记住多少历史(折叠基底),不是模型输入,本例差 70 倍(32.0 MiB vs 446.4 KiB)。根因是量纲错配,不是阈值设错——把 32 MiB 调成 64 MiB 只是推迟撞墙,不是修复。3. 影响范围与严重程度
x-bili-plugin: dsh)+ openai wire + 单会话入站体涨过 32 MiB(约 24h / ~10,000 条量级)。network.ingestBodyBytes/本修复皆可)。无数据丢失(宿主账本完好),不属 p1 窄两类(会话不可恢复/数据丢失、缓存泄露)。判 p2。4. 怎么修复的
在闸上加两条量纲动机的豁免(
src/server/handle.ts):x-bili-plugin: dsh→ 入站体是折叠基底,豁免。这是根因修复:全量重发车道的入站字节本就不该按模型输入量纲拒。isDshCompactionCall(bili-authored client compaction: let the host's own compaction flow run, but bili writes the checkpoint #3733 用折叠快照本地应答);误报(某轮恰好引用 marker 文案)的代价只是付一次 parse 成本,与今天低于悬崖时一致——完整 marker 判定仍在 parse 后跑。另修同线两个观测缺口:
inboundBytesOf之前对字符串报 UTF-16 码元(raw.length),host-json-parse inbound=…B现报 UTF-8 字节,与闸的byteLength同量纲(8%+ 单位差之前掩盖贴墙程度);ingest 413 日志现在 cap 旁标出实际解码字节数(之前只有 cap)。5. 是否有回归问题
6. 是否破坏缓存
不涉及。折叠/缓存/增量游标/去重键均未触碰;只改入站闸豁免条件与两处日志/计量字段。
7. 是否改了设计方向
不改架构,只纠正闸的一个量纲误用。方向仍是「入站字节闸保护 parse 成本」——只是承认全量重发车道的入站字节不是模型输入量纲。新认知:dsh 车道的 parse 成本是结构性成本(低于悬崖时每轮已付),闸在 32 MiB 处只制造不连续、不省成本。
8. 是否引入了新的配置
不涉及。无新 env/config/默认值;
network.ingestBodyBytes语义与默认值(32 MiB)不变。x-bili-plugin: dsh)或携带 dsh compaction marker 的请求,解码体超过network.ingestBodyBytes(默认 32 MiB)时——旧:parse 前413 stage=ingest拒绝;新:过闸进正常管线(折叠+转发,或 compaction guard 本地应答/拒绝)。代价:dsh 车道超带体现在付host-json-parse成本——但那是车道结构性成本,低于悬崖时每轮已付,闸之前只加不连续、不省成本。非 dsh 车道行为不变。判定:修复闭环,PR #6933 待 review,CI 全局把关。
fix: exempt the dsh plugin lane and compaction calls from the 32 MiB …
fix: generalize the ingest-band exemption from dsh to all plugin lanes (