You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
{{ message }}
Repository navigation
[BUG] Context length out of control: usage in 1M window session climbed to 44% | [BUG] 上下文长度控制不住:1M 窗口会话 usage 涨到 44% #3604
changed the title [-][BUG] 上下文长度控制不住:1M 窗口会话 usage 涨到 44%[/-][+][BUG] Context length out of control: usage in 1M window session climbed to 44% | [BUG] 上下文长度控制不住:1M 窗口会话 usage 涨到 44%[/+]on Oct 17, 2026
Activity
ranxianglei commentedon Oct 17, 2026
看是否 #3600
Light-EI commentedon Oct 17, 2026
查了,不是 #3600 那个形态。
cordis(标准模式,非 PTC),顶层 tools 含compress,会话里compress被直接调用 26 次(09:27Z–15:54Z)。nudge INJECT T1共 29 条(首条 09:26:52Z usage 12%,末条 15:05:37Z usage 41%),不是「从不注入」。nudge idle里大量pendingT1停在 56k–64k,贴着阈值不过线。所以 #3603 修的是「压缩面被压制」;这单是「压缩面正常、长度仍控制不住」。
ranxianglei commentedon Oct 17, 2026
(ai: vllm-qwen/qwen3.8-27b)
查重:不重复 #3600(#3603 同源)。 同家族(DSH 0.1.198、大窗口会话上下文涨高),但机制不同:#3600 是 PTC
run_code把工具折叠进 SDK 绑定 ⇒declaredTools.has("compress")恒 false ⇒ 压缩面被永久压制(0 注入、一路涨到 100% 才截断 output)。本单我用你贴的完整 5297 行日志独立核对,preset=cordis(标准模式、非 PTC,全日志 0 处run_code)、顶层 tools 含compress、模型直接调了 26 次 compress、29 次nudge INJECT T1(首 09:26:52Z 12%,末 15:05:37Z 41%)——压缩面正常、压缩确实在发生。所以不是 #3600 那个缺陷,不合并、不关闭;@LightX001 补充的观察与我独立核实的数字一致。核心结论:这不是「不压缩」,而是高吞吐下「压得比产得慢」。 逐条可从日志复现:
growth都贴着 floor(~29–32K),说明 nudge 已按最大允许节奏在触发,不是漏触发。growth<floor独占 380、pending<threshold独占 244、两者都缺 208。主闸门是「距上次 fold 的新增量还没到 floor」——这是设计内的防抖(floor = 0.45×step = 29250):每次成功 fold 后基准重置,必须等 ~29K 新内容才允许再折。input从 ~140K 抬到峰值 ~443K,每次 fold 后回落 20–45K 又被新内容顶回,基线单调上升——因为你的内容产出速率 > 单次 fold 的移除速率。cache hit 100%,只有紧跟 fold 的那一请求掉到 22–25%(前缀重写,预期且短暂)。44% 里绝大部分是缓存命中、按折扣价计——绝对 token 数高 ≠ 贵。maxContextLimitPct默认 0.75 = 75%)。真要继续涨会触发 emergency/over-limit 强制更狠地折。本会话因你下午活跃度下降,44% 峰后收尾停在 36%。关于 65000 步长:文档默认是扁平 50000、与窗口无关(KDD#8)。本会话解析出 65000,来自该会话 compress 配置(
nudgeGrowthTokens会把growthFloor/growthCap一起钉成同一值,见 src/compress-settings.ts:295)——不是按窗口自动缩放。即便用 50000 默认,同样的锯齿抬升仍会发生,只是峰值略低。想更勤快可把它调小(代价:更多前缀重写)。结构化八问
compress.nudgeGrowthTokens已是现成逃生阀。收工判定 + 待你拍板:这一单我判定为**「极端负载下的预期行为,非 #3600 类缺陷」**,当前没有该直接修的 bug。后续走哪条由你定(两条都不是几行小修,涉及取舍/内核边界):
nudgeGrowthTokens调得更勤快」写进 FAQ / CONFIGURATION,不动代码。本单据此可关。如果你认为它就该并入 #3600 家族统一管理,也可以告诉我,我把关系标清楚后按你的处置走。
ranxianglei commentedon Oct 17, 2026
(ai: vllm-qwen/qwen3.8-27b)
补充一条硬证据(回应「是否像 #3600 那样的回归」):该会话中途从 0.1.197 切到 0.1.198,两个版本行为完全一致——
nudge INJECT T1nudge idle即锯齿抬升在两个版本上都存在且同形,不是 198 新引入的回归(#3600/#3603 是「197 好、198 坏」的真回归,本单不是)。这进一步支持结论:机制正常、抬升由负载驱动,非版本缺陷。其余判断见上一条,等你在 A(文档)/ B(内核节奏策略)间拍板。
Light-EI commentedon Oct 17, 2026
经调查发现:这个会话的地板是图片。
168 张图(1280×720),实测每张 ≈1,290 tokens(909 条
[acp-usage]按图片到达对齐:1 张 +1,287 / +1,293;2 张 +2,560;3 张 +3,857)⇒ 216,720 ≈ 终态 357,650 的 61%。系统提示(0 张图时已是 122,266,约 12% 窗口)再占 34%,合计 94.8%;26 次 fold 能动的只有 ~18,664(5%)。
这些图是附件引用,被判为不可恢复媒体,所以一张也折不掉。
ranxianglei commentedon Oct 17, 2026
(ai: vllm-qwen/qwen3.8-27b)
核实了「地板是图片」——核心方向成立,但有一处数字要纠正。(以下全是我用完整日志独立核对,不依赖你的结论)
① 成立的部分——不可恢复媒体确实是大硬底
hasUnrecoverableMediaPayload):这一类 = 远程 URL 图片 + 不透明文件引用(DeepSeek Files API{type:"file"}、GooglefileData/videoMetadata)——即 bili 本地没存字节、折了会永久销毁数据的附件(这个插件压缩上下文,会导致deepseek识图出问题。 #1188/Google wire 的 fileData(URL 引用)图像不被识别为媒体负载:可被折叠、折叠后静默丢失且无警告(#1188 不变量缺口) #2609)。内联 base64 / data: URL 的图不在其列:那种被宿主到达时落盘、像普通文本一样可折、还能decompress({imageRef})找回(建议:compress.stripImages默认开启——否则带图消息不可压缩会形成只升不降的输入地板撑爆上下文 #2607)。② 要纠正的一处——「系统提示 = 122,266(34%)」是误标
input≈1,881,之后每请求稳定 +5 条消息递增。说明 DSH 系统提示很小(几千 token),不是 122K。③ 对结论的影响——更清晰,但不改变判定
上下文被两块「T1 折不掉」的东西主导:(a) 累积的不可恢复媒体附件(远程图/文件引用,结构性不可折);(b) 累积的 T1 summary 块(只能靠 T2/T3 蒸馏,而本会话 29 次 nudge 全是 T1、从未触发 T2/T3)。26 次 fold 只在小得多的可折切片上作业。这是图片密集负载下的预期行为——内核拒绝销毁无法恢复的数据是对的,不是机制缺陷。
④ 可行的杠杆(诚实说:内侧没有干净的代码修)
收工判定不变:本单仍判为「高吞吐(图片密集)负载下的预期行为,非 #3600 类缺陷」。内侧无该直接修的 bug;动作仍是 A(文档解释,含上面「内联 vs 远程附件」的可折性差异)或 B(要动节奏/媒体策略则另开 owner-gated 讨论)。等你定。
ranxianglei commentedon Oct 17, 2026
看看最新版本不是已经可以压缩图片了吗?
这些图是附件引用,被判为不可恢复媒体,所以一张也折不掉。
ranxianglei commentedon Oct 17, 2026
(ai: vllm-qwen/qwen3.8-27b)
直接回答:不能。最新版(master,含 #3400)依旧折不掉这种「附件引用」图。 我把两条「压缩图片」的能力分别查了,这条会话两种都不沾:
能力一:折进 summary(真正的「压缩」)
compress.stripImages默认开启——否则带图消息不可压缩会形成只升不降的输入地板撑爆上下文 #2607,折完还能decompress({imageRef})找回)。hasUnrecoverableMediaPayload,排除文案在 kernel/src/unit-projection.ts:214。这段判据从 v0.1.198 一路到 master 一个字没改。本会话的图正是这一类(日志里那 8 次 fold 共排除 127 条「remote URL / file references」),所以一张都折不掉。能力二:出站降采样 + read_original_image(#3400)
url.startsWith("data:")/source.type==="base64"),远程 URL/文件引用图原样透传、完全不碰;而且它是「出站时把大图缩小重编码」,图仍然每轮重发,只是变小,不是从上下文里移除。git merge-base确认 feat 提交是 v0.1.198 的祖先),也就是说你后半程就有这功能——但整段日志 0 条[image-rescale]、0 次read_original_image、0 条降采样注记,即它从头到尾没触发过,原因正是你的图不是内联而是远程/文件引用。(顺带:#3402 的 absorb 媒体通道只作用于
tool-result消息,不碰用户附件图,同样够不到这块地板。)所以升级解决不了这一单。 真正能让这些图可压的两条路:
compress.stripImages默认开启——否则带图消息不可压缩会形成只升不降的输入地板撑爆上下文 #2607)+降采样(Egress image downscale: shrink big images before sending to the model, originals stay local and self-readable | 重做图片降采样(简化版):发模型前压大图、原图留本地不动、模型被告知尺寸后可自读原图 #3400)都会生效。这是宿主序列化方式的选择。compress.stripImages默认开启——否则带图消息不可压缩会形成只升不降的输入地板撑爆上下文 #2607 的落盘通道)。代价是每张附件一次网络抓取 + 本地存储增长 + 隐私/延迟权衡——属功能决策,不是 bug 修复。收工判定不变:本单仍是「图片密集负载下的预期行为、非机制缺陷」;内侧无该直接修的 bug。若你想推第 2 条(抓取落盘远程图),那是个独立的功能立项,我可以另开 issue 描述方案与代价等你定;否则按 A(文档解释内联 vs 远程附件的可压差异)收口。
[-][BUG] 上下文长度控制不住:1M 窗口会话 usage 涨到 44%[/-][+][BUG] Context length out of control: usage in 1M window session climbed to 44% | [BUG] 上下文长度控制不住:1M 窗口会话 usage 涨到 44%[/+]