You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
Closing: the full causal chain identified in #499 has shipped.
First-sight mass never compressed (kernel#194) — fixed in acp-kernel 0.0.51 (PR acp-kernel#196): decideNudge now honors a first-sight mass condition (firstSightMassReady) that bypasses the growth floor when nothing has ever been compressed and usage is already high. This is the "1746 msgs / 458k tokens ingested in one shot with zero compressions" case.
Closing — the full causal chain is now fixed and shipped:
kernel 0.0.51 (acp-kernel#196/fix(loop): run applyCompression over the unpruned view #197): first-sight mass bypass — a session that arrives with a huge ready mass no longer waits a full growth floor of NEW tokens for its first compress (this session sat 934K-ready for 18 idle minutes and died ~4 min short of the floor). Drain-until-under-band semantics, reviewed + regression-tested.
Activity
ranxianglei commentedon Aug 30, 2026
[bot] 收到,已下载 bili.log(4836 行)正在分析。先确认几个问题,稍后回复结论。
ranxianglei commentedon Aug 30, 2026
[bot] 已分析完
bili.log,找到原因了。结论
不是压缩逻辑失效,而是
deepseek-v4-flash的上下文窗口被解析成了 967232,而不是你以为的 200K。压缩的触发阈值(75% 压力线 ≈ 725K / 95% 紧急线 ≈ 919K)是相对这个 967232 算的,所以你的会话(峰值 476383,仅 49%)根本没碰到任何阈值 → 全程不压缩。日志证据(问题会话
pfa-8588f5781f70809b,03:37–03:55)pendingT1(可压缩量)= 915144,远超阈值 50000(内容上完全 ready)。nudge idle: usage=49% (476383/967232), growth=17721/22500 (ref=458662, interval=50000), pendingT1=934141/50000 model=deepseek-v4-flash, reason="growth 17721 < floor 22500, ready: T1 934141"usage=49%< 75% 压力线(不触发强制压缩);growth=17721< 增长门槛22500(自会话起点 458662 以来的新增量不够,节奏门把它挡住了)。pendingT1虽然 ready,但被 growth 门槛拦住。upstream stream truncated,不是 HTTP 400),会话结束。此时 growth 还差 ~4800 才到 22500——第一次压缩本应在再 ~4 分钟后触发,但流先断了。为什么窗口是 967232 而不是 200K
modelContextLimit默认 200000)。deepseek-v4-flash在 models.dev 注册表里是已知模型,窗口 = 1000000,注册表优先级高于 200K 默认值。967232 = 1000000 − 32768(客户端max_tokens=32768的输出预留)。解决方法
把这个模型在你上游的上下文窗口显式声明为 200000(按模型覆盖,优先级最高)。在
127.0.0.1:8787后台 → 高级设置 → providers JSON(或配置文件)加入:{ "providers": { "http://<你的上游主机>:3002": { "models": { "deepseek-v4-flash": { "context": 200000 } } } } }把
<你的上游主机>换成日志里forward POST → http://<…>:3002/v1/chat/completions的真实主机。key 是 URL 前缀、最长匹配生效,只写主机名也可以。保存后立即热更新,无需重启。之后
usage = 476383/200000 = 238% ≥ 95%→ 立刻触发紧急压缩(EMERGENCY T1),不再等 growth 门槛。补充两点
usage=476383),说明模型真实能力 > 200K。200000是保守值——如果想充分利用模型窗口可以设更大(如500000),让 75%/95% 压力线去管理;但既然你想控制在 200K 附近,设200000即可。upstream stream truncated是另一个独立症状:上游直接断了流(非 HTTP 400),所以 bili 的「溢出自愈」(靠 400 学习真实窗口)没机会触发。把窗口设对(200K)后,压缩会在到达上游真实上限之前发生,这个截断大概率也不会再出现。ranxianglei commentedon Aug 30, 2026
[bot] 补充一个排查中发现的加固点(不是你这次问题的根因——你的问题用上面的配置就能解决,这里只是记录给维护者参考):
bili 的「溢出自愈」只在上游返回 HTTP 400 时触发(
src/server.ts的 overflow 检测读的是!upstream.ok的 error body,见inspectContextOverflow)。你这次会话最后是upstream stream truncated(200 但流被截断,非 400),所以自愈没机会学习真实窗口。这意味着一个组合风险:当解析出的窗口比上游真实 serving 上限大(注册表 1M vs 真实 ~477K),且上游恰好用非 400 方式失败(截断/超时)时,bili 没有任何兜底去纠正窗口或强制压缩——会话直接死掉。 你这次正是这种组合(偏大的窗口 + 一次性吃进的大历史 + 非 400 失败)。
次要一点:新会话一次性吃进大历史时,第一次压缩要等
growth攒到门槛(22500)才触发——你这次差 ~4800 就触发了。窗口设对后这条影响不大(usage 会直接撞 95% 紧急线、绕过 growth 门),但窗口偏大时它会推迟第一次压缩。这两点值得单独开 issue 跟踪(我这边只能回帖、没有建 issue 的工具,先记在这里):
pendingT1已远超nudgeGrowthTokens时,考虑绕过 growth 门槛或下调 growth 参考点,让第一次压缩更早发生。ranxianglei commentedon Aug 30, 2026
[bot]⚠️ 更正上一条回复:我之前建议的按模型
context: 200000写法不可靠——复查代码后发现实际优先级与文档描述相反,抱歉。实际的窗口解析顺序(
src/server.ts:791-796):你的上游是私有中转地址(
<host>:3002),注册表热缓存时deepseek/deepseek-v4-flash(1M)会通过「relay 主机回退」逻辑(src/registry.ts:271-282)被命中——这一步排在你的按模型context声明之前。所以即使配置了models.deepseek-v4-flash.context: 200000也会被忽略(注册表冷启动时恰好生效、热起来后就失效,行为不一致)。可靠的修法:用
compress.modelContextLimit(最高优先级来源,绝对值,始终生效,见src/compress-settings.ts:16-25):按模型(推荐,只影响该模型):
{ "providers": { "http://<你的上游主机>:3002": { "models": { "deepseek-v4-flash": { "compress": { "modelContextLimit": 200000 } } } } } }或全局(影响所有模型):
{ "compress": { "modelContextLimit": 200000 } }Web 界面(127.0.0.1:8787 → 高级设置)里改 providers/compress JSON 后保存即热生效,无需重启。生效后内核阈值以 200K 为分母:约 150K(75%)开始常规压缩、约 190K(95%)强制压缩——即你预期的「固定阈值」行为。
顺带报告一个 bug(本环境没有创建 issue 的工具,在此线程报告,建议 @ranxianglei 另开 issue):
CONFIGURATION.md:149写明按模型context声明是主来源、注册表只是未声明模型的兜底;但代码里热注册表(peekWindow)优先于按模型声明(configuredWindow),即注册表 > 声明(src/server.ts:791-796)。建议修复方向二选一:让按模型声明优先于热注册表(符合文档语义,用户声明应代表实际部署),或修正文档明确「注册表优先、声明仅作未命中时兜底」并把
context字段标注为 deprecated。ranxianglei commentedon Aug 30, 2026
[bot] 已提交 PR:**https://github.com/ranxianglei/billion-context/pull/352**(docs:把
CONFIGURATION.md里按模型context声明的优先级描述改成与代码实际行为一致,并指引用compress.modelContextLimit可靠地固定窗口;纯文档、不改行为)。本 issue 的处理小结:
deepseek-v4-flash实际部署窗口是 200K,但 models.dev 注册表里该模型是 1M。bili 的窗口解析链(src/server.ts:791-796)在热注册表命中时优先采用注册表值,于是有效窗口被解析成 967232(1M − 32768 输出预留),75%/95% 压缩阈值(≈725K/≈919K)对 200K 的模型永远到不了——直到上游先报错(日志末尾的upstream stream truncated)。compress.modelContextLimit: 200000(按模型compress块或全局compress块均可,Web 界面 127.0.0.1:8787 → 高级设置 保存即热生效)。这是最高优先级来源,始终生效。生效后约 150K 开始常规压缩、约 190K 强制压缩。CONFIGURATION.md:149说声明优先、代码里热注册表优先)——PR docs: align per-model context declaration precedence with actual resolution order #352 已在文档侧修正;代码侧是否要让声明(至少对 relay/私有主机)优先于注册表,留给 @ranxianglei 定夺。package-lock.json版本停留在0.1.57,而package.json已是0.1.63,建议下次 release commit 时同步。如果
compress.modelContextLimit: 200000配置后仍有异常,把新的 bili.log 发我,我继续跟。Juna9969 commentedon Aug 30, 2026
请排查日志时间:03时35后,
ranxianglei commentedon Aug 30, 2026
[bot] 已逐行排查 03:35 之后的日志,你看到的「80K→458K 膨胀 + 后面没缓存」完全对得上。关键起点是:03:37:03 bili 代理重启了一次,之后所有异常都从这里开始。
时间线(deepseek-v4-flash,窗口 967232)
[persist] enabled、acp-proxy listening on 127.0.0.1:8787)。旧会话此后再无任何记录cached=0)upstream stream truncated(0 字符返回)——上游流中断1. 为什么 80K→458K 是「跳变」而非自然增长
21 秒内不可能自然增长 376K。真实原因:03:37:03 bili 重启后,DeepSeek Harness 客户端重连并发送了完整对话历史(1746 条 / 458K+),而重启前追踪的旧会话只有 128 条 / 82K。所以新会话直接从 458K 起步——这是重启造成的不连续,不是上下文真的「膨胀」了 376K。
2. 为什么 458K 后一直没压缩(两个原因叠加)
ready: T1)的可压缩内容,但 growth 参考值在会话开始时被重置为当前值 458662,growth 从 0 起算,18 分钟只累积 17721,达不到 22500 的 floor,于是 915K 就绪内容一直被挡着不注入。3. 关于「没缓存」(这是真问题,而且更烧钱)
日志明确:重启前旧会话缓存命中 95–98%,重启后新会话每次都是 0%(
cached=0 (cache hit 0%))。即重启后每个请求都在为完整 458K+ 输入付费、零缓存复用。原因:重启后会话分裂成新的 pfa-8588…,其序列化历史(1746 条完整消息)与旧会话已缓存的前缀(被压缩过的 128 条视图)不一致,上游 prompt cache 全部 miss。修复(能解决压缩问题,和之前一致)
设
compress.modelContextLimit: 200000(web UI127.0.0.1:8787→ 高级设置,热生效、无需重启)。窗口变 200K 后 usage=229% → 超限强制压缩立即触发,上下文会在到 200K 前被压下来。另外两点
docs: align per-model context declaration precedence with actual reso…
ranxianglei commentedon Aug 31, 2026
看看最新状态 是否已经解决
ranxianglei commentedon Aug 31, 2026
[bot] 最新状态核查(截至 v0.1.67):
✅ 核心 bug 已在代码侧修复(v0.1.65+,PR #345)
PR #345「per-route model context declaration outranks the models.dev registry」已合入 v0.1.65。当前 master 的解析链(
src/server.ts:837-843)已把按模型context声明(configuredWindow)排到注册表(peekWindow)之前:betaWindow ?? pluginWindow ?? launcherWindow ?? configuredWindow ?? peekWindow ?? lookupContextLimit即我之前报告的「热注册表覆盖按模型声明」已修掉——现在直接设
models.deepseek-v4-flash.context: 200000就会生效,不再被注册表的 1M 覆盖。给用户的结论
context: 200000(或compress.modelContextLimit: 200000,最高优先级、所有版本都生效)→ 约 150K(75%)常规压缩、约 190K(95%)强制压缩。compress.modelContextLimit: 200000即可(这个不依赖 fix: per-route model context declaration outranks the models.dev registry (#344) #345)。我之前合入的 PR #352(文档)写的是旧顺序(注册表 > 声明),还明确写了「the registry value outranks this declaration」;但 PR #345 改代码后这已经反了。两个 PR 都进了 v0.1.65,所以现在文档与代码矛盾(正是本 issue 的混淆点)。已开 PR #384:把
CONFIGURATION.md那段解析顺序改成与 #345 后的代码一致(声明 > 注册表),纯文档、不改行为。仍未解决、建议单独跟踪的加固项(本线程已记录,非本次根因):
这 3 项要不要拆成独立 issue?我这边只能回帖、没有建 issue 的工具,需要的话你或平台建一下即可。
refactor: drop the dead SSE rewriters that kept causing mis-triage
ranxianglei commentedon Sep 3, 2026
线程里记录的 3 个加固项已全部拆分为独立 issue:
本 issue 保持 open,等 @Juna9969 在 ≥0.1.65(建议 0.1.76+)上确认压缩按预期触发后关闭。
ranxianglei commentedon Sep 3, 2026
[bot] 收到,3 项加固已分别落到 acp-kernel#194 / #498 / #499,本 issue 挂起等 @Juna9969 在 ≥0.1.65(当前最新 0.1.77)上确认压缩按预期触发。
一个待办提醒:我开的文档一致性修复 PR #384(把
CONFIGURATION.md的解析顺序改成与 #345 之后代码一致:按模型声明 > 注册表)目前仍是 open、未合并——纯文档、无行为改动,方便时合并即可。@Juna9969 若在 ≥0.1.65 上配好
context: 200000(或compress.modelContextLimit: 200000)后压缩仍不触发,把新的 bili.log 发上来我继续跟。在此之前我这边没有其它动作了。ranxianglei commentedon Sep 3, 2026
看看相关issue还差哪些
ranxianglei commentedon Sep 3, 2026
[bot] 相关条目状态盘点:
已合并 / 完成 ✅
仍 open、尚未完成 ⏳
小结:文档侧全清(#352 + #384 都合了);剩下的是 3 个实现任务(#498、#499、acp-kernel#194,均尚未完成)+ 本 issue 等用户验证。
要我现在接手哪个?#498 / #499 在本仓库可直接做;acp-kernel#194 得切到 acp-kernel 仓库并走「先发 kernel 再 bump」流程。你点一个我就开工。
ranxianglei commentedon Sep 4, 2026
Closing — the full causal chain is now fixed and shipped:
prefix-affinity.json, hydrate on boot) — the anonymous session is re-attached instead of re-forked; plus weak-overflow learning (高 usage 下的非 400 失败(流截断/超时)无任何 overflow 兜底 —— 会话直接死 #498) and cache-collapse diagnostics.migrateLegacyIdsno longer destroys anonymous pfa session files on every boot — the prerequisite that made (2) actually survive a restart.If this reproduces on ≥0.1.82 with
compress.modelContextLimitunset, please reopen with the proxy log.