Repository navigation
feat: 统一外部摘要模型、顺序故障转移与多客户端压缩接线 - #2167
ranxianglei merged 24 commits into
Conversation
…-summary-executor
|
Final implementation is pushed in Verification:
The PR remains a Draft for maintainer review. No merge, npm publication, or fnOS production deployment was performed. Please review the completed implementation and merge when the owner-gated configuration and compatibility decisions are accepted. |
|
Update: this PR is now marked Ready for review (no longer Draft). The implementation is complete, locally verified, and ready for maintainer review. Please merge it when the owner-gated configuration and compatibility decisions are accepted. |
|
@ranxianglei 完整实现、上游同步与最终验收已完成,请评审并合并 PR #2167。
请重点确认新增配置面、独立凭据存储与 opt-in 工具合同。需求方已授权 fork 开发,但不宣称仓库 owner 已签字。未自行合并、发布 npm 或部署 fnOS。 |
…-summary-executor # Conflicts: # src/preflight.ts # src/server.ts
|
上游同步与冲突修复已完成,现请维护者评审并合并。
请在 CI 完成后审阅并合并 PR;我不会自行合并。 |
|
状态更新(GitHub 自动 Update branch 后):
当前不需要追加代码修复。仍请仓库 owner 先明确批准新增的 compress.externalSummary 配置面、独立凭据存储及可选 summary 工具合同,再由人类维护者合并;我不会自行合并。 |
[bot] 🏷 PR #2167 完整评审结论(head 先给判定:暂不批准合并。缺的不是代码——代码已逐模块审完,无阻断性缺陷;缺的是三件流程事项:① owner 对 owner-gated 三项的明确签字(主阻塞)、② 捆绑 launcher 修复补跟踪 issue、③ 两处小修(A/B,补丁见下)。以下按结构化七问作答。 1. 是什么问题:不是缺陷修复,是功能落地(#2163/#1640)——集中式远端代理场景下把摘要生成与主模型解耦:集中配置一个或多个独立摘要模型(独立 Key、有序故障转移、共享总预算),覆盖所有实际由 Billion 执行的摘要入口(主动 compress、压缩循环、四协议 JSON/SSE 工具执行、超窗 preflight、thin-plugin/MCP 工具执行),默认关闭。 2. 什么原因导致的:功能需求,无 bug 根因。设计提案 #2163 经设计评审(该线程 bot 回复)确认方向成立、源码依据属实。 3. 怎么修复的(实现机制):协议无关执行器( 4. 是否有回归问题(逐项过触碰路径的既有行为):
5. 是否破坏缓存:不涉及。prefix-cache 字节稳定性保持(关态 system/tool schema 逐字节不变)、persist 格式仅 additive、message-ref/id 逻辑零改动、重试/节流策略未动。 6. 是否改了设计方向:没有转向。严格落在 #2163 设计评审推荐的形状内:独立全局块不污染 ProviderRoute、credentialRef 引用思想、最深层整数组替换(v1 只接 global)、capability-gated 工具合同、全失败硬失败不回主模型、不碰 kernel。 7. 是否引入了新的配置:是(这正是 P1 的签字对象)——global-only 测试有效性:新测试是真测试——batch 套件钉住了顺序保持、部分失败逐项如实报告、fallback 链成功后停链、共享 deadline 不逐范围续期、取消保留先前结果、预 abort 不分发、私有错误不泄漏进结果;live 测试有门控; 流程项(合并前置):
收工判定:代码质量扎实、隔离正确、测试有牙、CI 全绿、mergeable clean——待 P1 签字 + P2 立项 + P3 小修完成后,可由人类维护者合并。我不会自行合并(系统规则禁止 agent merge);「请评审并合并」的请求中,评审已完成如上,合并请你来执行。 |
[bot] 🏷 重复投递确认(不重复评审) 本批转发内容(
判定维持不变:hold。合并前置三件事:
三者完成后即可由人类维护者合并。在此之前本 PR 无需进一步动作。 |
|
状态更新(P3 修复已完成并推送):
PR 仍需仓库 owner 对三项 owner-gated 内容明确签字:默认关闭的全局 |
[bot] 🏷 冲突唤醒处理:状态已核实,解冲突需作者 push(或授权我 push) ① 先报好消息:P3 已收到并逐 hunk 审完,关闭。 新 head ② 冲突事实(已独立核实,非转述):master 已推进到 ③ 为什么我不能直接推解冲突(Problem Reporting):WHAT failed——PR 分支
④ 给解冲突者的 union-of-intent 地图(省一次踩坑):
⑤ 七问简答(本轮是流程轮,无新代码由我产出):1. 是什么问题——master 再次前移导致 4 文件内容冲突,非新缺陷。2. 什么原因——feature 分支 × master 热文件重写的时间差(§7.5 driver 1)。3. 怎么修——按④的地图 union-of-intent 合并后推回;执行权在作者或经授权的维护者。4. 回归风险——同步本身不引入;真正风险在④标出的两个交互点。5. 缓存——不涉及(除 master 自身携带的变更外不动 persist/前缀缓存逻辑)。6. 设计方向——不变。7. 新配置——本轮无(master 自带的 affinitySimhash 等照常随行)。 ⑥ 总状态:P3 ✅ 关闭;待办仍是 P1(主阻塞:owner 对配置面/凭据存储/工具合同三项签字) 和 P2(捆绑 launcher 修复补带来源标记的跟踪 issue),冲突解决是它们的机械前置。我不会自行合并。 |
# Conflicts: # src/preflight.ts # src/stream-google.ts # src/stream-openai.ts # src/stream-responses.ts
…ianglei#2163) Owner decision (option A): the chain must live inside the existing three-level compress system with no exception fields, and the bespoke side-file reader goes away. - mergeCompress: externalSummary is a whole-chain pick (provider/model level replaces the chain, like tiers) and rides ResolvedKernelConfig alongside preserveRecentTools; parseRouteEntry no longer rejects route-level chains. - external-summary-config.ts deleted: the plan is resolved from the request config rail (ctx.config / effectiveConfig, ranxianglei#833) — the same cascade that produces the wire — instead of re-reading the config file. ConfiguredSummaryPlan re-parses its raw chain so invalid settings still refuse loudly instead of silently disabling. - P1: an invalid chain in parseCompressSettings now logs the specific reason before rejecting the compress section (contract unchanged). - P2: a disabled chain is inert — targets are not strictly validated until the chain is enabled, so a stale typo cannot brick compression. - Injection surfaces (tool schema adaptation, summary notes, plugin manifest, preflight) read the rail instead of the file. - Tests moved to the rail; new ladder/inert/route-level coverage. - Docs: three-level whole-chain semantics in CONFIGURATION en/zh and reference/external-summary en/zh.
|
同步与验证更新:
仍请维护者完成 owner-gated 设计签字并在 CI 完成后审阅/合并;我不会代为合并 PR。 |
|
按 owner 裁决(m02020:「选项A 最好做彻底重构再接受,一定要和现有体系融洽…像出自一个人之手」)完成配置面重构,已作为加法提交推上本分支(c60abcd): externalSummary 并入三级 compress 体系(整链替换语义)
评审中发现的配置缺陷同步修复
验证:typecheck 0 错; 未捆绑不拆:#1965 launcher 修复(43bf59f)与 proxyFallback 重构为既有提交保留(历史不改写),PR body 已披露。kernel 无改动。 |
|
维护者您好,当前实现和验证已由您接手完成。后续请您继续接手 PR 的人工合并,并按项目流程更新版本即可。 如果还有需要我处理的事项,请直接在相关 Issue/PR 中留言说明,我会继续配合。GPT 额度今天快用完了,如需我继续处理,预计明天额度刷新后再进行(笑)。 |
[bot] 🏷 重构轮评审(head ① 独立核实的事实(不采信转述)
② 重构 hunk 级审查结论(
③ 七问
④ 剩余门槛(合并前)
|
…nglei#2163) compress.externalSummary.targets become "provider/model" references into named dial recipes in the providers table (baseUrl/api/credential/models); endpoints, protocol and credentials are derived at apply time. Execution rail unchanged (expanded settings); unresolvable refs warn + disable the chain, Web saves reject them with 400.
|
Config surface change (follow-up rework, same PR): What changed. Why the existing surface cannot express it. Inline targets repeat the same base URL and credential per target and invent a second provider table beside Considered alternatives. (a) keep inline targets — rejected: duplication + two tables; (b) a separate Validation semantics. Syntax-level chain parsing at config load ( Compat/migration. Unreleased feature → no migration. |
[bot] 🏷 chain-refs 重构轮评审(head ① 独立核实
② 七问
③ 测试有效性:8 个新用例钉住的正是关键行为——对表展开、协议+版本段 endpoint 派生、小窗口 outputTokens 钳制、重名去重、三级阶梯+apply 时展开、recipe 严格解析+明文凭据拒绝、collect 选择性、API 不回显+保存期校验。有牙,不是恒真断言。 ④ 签字状态更新:原 P1 三项——① 配置面落点、② 凭据机制(现为 per-recipe 收工判定:代码侧 hunk 级审完、无阻断缺陷、CI 已 22/26 绿;待 4 个官方测试矩阵全绿后,可由人类维护者合并。我不会自行合并。 |
…dead google json rewriter)
|
CI note: the |
📦 Merged Build PublishedThis merge to master was published as npm install -g billion-context@0.0.102-master.95ad8d2 # this exact build
npm install -g billion-context@master # always the newest merged build
|
目的与工作方式
关联 #2163、#1640。实现默认关闭的统一外部摘要服务:为 Billion 单独配置一个或多个摘要 API、Key 和模型,按顺序故障转移,不必给每个主供应商重复配置。
开启后,对话主模型仍负责判断哪些历史已消费、选择范围并继续原任务;独立摘要服务负责生成最终摘要正文。Billion 校验范围、保护规则和会话版本后,仍通过既有内核提交折叠并保存可恢复原文。关闭后保持原来的主模型摘要路径,不发出外部摘要请求。
已实现内容
compress.externalSummary,默认关闭;支持 1 至 16 个有序目标、增删改、顺序调整、独立凭据保存/清除及移动端布局,保留原配置中的未知字段。compress、代理压缩循环、四协议流式/非流式工具执行、preflight,以及官方 thin-plugin/MCP 工具执行共用外部摘要路径。接管边界是 Billion 实际拥有压缩权威的路径,而非任何第三方自行发出的摘要请求。compress声明,summary可省略;已提交的摘要只作为非权威提示,最终正文来自外部服务。保留原工具参数和调用 ID,使用独立摘要锚点,避免客户端回显提示后误删真正摘要。applyRanges;保护范围不请求摘要,提交前复核会话状态/版本,保留消息引用、主题、原文恢复及当前提示包的摘要规则。env:NAME和secret:NAME。秘密单独存储于${configFile()}.summary-credentials.json,原子写入并加写锁;配置 API 只返回是否已配置,不返回 Key。POSIX 校验私有文件权限;Windows 仍需管理员保护文件与父目录 ACL,不能把0600当作 Windows ACL 保证。BILI_UPSTREAM_PROXY出站代理。配置面与兼容性
本节明确列出新增配置,供维护者确认,不将自动机器人意见视为 owner 批准。
compress.externalSummary.enabledcompress的其他字段语义targets[]ProviderRoute,不改变模型路由、会话身份与主请求认证name、protocol、url、model、credentialRef、contextWindow、outputTokens、streambudgettotalTimeoutMs=50000、targetTimeoutMs=25000、maxSummaryBytes=65536;总时限最大 50 秒,覆盖一次计划中的排队、范围和备选env:/secret:引用;不通过主配置明文导出,不复用主请求 Keysummary提示语义,plugin manifest 增加能力说明模型流量与正确会话身份必须已接入 Billion。仅安装 MCP 不能获得绕过代理的历史;外部摘要设置也不会自动接入新主供应商。切换工具合同后,缓存工具声明的客户端可能需要刷新工具列表或重连。
原生压缩保留现有拦截/直通规则;未经过 Billion 摘要生成路径的供应商
/responses/compact、第三方本地压缩等不宣称被接管。本 PR 不改内核源码,也不主动扩大原生压缩拦截范围。选定原文及只读上下文会发给所配置的摘要供应商,启用者须确认其数据处理政策。真实质量与费用收益需另行评估;字节/完成状态校验不等于语义质量保证。
上游同步与冲突处理
已合并最新上游
master的e5a0066,保留贡献历史,不强推。src/server.ts的管理接口导入,同时保留本 PR 的handleSummaryCredentialPut和上游的buildSessionPage。集成验证发现的独立修复
真实 Codex 客户端配合本地模拟上游的 E2E 暴露了 #1965 的冷启动恢复缺口:首次运行创建的
sessions目录退出时移回真实 home,但数据库中的绝对 rollout 路径仍指向 overlay。独立提交43bf59f在成功写回目录后重建共享链接,不改数据库内容或恢复合同;新增回归测试已先确认修复前失败,修复后通过。该改动与外部摘要执行器无关,单独提交便于维护者审查或拆分。验证结果
最终 head:
8f6159b5026fb2f81cfea72f03c20097c679d1b4。已再次核对上游master=e5a0066;GitHub 状态为 MERGEABLE,本次 head 的 23/23 checks 全部通过。合并上游后的本机 Windows 验证:
npm run typechecknpm run buildnode --import tsx --test --test-concurrency=4 tests/*.test.tsnpm --prefix kernel testACP_TEST_E2E_FAKE=1+ 真实 Codex 0.160.0 +npm run test:e2e:fake全套中的跳过包括平台权限/功能或外部环境门控;不把 skip 当作已执行通过。Windows 文件 symlink 能力不足时明确跳过相关用例;本机上游网络 fixture 显式直连、启动器 fixture 隔离用户
CODEX_HOME,没有放宽功能断言或改变生产代理选择。Goose 的 Windows 目录链接使用 junction,避免不必要的符号链接权限要求。复测中发现更多依赖本机系统代理的 fixture,已补齐显式直连设置。摘要队列的共享截止时间测试改用可控单调时钟,断言排队与多个范围共同消耗本次总预算,不依赖满载环境下 120 毫秒的真实调度速度。
本机原 IPv4 TCP 动态端口范围为 1024–15000,
listen(0)会获得 fetch 禁用端口,导致局部网络 fixture 失败甚至遗留服务句柄。最终本机全套由需求方授权,临时改为标准 49152–65535 后,以管理员权限、并发 4 执行全部测试文件;测试后立即恢复原来的 start=1024、num=13977,并再次检查。未改系统永久设置、减少断言或新增跳过。权限受限的早期运行有 27 项 skip;最终提升权限后有 21 项,仍不把跳过项算作执行通过。本次新 head 的官方 CI 使用仓库原有工作流和默认
npm test,没有靠修改 CI 或限制其并发获得通过:四个环境的 typecheck、1,241 项 kernel 测试和 build 均通过。Windows overlay、真实客户端配合模拟上游的 Codex / dsh / pi / OpenCode、Responses WebSocket、镜像与安装链路等相关 checks 也全部通过;不同 workflow 的外部 API 门控成功不等于真实模型调用均已执行。
此前用需求方提供、未写入仓库的专用凭据进行真实 Responses 烟测,模型
gpt-6.1-sol,1/1 通过:input 1,907 / output 93 tokens,原文 7,213 字符、摘要 358 字符,必要事实保留、原文精确恢复通过,日志未输出 Key。此为烟测,不是多供应商质量/费用基准;本轮上游合并后没有再次消耗真实 API。真实四阶段 Codex 上游 E2E 未在本轮执行。本轮新 head 的完整 CI:37337806527;全部 checks 可在本 PR 的 Checks 页查看。旧 head 的通过记录不作为本轮验收证据。
请维护者评审并合并
该 PR 已是 Ready for review,不是 Draft。请求维护者与自动评审检查最新 head,重点确认全局配置面、独立秘密存储、工具可选
summary合同、支持入口边界与关闭态兼容性;确认后请合并。需求方已授权在 fork 实现和提交评审,但尚不宣称仓库 owner 已批准新增配置。未自行合并 PR、发布 npm、提高本功能包版本或部署 fnOS 生产服务。