Skip to content

feat: 支持 search_context 显式查询历史 session #841

Closed

Description

@kuviki

目前 search_context 主要用于查询当前会话的压缩上下文。

希望支持通过已有的 conversation_id / pfa-* session id,显式指定一个历史 session 作为搜索源,用于新会话按需回查旧会话中的 T1/T2/T3 压缩内容。

例如:

search_context(
  query="之前为什么放弃方案 A?",
  conversation_id="pfa-old"
)

语义上相当于:

  • 不传 conversation_id:搜索当前 session
  • 传入当前 session id:保持现有行为
  • 传入其他历史 pfa-*:只读搜索对应历史 session

可以考虑把参数说明从类似:

conversation_id:
  Your bili conversation id

调整为:

conversation_id:
  Target bili conversation id.
  Defaults to the current conversation.
  May reference another historical pfa-* session for read-only search.

我觉得最小实现只需要保证三点:

  1. search_context 可以显式指定其他历史 pfa-* session
  2. 目标 session 即使当前不是 live/resident,也可以从持久化数据中加载后查询
  3. 跨 session 查询只读,不修改目标 session 的 compression state

这样新会话可以保持干净,需要旧信息时再按需查询;完整 handoff 或需要大量原始内容时,继续使用现有的 bili export / bili export --full 即可,不需要额外设计一套 session migration 机制。

Activity

  1. ranxianglei commented on Sep 16, 2026

    @ranxianglei
    Owner

    这里有一个问题就是,billion-context可能根本不知道session是啥,这个问题需要解决

  2. ranxianglei commented on Sep 16, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 确认,这正是我分析代码后卡住的点。先把层次分清楚:加载不是难点,发现(discovery)才是。

    层次判断

    • 加载层(已具备):持久化是完整的——每个 session 的 CompressionState(含全部 block summaries)都落盘;kernel 的 StateStore 在 boot()/loadAll() 之后维护 id→文件路径的 discovered map,所以任何历史 session(哪怕已被 LRU 逐出内存)都能按 id 直接从磁盘加载。加一条专用只读路径(读 envelope → mergeState,完全不调度写)即可满足"不修改目标 session 状态"——连 loadSync 现在可能触发的 代理压缩不上报改写量,宿主上下文会计塌缩至 ~0(omps recordAnchoredHistoryRewrite 零调用);且持久化 lastInputTokens 恢复无钳制,旧版负值升级后复活 #408 clamp 重写副作用都能避开。

    • 发现层(真正的缺口):模型在对话里没有任何渠道知道有哪些 session id——

      1. system prompt 必须 byte-stable(prefix cache 锚点),不能往里注入动态 session 列表;
      2. 现有四个工具没有一个能枚举 session(acp_status 只报当前会话的上下文状态);
      3. proxy 模式和 plugin 模式都没有告诉过模型"你自己的 session id 是 X"。

      所以只加 conversation_id 参数,值没人填得出来——你说的"billion-context 不知道 session 是啥"指的就是这个:session 概念从未在对话面暴露过。

    已有的资产:bili export(CLI)已经能列出所有 persisted session(id / label / protocol / blocks / title),这是人侧的发现通道;且每条持久化记录里恰好带着做索引需要的元数据(title、label、protocol、upstream、savedAt、blocks)。

    推荐方案(全部收敛在 search_context 一个工具里,不加新工具,不需要发 acp-kernel):

    1. search_context 增加 conversation_id 参数:
      • 不传或 == 当前 session → 现有行为;
      • 传其他已知 id → 只读搜索该 session(resident 优先用内存 live state,否则磁盘加载);
      • "*" = 列表模式:返回按最近活动排序的 persisted session 紧凑索引(限条数,如 20 行):id | title | protocol/upstream | blocks | last activity,并标记哪一个是当前 session。这给模型自助发现能力——先 * 列一遍,再按 id 查。
    2. 未知 id 自发现:id 找不到时,报错信息附带最近 5 个 session(同样格式),模型可以自我纠正重试。
    3. 结果命名空间隔离:跨 session 搜索结果每行前缀目标 session id,并注明 block id 是按 session 命名空间的(decompress 只作用于当前 session;要大量原始内容用 bili export <id> [--full])——避免模型拿到别的 session 的 b3 在当前会话 decompress 撞到同号块。
    4. 改动范围:schema 扩展完全留在本仓库——compress-tool.ts 里派生带新参数的工具常量,wire 三个 injector(anthropic/openai/responses)和 plugin manifest 同时消费。plugin 模式的 agent(pi/omp/opencode)本来就从 /__bili/plugin/manifest 拉 schema,自动同步生效。acp-kernel 保持 host-agnostic 不动——它没有持久化概念,这个参数天然是 host 侧的事,进 kernel 反而污染边界。
    5. decompress 不动(与你定的最小范围一致)。安全说明会写进文档:同一实例内任意 session 互相可见,单用户自托管前提下可接受。

    方案没问题的话我就开分支实现(实现 + 测试 + PR)。如果你倾向列表做成独立入口(比如扩展 acp_status 而不是 "*" sentinel),说一声我再调;否则按上面做。

  3. kuviki commented on Sep 16, 2026

    @kuviki
    ContributorAuthor

    另外目前实测 bili export <session> 主要导出 persisted folded snapshot,--full 会追加 block original messages,但没有看到独立的 T1/T2/T3 block summary 正文;如果这是预期之外的行为,希望同时确认/修复,使 bili export 可作为跨会话完整 handoff 的兜底。

  4. kuviki commented on Sep 16, 2026

    @kuviki
    ContributorAuthor

    bili export 在存在 persisted folded snapshot 时没有保证导出 active block summaries;当 snapshot 被 BILI_PERSIST_TAIL_TOKENS 截断且 active blocks 位于更早历史时,handoff 会完全丢失这些压缩摘要。

  5. ranxianglei commented on Sep 16, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 已确认并复现,你的判断准确。最小复现(BILI_PERSIST_TAIL_TOKENS=40,一个覆盖早期对话的 T1 block,其 summary 被预算截断出快照之外):

    folded flag: true
    summary present in persisted snapshot: false
    plain  bili export <id>     contains summary: false
    bili export <id> --full     contains summary: false
    --full contains block originals: true
    

    层次结论

    • 根因不在持久化层:state.blocks[].summary 和 blockContents 都完整落盘了(--full 能恢复 originals 就是证明——数据在)。
    • 根因在渲染层:有 snapshot 的主导出路径委托给 acp-kernel 的 renderHandoff(node_modules/acp-kernel/dist/index.js:3739-3780),它只输出三样东西——头部统计、conversation view、(--full && folded)block originals——从不输出 state.blocks[].summary。summary 只有在写入时恰好落在 BILI_PERSIST_TAIL_TOKENS(默认 16K tokens)保留窗口内才会出现(prune 在落盘时把 summary 内嵌进快照消息里);更早的 block 的 summary 随尾部截断一起消失,handoff 就此丢失。
    • 不一致性佐证:无 snapshot 的 v2 fallback 路径(src/export.ts:98-117)是逐个输出每个 active block 的 summary 全文的——同一个会话,信息量取决于是否恰好命中尾部截断。
    • 为什么 CI 没抓到:cli-export.test.ts 的 session 没有 lastMessages(走 fallback 路径);persist-tail.test.ts 的 summary 恰好留在快照窗口内——没有测试覆盖"旧 block + 截断尾部"的组合。

    修复方案(正在实现,独立 PR):

    1. 导出文档增加统一的 ## Compressed block summaries 段:每个 active block 输出 tier / topic / ~tokens / 时间 + summary 正文;--full 时同一 block 下附 original messages(替代 kernel 分散的 originals 段,summary+originals 归拢到同一 block 条目下)。
    2. 去重规则:block 的 summary 若已出现在上方 conversation view 中(如仍留在尾部窗口内的近期 block),不重复正文——保证"每个 active block 的 summary 至少出现一次",同时不膨胀文档。
    3. 改动收敛在 src/export.ts(抽公共渲染器,主路径与 fallback 路径共用),不需要发 acp-kernel(长期这段渲染可以归位到 kernel,但要走两轮 kernel 发布流程,记为后续项,本轮不做)。
    4. 补测试:旧 block + 截断尾部(plain / --full)、snapshot 内已有 summary 不重复、live session 不重复三个场景。

    会单独提一个 issue 记录这个缺陷(来源标记为本线程),修完贴 PR 链接。

  6. ranxianglei commented on Sep 16, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 修复完成,已提 PR:

    改动(仅 src/export.ts + 新测试文件,不需要发 acp-kernel):

    1. 导出文档新增统一的 ## Compressed block summaries 段(snapshot 主路径与 v2 fallback 路径共用一个渲染器):每个 active block 输出 tier / topic / ~tokens / 时间 + summary 正文;--full 时同一 block 条目下附 original messages(替代 kernel 分散的 originals 段,summary 和它的原文归拢在一起)。
    2. 去重不变量:block 的 summary 若已出现在上方 conversation view 中(仍留在尾部窗口内的近期 block),不重复正文——保证"每个 active block 的 summary 至少出现一次",不膨胀文档。
    3. 测试 tests/export-summaries.test.ts 三个场景:截断尾部(plain / --full 都能拿到 summary,--full 还能恢复 originals)、未截断快照不重复、live session prune 内联 summary 保持单份且不产生多余段落。

    Pre-flight:typecheck 干净;npm test 1514 pass / 0 fail / 2 skipped(ACP_TEST_E2E 门控,未跑);build 成功。修了什么问题/为什么修/是否可以合并:修复了 export 渲染层丢失被尾部截断的 block summaries(数据在盘上、渲染从不输出),补上统一 summary 段并保证至少出现一次,可以合并。

    另:search_context 跨 session 查询的设计方案(上一条回复里的 5 点)仍在等你拍板,拍板后我开分支实现。

  7. kuviki commented on Sep 16, 2026

    @kuviki
    ContributorAuthor

    search_context 跨 session 查询的设计方案(上一条回复里的 5 点)仍在等你拍板

    回到最初的需求,只需改下 conversation_id 参数说明,跨会话由用户告知模型历史会话的 conversation_id 是哪个。

  8. ranxianglei commented on Sep 16, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 收到,按最小范围做——我提的发现机制("*" 列表模式、未知 id 附带最近会话提示)全部撤掉,跨会话 id 由用户在对话里告知模型。

    最终实现范围就是原 issue 的三点:

    1. search_context 增加可选 conversation_id:不传或 == 当前 session → 现有行为;传其他历史 pfa-* → 只读搜索该 session。参数说明按你给的措辞调整:

      Target bili conversation id. Defaults to the current conversation. May reference another historical pfa-* session for read-only search.

    2. 非 resident 也能查:目标 session 在内存里就用内存 live state,否则从持久化数据加载后查询(启动时 boot()/loadAll() 已建立 id→文件映射,被 LRU 逐出的历史 session 也可定位)。
    3. 严格只读:专用只读加载路径,不修改目标 session 的 compression state、不调度任何写盘。

    另外保留两个最小正确性细节(不是新功能):

    • 未知 id 返回明确错误 [search_context FAILED: unknown session "<id>"];
    • 跨 session 结果标注目标 session id,并注明 block id 是按 session 命名空间的(decompress 只作用于当前 session;大量原始内容用 bili export <id> [--full])——防止模型拿到别的 session 的 bN 在当前会话 decompress 撞到同号块。

    改动仍全部留在本仓库(schema 派生常量同时供三个 wire injector 和 plugin manifest 消费,proxy/plugin 两种模式同步生效),不需要发 acp-kernel。开始实现,完成后回 PR。

  9. ranxianglei commented on Sep 16, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 已按最小方案实现,PR 在这里:**https://github.com/ranxianglei/billion-context/pull/858**(Closes #841)

    实现前发现 upstream 刚合入的 #760/#761 已经给所有 bili plugin-manifest 工具加了 conversation_id 参数(用于共享 MCP 进程时的路由),所以本 PR 是在它之上扩展 search_context 的执行层语义,而不是另起一套:

    • 显式指定历史 session:search_context({query, conversation_id: "pfa-old"})。id 与当前 session 相同(含 canonical 别名形式)→ 行为与现在逐字节一致;否则只读搜索目标 session。proxy 模式(wire schema 派生常量,kernel 常量零改动)和 plugin 模式(manifest 参数说明特化)都覆盖。
    • 非 resident 也能查:优先内存(peekSession / findSessionByCanonicalId),否则走新增的 SessionStore.loadStateForSearch(id) —— 纯读路径,永不触发保存(区别于带 代理压缩不上报改写量,宿主上下文会计塌缩至 ~0(omps recordAnchoredHistoryRewrite 零调用);且持久化 lastInputTokens 恢复无钳制,旧版负值升级后复活 #408 clamp 副作用的 loadSync)。
    • 严格只读:执行锚定在调用方 session,不 re-route,目标的 mode binding / lastSeen 完全不动;冷加载零写入有测试断言(文件字节前后一致、无 pending save)。未知 id 直接 [search_context FAILED: unknown session "..."],不创建任何状态。
    • 跨 session 结果带 in session <id> 标注 + 提示 block id 是 per-session 命名空间(decompress 仍作用于当前 session;批量内容继续用 bili export <id> [--full])。
    • MCP shim 仅对 search_context 保留 conversation_id 在 args 里让 proxy 自行解析目标,其他工具的路由语义完全不变。

    参数说明按 issue 建议调整为:"Target bili conversation id. Defaults to the current conversation. May reference another historical pfa-* session for read-only search."

    Pre-flight(rebase 到最新 master、acp-kernel 0.0.74):typecheck 干净;npm test 1654 pass / 0 fail / 2 skipped(e2e 需 live upstream,未跑);build 成功。新增 tests/search-context-cross-session.test.ts(schema 派生 + kernel 未突变、self-reference、unknown-id、resident 命中不触盘、冷加载只读证明)+ 扩展 manifest 断言。

    📌 中文摘要:修复/实现了 search_context 通过 conversation_id 只读查询历史 pfa-* session(内存优先、持久化兜底、零副作用),复用 #760 已上线的参数管道,可以合并。

  10. ranxianglei commented on Sep 17, 2026

    @ranxianglei
    Owner

    继续

  11. ranxianglei commented on Sep 17, 2026

    @ranxianglei
    Owner

    继续

  12. added 2 commits that reference this issue on Sep 17, 2026
    2eefd9b
    b941b5d
  13. ranxianglei commented on Sep 17, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    收到。"继续"处理的是 PR #858 被 master 阻塞的问题——它提出来时 master 已前进 25 个 commit(含 #848 export summaries 修复、#853 summary cap、release v0.1.117),GitHub 报 mergeable_state: dirty(文本冲突),CI 虽绿但合不了。

    本轮做的事:

    1. rebase 到最新 master(55da3f0):冲突只有两处 import 行,按两侧意图取并集解决——
      • src/server.ts:保留 master 新增的 storeEffectiveConfig + 本 PR 的 BILI_ACP_TOOLS_* 派生常量;
      • src/plugin.ts:保留 master 的 effectiveConfig + 本 PR 的 SEARCH_CONTEXT_TOOL_NAME / SEARCH_CONTEXT_CONVERSATION_ID_PARAM。
    2. rebase head 上完整 pre-flight:typecheck 干净;npm test 1675 pass / 0 fail / 2 skipped(e2e 门控);build 成功。
    3. CI 全绿:新 head 上 8/8 check runs success,PR 状态从 dirty → clean(可合并)。

    一个插曲:期间有另一个 daemon session 也做了同样的 rebase 并 push(head 变为 b941b5d)。我逐字节 diff 确认它与我验证过的 head(2eefd9b)tree 完全一致,所以结论不受影响,没有再推。

    📌 中文摘要:PR #858(search_context 跨 session 只读查询)此前与 master 冲突被卡住,已 rebase 到最新 master 并解决 import 冲突,typecheck/全量测试/build/CI 全部通过,现在处于 clean 可合并状态,等你合并即可(合并动作只能由人来)。

    PR: #858

  14. added 5 commits that reference this issue on Oct 10, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions