Skip to content

会话身份不稳定:credential/upstream 维度导致长会话状态孤儿化(sessions 缺失) #286

Closed

Description

@ranxianglei

问题

代理的会话 ID 目前是四维度哈希:hash(protocol | upstream | credential | conversation)(src/session-id.ts:89)。其中:

  • credential 维度 = Authorization / x-api-key 的原始值。对 Codex/ChatGPT 这是定期轮换的 OAuth bearer;
  • upstream 维度 = 上游 origin。用户切换中转站/上游时变化。

任一维度变化都会产生一个全新的会话 ID,所有压缩状态(内存 blocks、lastInputTokens、持久化记录)立即成为孤儿——持久化记录也以同一个 ID 为键,同样无法恢复。

症状(#280 场景)

长会话进行中会话"丢失"后,客户端重放全量原始历史:usage=0%、nudge 盲(tokenCount=0 时不注入)、payload 超过真实窗口 → 上游 400 / 任务失败。#280 的 macOS 休眠唤醒场景即此类(bearer 轮换 + 重连)。

受影响范围

  1. Codex/ChatGPT:OAuth bearer 轮换 → 会话 ID 随轮换变化(Codex 长会话在 macOS 休眠唤醒后 Bili 未触发压缩,导致上下文窗口超限 #280 主因)。
  2. 中转站场景:切换上游/中转 → upstream 维度变化 → 同样丢会话。
  3. 无原生 session id 的客户端(hermes、dsh、以及不发任何识别 header/body 字段的通用客户端):conversation 维度退化为内容指纹,碰撞面大,隔离完全依赖 credential/upstream 维度。

方向(owner 已确认,见 #280 讨论)

客户端原生 session id(codex session-id/thread-id、claude x-claude-code-session-id、opencode x-opencode-session、Responses body session_id、prompt_cache_key 等)才是与会话绑定的唯一不变量;用户随时可能切换账号/上游,这些都不应打断会话连续性。

因此:强信号(clientProvided 身份)→ 会话 ID = hash(protocol | conversation);四维度哈希仅保留给内容指纹回退(hermes/dsh/匿名客户端,指纹有真实碰撞面,需要 account/upstream 维度维持隔离)。

一次性代价:存量持久化会话重新定键一次(旧记录孤儿化),可接受。

相关

Activity

  1. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    收到,开始处理。方向确认:强信号(clientProvided 身份:codex session-id/thread-id、claude x-claude-code-session-id、opencode x-opencode-session、Responses body session_id/prompt_cache_key、插件 x-bili-plugin-conversation)→ 会话 ID = hash(protocol | conversation);四维度哈希仅保留给内容指纹回退(hermes/dsh/匿名客户端)。正在阅读 src/session-id.ts 与各协议的 conversationSignal 调用点,随后提交 PR。

  2. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    修复已提交:PR #288 feat: key sessions on (protocol, conversation) for client-provided identity (#286)(分支 2026-08-27_strong-signal-session-id,commit 6215446)。

    实现

    deriveSessionId(src/session-id.ts)新增 clientProvided 维度,两级定键:

    • 强信号(clientProvided=true)→ hash(protocol | conversation)。credential(ChatGPT 轮换 bearer)与 upstream(中转切换)维度不再参与——它们不是会话生命周期内的不变量,AND 进去就会孤儿化全部压缩状态(Codex 长会话在 macOS 休眠唤醒后 Bili 未触发压缩,导致上下文窗口超限 #280 根因)。
    • 弱信号(clientProvided=false,内容指纹)→ 保留原四维 hash hash(protocol | upstream | credential | conversation)。指纹有真实碰撞面,credential/upstream 维度继续为匿名会话兜隔离。

    server.ts 按协议传标志:responses/openai 取 kernel identity 的 clientProvided(header / body session_id / metadata.session_id / prompt_cache_key 提升 → true;previous_response_id / 内容指纹 → false);anthropic 取客户端 session header 是否存在。

    覆盖的强信号:codex session-id/thread-id header + body session_id、claude x-claude-code-session-id、opencode x-opencode-session、通用 x-session-id/x-session-affinity/x-acp-session、omp prompt_cache_key。

    一次性代价

    存量持久化会话升级后重新定键一次(旧记录孤儿化)——按 issue 讨论接受,旧键本身不稳定。

    测试

    • tests/proxy-session-id.test.ts:原四维隔离测试全部保留(弱层)+ 6 个强层新测试(bearer 轮换、中转切换、稳定性、conversation/protocol 分离、两层不碰撞)。
    • tests/e2e-session-identity.test.ts(新增,7 个):三协议全链路往返,验证轮换凭证/切换上游后仍是同一 session(/__bili/stats 断言),外加弱信号隔离对照与不同 session_id 隔离对照。
    • 全量:670/670 通过,typecheck 干净。

    协调

    PR 待人工 review + merge(按仓库规范我不合并)。

  3. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    PR #288 CI 已全部通过:test 矩阵(ubuntu/windows × node 22/24)✅、build-artifact ✅、version-guard ✅。

    可以 review + merge 了:#288

    merge 后如需发版,走标准 release 流程(*_release-v* 分支 + release v{VERSION} commit,CI 自动 publish)。注意本修复含一次性重定键:升级后存量持久化会话的旧记录会孤儿化,属预期行为。

  4. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    protocol
    不管是强还是弱都不应该保留类似可变的东西,你需要仔细思考如何处理这个问题 。现在大部分都是通过 bili 启动器,所有启动器理论上都有强信号。
    直接网络代理的大部分有强信号。
    剩下的先报错

  5. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    收到,方向改。四维 fallback 确实违反同一条原则——upstream 和 credential 都是可变的,弱层定键同样不稳定,留着它就是留着一个"看起来隔离、实际会孤儿化"的假安全感。新方案:

    1. 有强信号 → hash(protocol | conversation)(PR 中不变)
    2. 无强信号 → 不再用内容指纹静默建会话,直接 400 报错(错误信息给出可用的身份字段清单)+ warn 日志

    推论与边界:

    • bili 启动器客户端(pi/omp/opencode/codex/claude)与带原生 session id 的直连客户端不受影响;
    • 真匿名客户端(无插件的 dsh/hermes、通用 curl、部分 IDE)显式失败,而不是静默孤儿化状态——"剩下的先报错";
    • previous_response_id 是 per-turn id 不是会话不变量,不算强信号;
    • 启动器侧若有个别客户端还没盖强信号(hermes/dsh 待确认),补 header 注入可另开 issue 跟进。

    我先排查影响面(现有匿名测试客户端、count_tokens 与 /responses/compact 的路由、各启动器实际发送的 header),然后更新 PR #288。

  6. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    protocol 不能作为身份 讨论明白再搞

  7. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    同意。protocol 是可变的(relay 翻译 responses↔chat、跨协议切模型),不该进 key。查完存储层,状态本身就是协议中立的,key 可以进一步简化:

    提案:session ID = hash(client-provided conversation value),protocol / credential / upstream 全部不进 key

    为什么安全(已核实):

    • session 存的全是协议中立形式:state: CompressionState(kernel 归一化,src/session.ts:65)、blockContents 存纯文本 {text, count}(src/session.ts:4-7)、lastMessages: CoreMessage[](src/session.ts:85);
    • 客户端每次请求发全量历史(source of truth),adapter 每轮按当前协议重新归一化——同一会话中途换协议,状态直接复用,不需要 reset;
    • meta.protocol / upstreamOrigin 本来就只是描述属性(UI 展示 + 磁盘文件名命名空间),不参与 key(src/session.ts:13-18)。

    碰撞面:只有 client-provided 值进 key(内容指纹已按你上一条改成 400),客户端的值是 UUID/不透明串,设计目的就是每会话唯一;同一值被两个会话复用属于客户端自己的责任(与任何 cache key 语义一致)。

    三个待确认点:

    1. ID 形式:保留 hash(value)(16 hex,现状,UI/测试/持久化文件名都不用动)还是直接用 value 原文(日志/UI 里直接看到 codex session UUID,可调试性更好)?我倾向保留 hash——raw value 已经在 label 字段里了。
    2. 协议切换:不 reset 状态,只把 meta.protocol / upstreamOrigin 更新为最新值——OK?
    3. 无强信号 → 400(按你上一条),错误信息列出可用身份字段(headers: x-session-id / x-session-affinity / x-acp-session / x-opencode-session / x-claude-code-session-id / session-id;body: session_id / prompt_cache_key)——不变。

    影响面已审计:7 处匿名测试调用点需要补强信号(vscode-copilot、e2e-compress-prompts、e2e-responses-chat-relay、e2e-proxy-smoke、e2e-anthropic、launcher-plugin-mode ×2、forward-absolute-url);launcher-plugin-mode 的两个 headless-binding 测试要特殊处理(首请求带一个与 register 的 id 不同的强信号,否则走 identity 路径而不是 headless pending 路径)。

    确认后我更新 PR #288。

  8. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    session ID = hash(client-provided conversation value),
    否决
    sessionid = session 没有 hash 没有其他的了

  9. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    收到:session ID = client-provided conversation 值原文,无 hash、无其他维度。开始实现:

    • 删除 deriveSessionId / extractKey,server 直接用 conversation 值作 ID
    • 无强信号 → 400(错误信息列出可用身份字段)
    • meta.protocol / upstreamOrigin 随请求更新为最新值,协议切换不 reset 状态(状态本身协议中立)
    • 持久化文件名对原始值做 sanitize(值可以是任意字符串)
    • 7 处匿名测试调用点补强信号;headless-binding 测试首请求带与 register 不同的强信号

    完成后更新 PR #288。

  10. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    按最终设计实现完毕,PR #288 已更新(commit 2b48762):#288

    session ID = client-provided conversation 值原文,无 hash、无其他维度:

    • src/session-id.ts 删除 deriveSessionId / extractKey;server 直接 sessionId = conversation
    • 无强信号 → 400(anthropic 与 openai/responses 各自的错误格式,信息列出可用字段:x-session-id / x-session-affinity / x-acp-session / x-opencode-session / x-claude-code-session-id / session-id / body session_id / prompt_cache_key)
    • 修正我之前 m00097 里说的 "meta 随请求更新"——meta.protocol / upstreamOrigin 保持 first-wins:持久化文件名命名空间 sessions/<proto>/<host>_<sha>.json 由它们派生,更新成最新值会在每次切中转时孤儿化旧文件。会话状态本身协议中立,协议切换不断状态
    • persist.ts 无需改动:文件名本来就是 id 的 sha256,id 从文件体读取,原始值安全

    顺带修了一个本设计暴露的潜在 bug:route 的 compressProtocol 配置原先按 session.meta.upstreamOrigin(first-wins)解析(src/server.ts:1235)——会话跨中转续接后,新中转的 route 配置会被静默忽略。现按请求实际 upstream 解析。

    测试:

    • e2e-session-identity.test.ts 重写为 10 例:bearer 轮换、中转切换、跨协议续接(同一 session_id 先 responses 后 chat → 同一会话)、匿名 400 ×3(含断言不建会话)、隔离
    • 7 处匿名测试调用点补强信号;2 个 headless-binding 测试首请求带与 register 不同的强信号(保持走 pending 路径)
    • typecheck clean,657/657 通过

    代价不变:存量持久化会话一次性重新定键(旧记录孤儿化);无原生 session id 的客户端收到 400(显式失败)。PR 等你 review/merge。

  11. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    CI 全绿:test (ubuntu/windows × node 22/24)、build-artifact、version-guard 全部通过。PR #288 可以 merge 了(merge 由你操作)。

  12. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    升级后可能不兼容老会话 考虑如何过渡迁移

  13. ranxianglei commented on Aug 27, 2026

    @ranxianglei
    OwnerAuthor

    🤖 ework agent · vllm-qwen/qwen3.8-27b

    [bot] 已加一次性启动迁移,老会话不丢(PR #288,commit 85765d5):

    机制:initSessions() 在 loadAll() 之前先跑 store.migrateLegacyIds()(src/persist.ts,src/session.ts:114):

    • 映射键 = meta.label:旧代码里 clientLabel(= 客户端提供的 conversation 值)本来就存进了 meta.label,而新设计下 session id 正是这个值本身 —— 所以旧记录可以直接按 label 重新定键,不需要任何启发式。
    • 冲突处理:同一 label 有多个旧记录(bearer 轮换产生的孤儿链)→ 保留 savedAt 最新的,其余文件删除;label 已被新格式会话占用 → 旧文件删除(新格式优先)。
    • 无 label 的旧记录(纯匿名指纹会话):无法映射,原地保留 —— 新代理对无强信号请求直接 400,这些文件不会再被请求,最终由 kernel 的 maxFiles GC 回收。
    • 自终止:跑完一轮后所有 id 都等于自己的 label,第二次启动是 no-op(有测试覆盖)。
    • 新会话:直接以 verbatim id 写入,不再产生旧格式文件。

    代价:迁移后旧 hash 文件名消失(内容保留在 re-key 后的文件里),/sessions 目录里每个会话一个文件,id 即文件名可读部分。

    测试:tests/proxy-persist.test.ts 新增迁移测试(re-key、同 label 冲突保留最新、二次运行 no-op);全量 658/658 通过,typecheck 干净。

  14. 13 remaining items

  15. added 2 commits that reference this issue on Oct 23, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions