Skip to content

[Feature] Provide a "trace" feature similar to dsh's on the session page of the Web UI | [Feature] 在 web ui 的会话页面里提供类似 dsh 的「轨迹」功能 #3201

Open

Description

@deshark42

本 issue 不是反馈 Bug,是一个功能请求。

在 dsh 中,每一个会话都有一个「轨迹」页面,在这里可以看到整个会话的组成部分:系统提示词、每一条消息的身份/内容、思考与调用工具的编排,以及工具返回的结果等等。

这给 dsh 用户带来了一种能力,即不需要抓包原始请求就能了解到发送给 LLM API 的上下文完整内容。

如果 billion-context 也拥有这种可视化能力,那无论对 debug,还是对想了解、改进本插件压缩结构的用户,都会有很大的帮助。

Activity

  1. ranxianglei commented on Oct 14, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    查重:不重复。 最近邻但都是不同的东西:#2489/#2492 是会话详情页「上下文曲线图」的交互增强(token 大小随轮次变化,只画数量);已有的 handoff 文档是消息内容的 markdown 叙述式导出(详情页已可复制/下载),但没有系统提示词、工具定义和折叠结构。本请求要的是「完整上下文的结构化视图」,独立成立。

    可行性核实过代码,结论:高。 这个功能放这里位置很正——billion-context 本来就坐在客户端和 LLM API 之间,是全链路唯一能看到改写后完整上下文的点,相当于 dsh「轨迹」页在 dsh 里的那个位置。数据大部分已在手:

    • lastMessages:每轮从客户端原始请求快照的完整历史(文本/工具调用/工具结果/思考都在);
    • blockContents + CCR 内容存储:折叠块的原文,可展开;
    • 逐轮 ledger:每轮 input/cached token 样本(现有曲线图的数据源)。

    缺口只有两处小改动:系统提示词现在只存了 token 计数、文本本身没落盘;工具定义同样未持久化。

    方案分两期:

    Phase 1 — 会话详情页加「上下文」视图(建议先做)
    重建最近一轮发给 LLM 的完整上下文:系统提示词区 → 工具定义区 → 按序条目(role、mNNNNN 身份、类型、估算 token、可折叠全文);被折叠的部分以摘要块锚定在原位置显示,点开看原文。附归一化 JSON 的复制/下载导出。新增存储几乎为零(只多存一份截断后的系统提示词文本 + 工具清单)。

    Phase 2 — 逐轮时间线(真·轨迹)
    每轮往 index.db 记一个小 manifest(该轮 wire 上有哪些消息、折叠边界),点任意历史轮次可精确重建那一轮的上下文;内容仍走指针引用现有存储,不重复拷贝。这触碰持久化格式,按仓库规矩需要你拍板后再动。

    两个诚实声明:

    1. 视图展示的是协议中立的归一化形态——Anthropic/OpenAI/Responses/Google 四种 wire 的形状本来就不一样。「字节级精确的原始请求体 dump」是另一个更重、涉隐私的 opt-in debug 特性,如需要可以另立一项。
    2. web UI 里「轨迹」这个名字已被 token 曲线图占用(i18n key det.trajectory),本功能会叫「上下文视图」之类,避免混淆。

    待你拍板: 范围取 Phase 1 即可,还是 1+2 一起做?确认后我开工。

  2. ranxianglei commented on Oct 16, 2026

    @ranxianglei
    Owner

    参考这个https://github.com/deepseek-ai/deepseek-harness 源码 在session详情页面 最下方是session的当前具体内容,看起来很杂,直接默认换成轨迹?

    后续再考虑专门为dsh定制一个当前会话就能看的轨迹?

  3. ranxianglei commented on Oct 16, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    看了 deepseek-harness 的 packages/client/ui-trajectory/ 源码,回答你的问题:可以,直接默认换成轨迹。理由:现在最下方的「会话交接文档」就是把全部消息混成一坨 markdown(正是你说的"很杂"),而 dsh 式轨迹视图把同样的内容结构化之后完全覆盖它——每条消息全文仍可展开、可复制。所以内容不丢,只换呈现方式;「复制 Markdown / 下载 .md」保留为新卡片工具栏里的按钮(交接导出功能本身不动)。

    从 dsh 源码里采用的设计:

    • 按轮次分组的记录台账:system / user / assistant / thinking / tool-call / tool-result / compacted 七类记录,每条有 #N、身份(mNNNNN)、类型徽标、token 估算、单行摘要,点开看全文;
    • compaction 记录锚定在所属轮次内(bili 的折叠块有 startRef/endRef,正好能插到原位置);
    • 搜索框按文本过滤记录;长历史分页加载更早的记录;
    • 顶部 system 区显示系统提示词 + 可用工具清单。

    bili 数据侧的两个适配点(已核实):

    1. 系统提示词文本目前没落盘(只有 token 计数)→ 加一个小 sidecar 文件(沿用 content-store.json 的原子写模式),只在内容变化时重写;重启后仍可见。
    2. dsh 的 timing overview(每记录 TTFT/耗时)做不了——bili 的逐轮采样是请求级 input/cached,不是记录级时间戳,不造数据;已有的「上下文曲线」图继续承担时间维度。

    行为变更披露:① 详情页最下方默认展示从交接文档改为轨迹视图(交接 md 仅留在按钮里);② 现有曲线图标题「上下文轨迹」改名「上下文曲线」,避免和新卡片撞名。

    范围边界:逐轮历史时间线(Phase 2,碰持久化格式,另拍板)、字节级原始请求体 dump(另立项)、以及你提的 dsh 定制版实时轨迹(属于 dsh 仓库的事,这边先不动)。

    开始实现。

  4. ranxianglei commented on Oct 16, 2026

    @ranxianglei
    Owner

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    做完了——PR #3337:#3337 (Closes #3201)

    查重:不重复(floor 1 自查;最近邻 #2489/#2492 是 token 曲线图的缩放交互,与本「上下文内容视图」机制不同;handoff 文档是叙述式导出,不含工具/思考编排的逐条结构)。

    结构化八问

    1. 是什么问题:功能请求——想在 web UI 会话页看到发给 LLM API 的完整上下文(系统提示词、每条消息、思考与工具编排、工具结果),不用抓包,对应 dsh 每会话的「轨迹」页。
    2. 什么原因导致的:非 bug,是能力缺口——web 详情页原本只有 token 曲线图与叙述式交接文档;且系统提示词文本此前没有任何地方持久化(只存了 token 计数),内容级视图缺原料。
    3. 影响范围与严重程度:仅 web 管理页展示层(/__bili/,默认 loopback);代理转发行为零变化;旧会话没有 sidecar 时轨迹视图系统节显示「未捕获」(优雅降级,不影响其他功能)。
    4. 怎么修复的:两层——(a) 在四个 wire 出口与既有 systemPromptTokens 测量同点落盘有界 sidecar <stem>.system-surface.json(最近一次请求的确切系统文本+工具定义;hash 门控重写、每字段 ≤400K chars、原子写 0600、损坏降级为未捕获、GC 同生命周期共删);(b) 详情页从已持久化状态重建最近一次出站上下文为 dsh 式记录台账:系统提示词与工具节 + 每条消息一行(类型徽标/ref/轮次/估算 tokens/预览,点开全文)+ 折叠块锚定在 span 末尾作「压缩摘要」行;按你的拍板替换原最下方默认交接文档展示,md 复制/下载按钮保留,另加复制 JSON。
    5. 是否有回归问题:逐项审过既有行为——GC twin-fallback 共删规则重构为共享 helper,其回归测试通过(session-gc 23/23);content-store 加载/保存路径未动(storage-ccr 绿);wire 协议形状未动(wire-contract 绿);两种压缩模式均不受影响(视图只读重建)。顺手小修一处(独立标注 commit):proxy-persist 两处目录布局断言假设顶层只有 legacy 条目,但 shadow 默认存储模式(Storage layer: four concrete defects (filename coupling, multi-writer heuristic, non-atomic content-store write, immortal compressed sessions) #2671)下 index.db/-wal/-shm 合法存在,本地跑 4!==1 失败(master CI 同一 commit 为绿,触发疑似环境相关)——断言现过滤这些已知 sidecar,「无杂散文件」意图不变。
    6. 是否破坏缓存:否——前缀缓存/重试/去重键均未触碰;sidecar 写入不参与请求路径。
    7. 是否改了设计方向:否。kernel/ 与 pi-subagents/ 零改动;视图是协议中立归一化重建,不是 byte-exact 原始 dump(byte-exact dump 与逐轮时间线属 Phase 2,待你决策)。
    8. 是否引入新配置:否(无新 config/env/CLI flag)。

    行为变更披露(旧→新):① 详情页最下方默认展示:交接文档 → 上下文轨迹视图(md 仍可按钮获取);② 曲线图标题「上下文轨迹」→「上下文曲线」(en: Context trajectory → Context curve);③ GC 审计日志措辞 orphaned content store → orphaned companion file(orphan pass 现覆盖两类 sidecar);④ 新增有界伴生文件 <stem>.system-surface.json(每字段 ≤400K chars)。

    判定:可进 review/merge——CI 正在推送的 head 上跑,绿后可合。你说的 dsh 定制「当前会话实时轨迹」是另一套机制(要实时推送通道,非离线重建),需要时再立项。

  5. 11 remaining items

  6. changed the title [-][Feature] Provide a "trace" feature similar to dsh's on the session page of the Web UI | [Feature] 在 web ui 的会话页面里提供类似 dsh 的「轨迹」功能[/-] [+][Feature] Provide a "trace" feature similar to dsh's on the Web UI session page | [Feature] 在 web ui 的会话页面里提供类似 dsh 的「轨迹」功能[/+] on Oct 16, 2026
  7. changed the title [-][Feature] Provide a "trace" feature similar to dsh's on the Web UI session page | [Feature] 在 web ui 的会话页面里提供类似 dsh 的「轨迹」功能[/-] [+][Feature] Provide a "trace" feature similar to dsh's on the session page of the Web UI | [Feature] 在 web ui 的会话页面里提供类似 dsh 的「轨迹」功能[/+] on Oct 17, 2026
  8. added
    其他改动范围:内核之外的主机侧接线(src/agent 适配器、server 路由、注入拦截)/范围兜底/客户端标签
    on Oct 18, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or requestp3其他改动范围:内核之外的主机侧接线(src/agent 适配器、server 路由、注入拦截)/范围兜底/客户端标签

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions