Skip to content

Desktop tray icon showing live compression stats (data already served by built-in Web UI) #3217

Open

Description

@ranxianglei

来源: #3086 (#3086) 分析 Bionic/LM Studio 本地模型兼容(用户实测验证通过)时发现——用户 @imedox 在验证线程中提出的三条增强建议之一(另两条:压缩节奏配置已存在 compress.nudgeGrowthTokens;后台服务安装已在途 PR #3176/#3178,见 #3086 线程回复)。

[no-dispatch]

What's asked

A lightweight always-visible desktop indicator (tray / menu-bar icon or small widget) showing in real time: active session compression level, cache-hit stats, and tokens saved.

What already exists (the actual delta is small)

  • Built-in web dashboard at http://127.0.0.1:8787/__bili/ — overview page with tokens total / saved, per-session browsing (context window, usage, compression state), config editor, run-log viewer (src/web/*, src/server/admin.ts). It is a browser tab, not an always-on indicator.
  • Machine-readable: GET /__bili/stats (loopback-only) — sessions, contextWindow, cached/input/output tokens, blindTunnels, unrecognizedPaths, conflicts.

Open questions (owner decision territory)

  • First-party native tray app (a new platform surface, likely a separate package) vs. leaving it to community tooling that polls /__bili/stats;
  • Cross-platform scope (macOS menu bar / Windows tray / Linux status notifier) if pursued.

No action requested beyond owner visibility; filed so the suggestion is not lost when #3086 closes.

Activity

  1. ranxianglei commented on Oct 15, 2026

    @ranxianglei
    OwnerAuthor

    非常赞同需要有这个,建议直接扩大到做成多平台的服务托盘,不同平台提供安装包或者exe可执行文件,启动后变成系统托盘.

    需要主要的是,我们本项目也以插件的方式分发到仓库,比如dsh,需要解决npm 普通安装和仓库分发问题,可能一些仓库对下载包大小有要求,有一些未必允许exe文件存在.

  2. ranxianglei commented on Oct 15, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    查重: 不重复。全仓 open/closed issue/PR 检索无其他 tray/托盘/desktop client 相关条目;本 issue 自身即 #3086 拆出的 [no-dispatch] 可见性条目。

    先答你提的分发问题——结论是:让托盘根本不进任何包,问题就消失了。

    你的两个顾虑(仓库包大小限制、部分仓库不允许 exe)都源于同一个假设:托盘要随主包或插件通道分发。我建议反过来——托盘是一个完全解耦的独立小程序,与 bili 唯一的耦合点是已有的回环 HTTP 接口 GET /__bili/stats(loopback-only,src/server/admin.ts:158,数据已经齐了)。它不进 npm 主包、不进 dsh 插件通道(dsh plugin add 那条链路零改动)、不进任何 registry;用户从 GitHub Releases 按自己平台主动下载安装(macOS .dmg/.app、Windows .msi/exe、Linux .AppImage/deb)。这样:

    • 大小限制:主包和插件分发体积一个字节不变。顺带实测:当前发布的 0.1.197 解压后已约 130MB(含 paper 图稿与内联 bundle),再往里塞二进制只会雪上加霜;若你关心主包本身偏大,那是另一个可单独审计的事,与本功能无关。
    • 不允许 exe 的仓库:任何 npm/plugin 包里都没有二进制,exe 只存在于用户主动下载的 Release 产物里,合规面自然干净。
    • npm 普通安装 vs 仓库分发:两条通道都不碰,无需调和。

    技术形态上我推荐 Tauri(Rust 核心 + 系统 webview,单平台二进制约 5–10MB)而非 Electron(~100MB+,对"显示三个数字"的负载过重);UI 直接复用现有 Web dashboard 的数据渲染逻辑(src/web/*),stats 字段契约做版本钉住(类似 wire-contract ledger 的纪律),字段变更时同步兼容。构建顺序建议 mac → win → linux(Linux 桌面 StatusNotifier 支持碎片化,放最后)。v1 不需要给 bili 加任何配置——端口等设置放在托盘应用自己身上,不动 billion-context.json(owner-gated 配置面纪律)。

    结构化八问(决策请求):

    1. 是什么问题:用户要一个常驻桌面指示器实时显示压缩级别/缓存命中/节省 token;现有 Web dashboard 要手动开浏览器标签页,做不到常驻可见。
    2. 什么原因导致的:不是缺陷,是产品形态缺口——数据面(/__bili/stats)早已就绪,缺的是一个 always-on 的显示载体。
    3. 影响范围与严重程度(分选项):
      • A 独立托盘(GitHub Releases 分发):对存量用户零影响,不装就什么都不会变;纯新增。
      • B 并入主 npm 包:波及所有安装路径(全局 npm、dsh 插件通道、各 registry),正是你担心的大小限制/exe 禁令风险集中区;中高风险。
      • C 不做一方工具:项目本体无影响,体验取决于第三方轮询工具质量,不可控。
    4. 怎么修复的(推荐 A):完全解耦——独立原生小程序只经回环 HTTP 读 stats,不进任何分发通道;Tauri 跨平台,Release 按平台出安装包;stats 契约版本化钉住。
    5. 回归风险(分选项):
      • A:bili 主体零代码改动 → 无回归;唯一耦合是 /__bili/stats 字段契约,未来 stats 结构变更需同步托盘兼容(用版本钉住机制管控,同 wire-contract ledger 纪律)。
      • B:回归风险集中在分发链——包体增大可能撞 registry 上限、postinstall 行为可能被代理/仓库拦截、exe 进 plugin bundle 可能违反部分仓库政策,任何一条都可能破坏既有安装/自更新链路。
      • C:无回归。
    6. 是否破坏缓存:不涉及(不触碰压缩/缓存/重试/游标机制)。
    7. 是否改了设计方向:A 新增一个独立产品形态(桌面客户端),但不改 bili 架构与数据流——bili 仍是代理服务器,托盘只是与 Web dashboard 并列的另一个只读消费者;B 会把"代理"和"桌面应用"两个边界混在一起,不建议。
    8. 是否引入了新的配置:A 不给 bili 引入任何新配置(key/默认值均无);托盘自身的少量设置(如 bili 端口,默认 8787)在托盘应用内,不进 billion-context.json。B/C:无。

    选项对比:

    A 独立 Tauri 托盘 + GitHub Releases(推荐) B 并入主 npm 包 C 交给社区工具
    主包/插件通道改动 零 大(体积+postinstall+合规) 零
    分发渠道 Release 安装包,用户自选 npm/dsh/registry 全通道被动携带 第三方
    体积代价 仅下载托盘的人付(~5–10MB/平台) 所有用户每次安装都付 取决于第三方
    exe 政策冲突 无(不进任何仓库) 有(你已点名的风险) 无
    数据依赖 仅 /__bili/stats(已存在) 进程内直连(耦合深) 同 A
    维护成本 新仓/新 CI(Rust 工具链) 中 零

    待你拍板:① 是否认可"完全解耦、不进任何包"的分发原则;② 技术形态 Tauri vs Electron(我强烈推荐前者);③ v1 平台范围(我建议三平台都做、mac→win→linux 顺序,或先 mac+win 两平台)。拍板后我立开发 issue 开工;另有一个附带观察供你决定要不要单独立项:主包 0.1.197 解压 ~130MB 是否合理值得一次专门的体积审计(与本功能无关,不塞进这里)。

  3. ranxianglei commented on Oct 15, 2026

    @ranxianglei
    OwnerAuthor

    基本同意 有一个问题是 只下载外壳还是同时打包 billion-context ,自动更新怎么做?
    是否可能允许 npm 安装的用户也有类似功能?

  4. ranxianglei commented on Oct 15, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    查重: 同线程(#3217)延续,无新增相关条目。

    先直接答你的两个问题:

    Q1:只下外壳,不打包 billion-context。

    理由是本项目的一条铁律——Install-Lane & Update-Ownership Contract(#991/#1196):机器上每一份 bili 拷贝有且只有一个 writer。托盘里捆一份 bili = 制造第二份拷贝、走第二条更新路径;用户若又用 npm 装过全局版,两个 writer 共管同一套配置目录(~/.config/billion-context)和状态目录(~/.local/share|state/billion-context),正是 #1196 花大力气修掉的「多拷贝漂移/永久冻结」bug 类。而且托盘的目标用户几乎都已有 bili 在跑(托盘的意义就是盯住运行中的实例);新用户场景由托盘显示「未检测到 bili」状态并给出一键安装指引兜底——将来真要做顺,可以加个驱动 npm i -g 的按钮,但 bili 拷贝的 writer 始终是 npm 通道,托盘自己永不写它。

    自动更新:两条 lane 各自独立更新,零协调——

    • bili:现有自更新(npm registry 每 3 分钟检查 + advisory 强制更新通道)一行不改;
    • 托盘:Tauri 内置 updater 从 GitHub Releases 拉签名安装包,替换+重启;
    • 两者唯一耦合是回环 HTTP 契约,且做版本钉住:托盘读 /__bili/status 拿运行中 bili 的 version,声明自己支持的 stats 字段范围,不匹配时显示「请升级 X」而不是渲染错数据。不需要任何跨二进制的版本对齐机制。

    Q2:npm 用户当然可以有——这正是解耦的红利。

    托盘不关心 bili 是怎么装的(全局 npm / dsh 插件通道 / launcher 全兼容),只依赖本地端口和回环接口。npm 用户从 GitHub Releases 下同一份平台安装包即可,npm 主包零改动。两个可选便利入口(你定做不做):

    • v1 轻量:bili tray 子命令,只打印当前平台的正确下载链接——纯发现性辅助,零新依赖;
    • v2 可选:薄包装包 billion-context-tray(纯 JS,包内无二进制),npx billion-context-tray 时从 GitHub Releases 拉对应平台二进制——用户主动触发的下载,不走 postinstall 钩子,不碰「部分仓库限制下载行为」的红线;网络不通就降级打印直链。

    明确不做的事:把 node 原生托盘库(tray-icon 之类)塞进主包——那类库要么依赖 Electron、要么跨平台原生编译,等于把平台二进制压进每次安装,大小限制和 exe 禁令问题原样回来,违背解耦原则。

    结构化八问:

    1. 是什么问题:分发形态细化——托盘是否捆绑 bili、npm 用户如何获得同等功能。
    2. 什么原因导致的:非缺陷;约束来自单 writer 契约与分发渠道合规,数据面(/__bili/stats + /__bili/status)已就绪。
    3. 影响范围与严重程度(分选项):
      • 仅外壳(推荐):存量安装零影响,npm/dsh 用户经 Release 安装包自选获得。
      • 捆绑 bili:波及所有桌面新用户(机器上双拷贝),与单 writer 契约正面冲突,高风险。
    4. 怎么修复的:仅外壳 + 双 lane 独立自更新 + stats 契约版本钉住;npm 用户复用同一安装包,可选发现入口。
    5. 回归风险(分选项):
    6. 是否破坏缓存:不涉及。
    7. 是否改了设计方向:不变——bili 仍是代理服务器,托盘是与 Web dashboard、社区工具并列的第三个只读消费者。
    8. 是否引入了新的配置:bili 配置面零新增;若批准 bili tray 子命令,属 CLI 表面小增项,会在实现 PR 中单独披露。

    待你拍板:① 确认「仅外壳、不捆绑」;② v1 是否带 bili tray 发现性子命令;③ npx 薄包装是否列入 v2 规划。① 确认后我立开发 issue 开工。

  5. ranxianglei commented on Oct 15, 2026

    @ranxianglei
    OwnerAuthor

    本 issue 做 开工吧 兼容三端 暂时 主流桌面

  6. ranxianglei commented on Oct 15, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    开工完成,PR 已开:https://github.com/ranxianglei/billion-context/pull/3281(合并后自动 Closes #3217)。查重:无——open/closed 的 issue 与 PR 中均无其他托盘/桌面类条目。

    做了什么:按拍板方向做成完全解耦的独立桌面应用 BiliTray,覆盖三端主流桌面(macOS universal dmg / Windows x64 NSIS exe / Linux amd64 deb)。代码在本仓库新目录 tray/,独立 CI workflow(ci-tray.yml);打 tray-v* 标签时 CI 在三平台 runner 上构建安装包并发布到 GitHub Release(与 bili 的 v*、kernel 的 kernel-v* 标签命名空间互不干扰)。npm 包与 dsh 等插件通道零变化——package.json 的 files allowlist 从结构上保证 tray/ 永远进不了任何包/插件分发渠道,直接回应你提的仓库包大小限制与 exe 准入问题。

    八问:

    1. 是什么问题:功能缺口——压缩统计目前只有内建 Web 仪表盘(需开浏览器标签页),没有常驻桌面指示器。
    2. 什么原因导致的:非缺陷;bili 是 npm 代理,本来就没有桌面端。
    3. 影响范围与严重程度:纯新增独立应用,现有用户与所有安装通道零影响。
    4. 怎么修复的:Tauri v2 无窗口托盘应用,逻辑拆两层:bili-tray-core(纯 Rust、零 GUI 依赖,轮询 loopback /__bili/status + /__bili/stats 并格式化成 tooltip/菜单,本地全测 + CI 跑)与 bili-tray-app(Tauri 壳,仅由 CI 在对应平台构建)。托盘只读数据、不碰任何写路径,bili 源码与配置零改动。之前讨论的两个可选项(bili tray 子命令、npx 包装)不在拍板范围内,本次未做,需要可另立项。
    5. 是否有回归问题:无——不触碰 src/**、自更新、wire、配置 schema、持久化。两项有意变更在此披露:① v1 托盘不带自动更新(讨论阶段提过 Tauri updater,因 minisign 签名密钥属 owner 侧动作而推迟,列为后续);② 当前构建未签名(Gatekeeper/SmartScreen 会有提示,待 owner 提供 Apple Developer ID / MS 证书后在 CI 启用)。
    6. 是否破坏缓存:不涉及。
    7. 是否改了设计方向:新增一个独立分发面(GitHub Releases),与 Install-Lane 单一写者契约(native模式下自动更新问题需要解决 #991/dsh plugin-market installs never auto-update: the refresh chain's only trigger is a global bili self-update #1196)一致:bili 本体仍只有 npm 一条更新链,托盘是用户自选的第二件工具,两者仅靠 loopback HTTP 松耦合(版本信息也经 /__bili/status 对齐显示)。
    8. 是否引入了新的配置:bili 侧零新增。托盘自身有一个独立小配置文件(port 默认 8787 / pollMs 5000 / timeoutMs 1500,各平台路径见 tray/README.md),与 billion-context.json 完全不交叉。

    验证:core crate 本地 24/24 单测+集成测试通过(含 5 个真实 loopback mock 用例:在线双端点解析、端口关闭、HTTP 500、坏 JSON、无响应超时);CI 全绿(fmt/clippy/test lane + 仓库既有全部 lane)。app 壳与三端安装包只能由 CI 平台 runner 构建(开发沙箱无 GUI 系统库),release job 首次触发需打 tray-v0.1.0 标签。

    判定:可合。合并动作按规矩留给人执行;合并后打标签即可产出第一批三端安装包。

  7. ranxianglei commented on Oct 15, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    补充更正(重要):上一条回复里「CI 全绿」的说法不准确——当时两个已推 head(234eac5 / 7134856)上 Tray CI 的 clippy 门禁实际是红的(其余 e2e/guard lane 均绿)。原因:沙箱里 clippy 组件当时未安装,本地那次「clippy 通过」是被管道吞掉退出码后的误报。现已修复并重新验证。

    跟进提交(各自独立标注):

    1. ba5dfa8a5 fix: treat raw EAGAIN as timeout in tray net client —— 超时集成测试暴露出平台/运行相关的行为:读写出期可能表现为 ErrorKind::TimedOut,也可能表现为裸 EAGAIN(os error 11;Windows 10035)。本 crate 从不启用非阻塞模式,因此任何 EAGAIN 只可能来自自身超时到期,统一归类为 Timeout。行为变更披露:bili 无响应时离线 tooltip 将显示 "timed out" 而非 "connection error"(更准确的分类,属修复而非回归)。
    2. e41eeeeb9 style: satisfy clippy lints —— manual_map、manual_checked_ops(改写为 checked_mul/checked_div)、unused-mut、must_use,并删掉一处冗余的 set_nonblocking(false) 空操作。无行为变化:checked_div 改写保持原语义(input==0 时不渲染 cache 段),另加了原本不可达的溢出保护。

    当前状态(head e41eeee):全部 CI lane 绿——Tray CI core-tests(fmt/clippy/test)+ 主 CI test shards + 全部 e2e/guard lane,零失败。本地:24/24 测试 + clippy -D warnings 退出码 0 + fmt clean(本次均以真实退出码验证)。

    判定不变:可合,合并动作留给人执行。

  8. added
    其他改动范围:内核之外的主机侧接线(src/agent 适配器、server 路由、注入拦截)/范围兜底/客户端标签
    on Oct 18, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or requestp3其他改动范围:内核之外的主机侧接线(src/agent 适配器、server 路由、注入拦截)/范围兜底/客户端标签

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions