Skip to content

nudge breakdown shows 52.4B thinking — formatK only outputs the K suffix; there is no B formatter. | nudge breakdown 出现 52.4B thinking——formatK 只输出 K 后缀,无 B 格式器 #6992

Open

Description

@ranxianglei

来源: #6965 分析 pi inline 压缩后摘要块丢失时发现

症状

nudge 分解行(Context breakdown: ...)里出现过 52.4B thinking。formatK(kernel/src/nudge-text.ts:49-52)只会输出 K 后缀(n >= 1000 时 (n/1000).toFixed(1) + "K"),代码里没有任何格式器会输出 B 后缀。

影响

显示/计量 bug:nudge 分解行的 token 计数显示不正确,可能误导模型对上下文用量的判断。

待查

  1. 52.4B 的来源——是 formatK 被传入了一个异常大的值(52.4 亿 token),还是 "B" 来自其他路径(模型输出混入、不同格式器)?
  2. thinking 类别——ContextBreakdown 类型(kernel/src/types.ts:740-748)只有 system/tool/summaries/code/text,没有 thinking 类别;computeContextBreakdown(kernel/src/compress.ts:2573-2600)也没有 thinking 分支。52.4B thinking 的 "thinking" 从何而来?
  3. 复现条件——哪个会话、哪个 nudge 等级、哪个 provider 下出现?

建议

先定位 52.4B 和 thinking 的实际来源(是 kernel 侧还是 host 侧、是格式器 bug 还是数据源 bug),再决定修法。

Activity

  1. changed the title [-]nudge breakdown 出现 `52.4B thinking`——formatK 只输出 K 后缀,无 B 格式器[/-] [+]`nudge breakdown` shows `52.4B thinking` — `formatK` only outputs the K suffix; there is no B formatter. | nudge breakdown 出现 `52.4B thinking`——formatK 只输出 K 后缀,无 B 格式器[/+] on Nov 17, 2026
  2. ranxianglei commented on Nov 17, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    (ai: vllm-qwen/qwen3.8-27b)

    🔶 需要决策

    背景一句话:52.4B thinking 的来源已定位——全仓没有任何代码路径能产生这个字符串(含全 git 历史);它是模型生成的文本,被持久化在 pi inline 会话历史里、随每次请求重发。

    查重:不重复。 按 "formatK" / "Context breakdown" / "52.4B" 检索 open+closed issue 与 PR:仅本 issue 命中;#6965 是来源线程(pi inline 摘要块丢失分析),#6990 是其修复 PR(Defect B,hide-consumed stub 作用域)——机制不同,不重叠。

    标签:bug, pi, scope/kernel, p3, needs-decision(缺陷报告;观测于 pi inline 会话;受查面是 kernel nudge 文本;仅显示噪音故 p3;等你的裁决)。

    审核结论:不是格式器 bug——issue 的前提被代码证伪

    三个待查点逐一对照代码验证(master @ de895aa,以及 #6965 钉住的会话版本 v0.1.215——该版本此段代码与 master 逐字节相同):

    1. 52.4B 不是 formatK 的输出。

    • formatK(kernel/src/nudge-text.ts:49-52)只有两种输出:n >= 1000 → (n/1000).toFixed(1)+"K",否则裸数字。任何输入值都不会让它输出 B 后缀——即使传入 52.4e9,打印的也是 52400.0K,不是 52.4B。
    • 全仓(kernel/、src/、pi-subagents/)的 token 格式器都只用 K/M(个别小写 k/M);仓里确实存在的 "B" 格式器全部是字节格式器(web 面板 fmtW/fmtB、log retention、request-cost 等),不在 nudge 路径上。
    • 全 git 历史检索(git log --all -S):nudge-text.ts 任何版本都没有过 B 格式器,types.ts 任何版本都没有过 thinking 字段。

    2. thinking 不是 breakdown 类别。

    • ContextBreakdown(kernel/src/types.ts:740-748)只有 system/tool/summaries/code/text/total/growth;computeContextBreakdown(kernel/src/compress.ts:2573-2600)没有 thinking 分支。
    • formatBreakdown(kernel/src/nudge-text.ts:54-65)是全仓 "Context breakdown:" 行的唯一生产者(grep 其余命中只有 tests/CHANGELOG),只输出上述 5 个固定类别;四条 wire prepare(prepare-openai/responses/google/anthropic.ts)统一走 kernel renderNudgeText——单一路径,host 侧无 breakdown 覆盖口。
    • kernel 的 status report(report.ts)与 panel 也没有 thinking 类别。

    3. 因此唯一来源是模型生成的文本。

    八问

    1. 是什么问题:nudge 分解行被报告出现 52.4B thinking,疑似格式器 bug(formatK 无 B 后缀)。
    2. 什么原因导致的:不是代码原因——全仓无任何代码路径能产出 B 后缀或 thinking 类别(全历史验证);真实来源是本地 27B 模型高压下生成的损坏文本(对真实 breakdown 行的 echo 变异),在 pi inline 模式下被持久化进会话历史、随每次请求重发。
    3. 影响范围与严重程度:仅该会话(01a1dfae)的历史里存在此字符串;无功能影响、无计量影响(真实计量走 kernel countMessageTokens,与模型散文无关)、无状态损坏。唯一理论危害:模型从自己的 summary 里读到错误 token 锚点、误判上下文压力——属模型质量通病,不是 bili 机制缺陷。p3。
    4. 怎么修复的:无代码可修——格式器没坏(issue 前提被证伪),加 B 格式器等于「修一个从未出过错的格式器」。若要防模型 summary 里的虚假 token 锚点,那是新机制(bili 设计上不重写模型散文,KDD release v0.1.3 #10/[bug] 插件透传会剥掉工具调用参数里的 render tag(arguments 流挂了 tag-echo 过滤器) #1039 纪律),需另行讨论。
    5. 是否有回归问题:未动代码,不涉及。
    6. 是否破坏缓存:未动代码,不涉及。
    7. 是否改了设计方向:无。
    8. 是否引入了新的配置:无。

    待决问题与选项

    • 选项 A(推荐):确认「模型 echo、非 bili 缺陷」,关闭本 issue——零代码改动、零成本。
    • 选项 B:防模型 summary 里的虚假 token 锚点(如校验/标注 summary 中的 token 数字)——新机制而非 bug 修复;代价是新增一个模型文本处理面,与既有「不重写模型散文」纪律冲突,需要先做设计讨论,且只能缓解、不能消除模型幻觉。
    • 不决定的默认行为:issue 保持 open,结论已记录在本评论,不会做任何代码改动(无可修之物)。

    补充:若你能从 dump 里贴出含 52.4B thinking 的那行原文(或对应请求序号),我可以再做一轮精确定位(它在哪条消息、哪个 role)——但代码侧结论(bili 代码产不出这个字符串)不依赖它。

    按政策我不关闭 issue,等你的裁决。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions