Skip to content

docs: 补记缓存的实测收益(~19s/17%),并纠正我先前错误的前提判断 - #11

Merged
heweidong-ecco merged 1 commit into
mainfrom
docs/de9-measured-effect
Sep 21, 2026
Merged

heweidong-ecco merged 1 commit into
mainfrom
docs/de9-measured-effect

Conversation

@heweidong-ecco

Copy link
Copy Markdown
Owner

实测数据(三次运行对比)

运行 缓存 pytest(含 embedding)
PR #10(下载) miss → save 116 s
主干 push(下载) miss → save 99 s
主干 dispatch(命中) restored 97 s

⇒ 只省 ~19 s(~17%)。

⚠️ 这推翻了我原先的说法

我在 DEC-009 开头写的是「下载占大头」—— 是错的。

原因:GitHub runner 的网络很快,1.2 GB 大约 20 秒下完;那 ~100 秒里主要是
Ollama 二进制安装 + pip install + 测试本身(CPU 推理)。正确说法是「下载约占 1/5」。

为什么我会判断错:那个量级感来自本机(8 GB 内存 + 慢网络),不能外推到 CI —— 与本仓 DEC-005(把当次测量当架构事实)是同一族错误。

那还留着它吗?—— 留

  • 仍是净收益;成本只有 998 MB 配额(本仓上限远未用满)
  • 为了正确性加的三件事(停 systemd 服务 · 钉死 OLLAMA_MODELS · 守卫)与缓存无关也该有 ——
    否则模型落在哪个目录是不确定的,测试跑的可能不是你以为的那份权重

📌 判据:收益小 ≠ 该撤销,但必须把真实收益说清楚。
连"省多少"都不量,就会一直拿一个夸大的理由去维护一段复杂度。

提交前两问

① 无新增决策事项(沿用 DEC-009,只补实测数据 + 纠正前提)
② CHANGELOG 已写

实测(三次运行对比):
  PR #10(下载,miss→save)      116s
  主干 push(下载,miss→save)    99s
  主干 dispatch(**命中**)        97s
⇒ 缓存实际只省 ~19s(~17%)。

**推翻我原先的说法**:本 DEC 开头写「下载占大头」——**是错的**。
GitHub runner 网络很快,1.2 GB 约 20 秒下完;那 ~100 秒里主要是
Ollama 二进制安装 + pip + 测试本身(CPU 推理)。正确说法是「下载约占 1/5」。

来源分析:原判断来自**本机**体感(8 GB 内存 + 慢网络),**不能外推到 CI** ——
与 DEC-005(把当次测量当成架构事实)是同一族错误。

保留该缓存的理由(已写进 DEC-009 §五之三):
  · 仍是净收益;成本只有 998 MB 配额(上限远未用满)
  · 为正确性加的三件事(停 systemd 服务 · 钉死 OLLAMA_MODELS · 守卫)与缓存无关也该有 ——
    否则模型落在哪不确定,测试跑的可能不是你以为的那份权重

判据:**收益小 ≠ 该撤销,但必须把真实收益说清楚** ——
连"省多少"都不量,就会一直拿一个夸大的理由维护一段复杂度。

提交前两问
① 本次无新增决策事项(沿用 DEC-009,只是补记实测数据与纠正前提)
② CHANGELOG 已写

测试:61 passed
@heweidong-ecco
heweidong-ecco merged commit 8064c42 into main Sep 21, 2026
2 checks passed
@heweidong-ecco
heweidong-ecco deleted the docs/de9-measured-effect branch September 21, 2026 14:49
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant