Skip to content

支持kimi code #757

Closed
Closed

Description

@ranxianglei

curl -fsSL https://code.kimi.com/kimi-code/install.sh | bash
https://www.kimi.com/code/en
应该有命令行版本和桌面版本?

Activity

  1. ranxianglei commented on Sep 14, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 先给结论:可以做,而且路径比较顺。已下载并反编译了 Kimi Code v0.42.0(install.sh 装的是原生 Node SEA 二进制,另有 npm 包 @moonshot-ai/kimi-code 是同源代码),关键事实:

    1. 模型流量走标准代理环境变量——官方文档明确 "honors the standard proxy environment variables for all outbound traffic: model API calls, MCP servers, web tools...",bundle 里确认是 undici EnvHttpProxyAgent 全局安装(HTTP_PROXY/HTTPS_PROXY/ALL_PROXY/NO_PROXY,支持 SOCKS)。这意味着可以完全复用 dsh(注入零文件化:废除 overlay/临时目录机制(#531 设计返工) #535)/hermes 的 cert-MITM 路线:bili kimi 只需注入 HTTPS_PROXY + NODE_EXTRA_CA_CERTS,不用改用户任何配置文件。
    2. loopback 无条件绕过代理(localhost/127.0.0.1/::1 永远 bypass,和 dsh 一样)→ 本地 http upstream(如 localhost sglang)无法走代理劫持,v1 按 codebuddy 的先例处理:只盘点 + 提示手动加 /bili/ 前缀。
    3. 配置是 TOML:~/.kimi-code/config.toml(可被 KIMI_CODE_HOME 重定向),provider 类型有 kimi/anthropic/openai/openai_responses/google-genai/vertexai,默认登录态 provider 是 managed:kimi-code → api.kimi.com/coding/v1。launcher 只读解析即可拿到 base_url 和窗口大小(max_context_size)。
    4. 关于"命令行版本和桌面版本":CLI 是 kimi;另外它内置 kimi web(本地起 server + Web UI)和 Remote Control,与 CLI 同引擎同进程——如果桌面端是独立 GUI 应用,需要另查它的网络栈。v1 先做 CLI launcher,Web/桌面版后续评估。

    v1 计划:新增 bili kimi——只读解析 config.toml → https upstream 走 cert-MITM(白名单发现域名)+ 窗口对齐;loopback/http upstream 盘点并提示手动配置;plugin mode(MCP 注入)因需写 mcp.json 违反只读原则,v1 不做。

    接下来我先实测两件事:(a) 模型流量确实经 HTTPS_PROXY CONNECT;(b) SEA 二进制是否信任 NODE_EXTRA_CA_CERTS。验证通过后直接开工实现。

  2. ranxianglei commented on Sep 14, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 完成了,PR 已开:#759

    实测验证(真实 v0.42.0 二进制 + 本地 bili MITM 代理):

    • ✅ 模型流量确实走 HTTPS_PROXY CONNECT——kimi -p hi 经代理打到了真实的 api.kimi.com(上游返回 401 invalid-key,证明链路完整);
    • ✅ SEA 二进制信任 NODE_EXTRA_CA_CERTS(自签 CA 下 TLS 成功终止并转发)。

    实现(bili kimi,与 hermes/dsh 同路线,零客户端文件修改):

    1. 只读发现:解析 ~/.kimi-code/config.toml(尊重 KIMI_CODE_HOME)→ provider/model 的 base_url + max_context_size 窗口(含 overrides 优先级、KIMI_MODEL_* / KIMI_CODE_BASE_URL 环境变量通道);窗口按 wire model id 对齐,AI 压缩(~55%)总是先于 kimi 原生自动压缩(~95%)触发,无需额外 budget 注入;
    2. 路由:非 loopback https → cert-MITM 域名白名单(HTTPS_PROXY + 合并 CA 同时注入 SSL_CERT_FILE 和 NODE_EXTRA_CA_CERTS,覆盖 OpenSSL replace / Node append 两种读取语义);非 loopback http → 绝对形式转发;
    3. loopback(kimi 无条件绕过)→ 盘点 + 提示手动加 /bili/ 前缀(v1 不改用户文件,同 codebuddy 先例);未声明 provider 的纯登录态用户 → 默认白名单托管端点 api.kimi.com / api.kimi.ai;
    4. plugin mode(MCP 注入)v1 不做:kimi 的 mcp.json 路径硬编码、无临时配置开关,写入违反只读原则,后续视需要再评估。

    验证:npm run typecheck ✅ / npm test 1437 pass 0 fail ✅ / npm run build ✅,新增 8 个测试(TOML parser、路由分类含 fallback 与已包装 URL 跳过、命令解析、runLaunch env 断言、窗口 scope)。桌面/Web 版(kimi web 本地 server)与 CLI 同引擎,后续可用同样方式支持。

    一句话:新增 bili kimi cert-MITM launcher,真实二进制实测打通,可以合并。

  3. kuviki commented on Sep 14, 2026

    @kuviki
    Contributor

    分析下 https://github.com/MoonshotAI/kimi-code/pull/3423 kimi code 的新上下文压缩机制,与当前项目的区别

  4. ranxianglei commented on Sep 14, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 分析完 MoonshotAI/kimi-code#3423(已合并,8 commits / 45 files / +1377−39,分支名 feat/compaction-context-budget)。先说结论:这个 PR 和 billion-context 解决的是同一对失败模式,两条路线独立收敛到了同样的设计骨架(预算可视化 + 最后机会提醒 + 无损恢复指针),但恢复机制的架构选择完全不同。

    一、#3423 做了什么(agent-core-v2 内置压缩的三个补丁)

    kimi code 原本是触发线一到就整窗替换式 compaction,模型对此完全无感。PR 修三件事:

    1. 预算提醒(features/contextBudget/):context_budget 状态提醒在用量跨过 compaction 触发的 50% / 75% 时重发(说明 used/max/trigger、压缩保留什么清除什么、"不要因为预算提前停任务");compaction_ahead 每窗一次,在触发线距窗口上限不足 10% 时给"最后一次机会":持久化中间结果、用工具验证结论、到达可交接边界。触发公式 triggerTokens = min(ceil(max·ratio), max − reserve),两个提醒都会从 summarizer 输入里剥掉。
    2. 恢复指针(核心):compaction 把覆盖的 wire.jsonl 行范围记进状态(fullCompaction.wireRanges),并在模型可见的 summary 尾部追加确定性 ## Context Recovery footer——journal 路径、每个历史窗的行范围、当前窗起始行、读法指引(Grep 定位后单行 Read)。配套把 Read 工具对 journal 路径做了整行返回 + 豁免截断(单记录硬顶 150k 字符,保证低于 window−trigger 余量,一次读取不可能打爆窗口)。行范围以下界钳制在最近一次 context.clear,footer 自身 token 计入 summaryOutputTokens 保持账目诚实;overflow 收缩若会丢光所有消息则直接失败,而不是对着空历史"成功"压缩出一份无根据的笔记。
    3. 遥测:提醒事件 + ahead 之后的 Write/Edit/Bash/todo 计数。无条件上线,不新增存储——wire journal 仍是唯一事实源,只在读取路径上补工具缺口。

    二、与 billion-context(acp-kernel 管线)的对比

    维度 kimi code(#3423 后) billion-context
    位置 客户端内(agent-core-v2,只对 kimi 会话生效) 代理层(wire 级,客户端无关,bili kimi 本身就在包着它)
    触发感知 固定比例档:触发的 50%/75% 两档 + ahead 一次性警告;简单可预测 增长自适应带(nudgeGrowthTokens floor/cap)+ 使用率强制带(maxContextLimitPct)+ 紧急升级(默认 75%,emergencyNudge @ src/server.ts:2159);另带逐段可压列表 + token 分类 breakdown(src/acp-status.ts:42-47),告诉模型压哪段而不只是"快满了"
    压缩粒度 整窗替换(handoff note + TODO),粗但简单 模型自选任意连续区间(mNNNNN 边界)、可批量、可多级蒸馏(T1→T2→T3);未压内容原样保留,前缀缓存扰动更小
    恢复机制 裸文件读:footer 指路 → Read/Grep/sed|jq 直接回读 wire.jsonl 原始字节。真正无损,但重新花费的是原始 token,且靠模型自律(Grep-then-single-line) 语义块 API:search_context 先搜块摘要(不膨胀上下文找目标)→ decompress 按块恢复且分层(默认只恢复上一层摘要,full:true 才到原始消息)。更省、更可检索,但依赖持久化 StateStore
    寻址方式 行号(位置型,需 context.clear 下界钳制防指向已丢弃历史) 永不复用的消息 ID(恒等型,跨编辑/截断/fold 存活,旧摘要里的引用始终可解析)——这是 AGENTS.md 里 kernel 契约的核心不变量
    完整性护栏 footer 成本入账、空历史拒压 preflight 前置拦截(请求在转发时就溢出、反应式 nudge 永远没机会开的死锁防护,src/preflight.ts:20-22)、orphan GC、头部字节稳定保前缀缓存、从上游响应回采真实 usage 驱动下一轮决策(src/server.ts:3997)

    三、关键判断

    1. 收敛点是强信号:两家独立得出"压缩必须(a)提前让模型知道预算并给它持久化/验证的最后机会,(b)留下指向无损原始数据的确定性指针,(c)账目诚实+(d)退化情形护栏"。fix: shadow parity digest compares blockContents by content, not Map insertion order #3423 的 compaction_ahead(最后一次机会去保存状态)本质上就是 ACP nudge + 哲学提示词("消费前先把信号提取出来")的显式化版本;kimi 是被动等自动触发所以特别需要"ahead",ACP 压缩本来就是模型主动发起、自己选时机,所以没有独立的 ahead 阶段——这是设计差异不是缺陷。
    2. 真正的架构分歧在恢复面:kimi 选"原始文件 + 修好读取路径"(零新存储、绝对无损、实现最简),ACP 选"块 + 层级 + 搜索"(使用成本低一个量级、抗历史变更,代价是多一套持久化状态及其边角问题,如 fix: archive blocks across omp native compaction instead of silently deactivating them (#395) #421 的 archive 修剪窗口)。两者都对,适用面不同:kimi 的 journal 是它自己的进程内事实源,ACP 面对的是黑盒客户端的历史,只能在自己侧重建结构。
    3. 对当前项目无需改动:bili kimi 下两层是互补叠加——ACP 压缩(~55% 对齐窗口)总是先于 kimi 原生触发(~95%)开火,kimi 的 compaction 退居兜底;它的 wire.jsonl 恢复面在客户端进程内,与代理侧的 decompress 互不干扰。kimi 的 context_budget 提醒经 bili 时会作为普通带标签消息进入 ACP 视野,属于典型的"过期即可压"元数据,现有哲学规则已覆盖。
    4. 值得借鉴的两点(小,不急):(a) 注入的元数据自身成本计入压缩后账目(kimi 的 footer 入账做法,bili 目前靠上游回采 usage 间接覆盖);(b) "收缩会丢光全部消息就失败而不是产出无根据摘要"的显式护栏——preflight 覆盖了溢出方向,这个空历史方向的显式检查可以核对一下 kernel 侧是否已有等价物。都不构成需要开工的缺口,先记在这里。
  5. added a commit that references this issue on Sep 14, 2026
  6. ranxianglei commented on Sep 14, 2026

    @ranxianglei
    OwnerAuthor

    reopen这个issue继续作为kimi压缩研究.
    kimi也是做折叠式压缩吗?还是仅有一个恢复通道?

  7. ranxianglei commented on Sep 14, 2026

    @ranxianglei
    OwnerAuthor

    🤖 Powered by ework · qwen3.8-27b

    [bot] 🏷 已把 issue 保持为 open 作为 kimi 压缩研究帖。我读了 kimi-code 源码(MoonshotAI/kimi-code,PR #3423 合入后的 main),直接回答:

    结论:kimi 不是折叠式压缩,是「前缀滚动重摘要」+ 单一原始日志恢复通道

    压缩机制(packages/agent-core-v2/src/agent/fullCompaction/strategy.ts):

    • 每次压缩只处理最老的前缀:computeCompactCount() 从尾部往前找安全切分点(不能切在 user message 后、assistant tool-calls 与 tool results 中间),把 messages[0..N] 整段替换成一条 handoff note。
    • 尾部逐字保留:maxRecentMessages: 4、maxRecentSizeRatio: 0.2(最近 ≤4 条或 ≤20% 窗口不压)。
    • 触发:triggerRatio: 0.85 或 used + reservedContextSize(50_000) ≥ max(对 k3 的 1M 窗口即 ~95%),另有手动 /compact。

    关键区别——旧摘要会被反复重写(fullCompactionService.ts:826-827):

    • 上一轮的 note 留在上下文里只是普通消息,下一轮压缩时它成为前缀的一部分,被重新摘要进新 note。没有持久化的分层块结构。
    • 对比 ACP:ACP 的 T1 块独立可寻址、可被蒸馏进 T2/T3、可用 decompress/search_context 找回;mNNNNN ID 永不复用。kimi 只有位置寻址(wire.jsonl 行号),信息随轮次有损叠加(lossy-on-lossy)。

    恢复通道——仅一条(contextRecovery.ts):

    • 每个 compaction note 末尾带 ## Context Recovery footer:wire.jsonl 路径 + 各 window 的行范围指针("window 1: lines 1–342 ← the conversation this note summarizes"...)。
    • 模型用 Read/Grep 回读原始日志拿逐字内容;配套了 Read 工具对 journal 路径豁免截断(整行返回)。这是唯一的无损通道——没有分层 decompress、没有摘要检索。
    • 另有两个非压缩机制:超大 tool result 外置到磁盘留指针(既有行为)、TODO list 每轮重新注入 note 尾部(postProcessSummary)。

    对照表

    维度 ACP (billion-context) Kimi Code
    单元 块级,T1→T2→T3 分层 整窗前缀→单条 note
    旧摘要命运 独立块,可蒸馏上层、可检索找回 折入下轮 note,被重写丢失
    寻址 稳定 mNNNNN/raw id,永不复用 wire.jsonl 行号(位置,脆弱)
    恢复 decompress + search_context Read 原始 journal(唯一通道)+ footer 行范围
    触发 agent 主动(compress 工具)/proxy preflight 自动 85%/reserved 溢出 + 手动
    近期保留 由 compress 参数决定 尾部 ≤4 条/≤20% 逐字 + TODO 重注入

    对 billion-context 的含义

    kimi 的压缩是内部自动触发、不暴露给模型的 compress 工具,所以它无法走我们的 plugin 模式(plugin 模式要求 agent 自己执行 compress 工具调用并把 call+result 放进重发历史)。这正是 PR #759 把 bili kimi 做成纯 proxy 模式客户端的原因:proxy 看到的是含 handoff note 的完整历史,kimi 自身的压缩在客户端侧发生,bili 在其之上再做自己的块级压缩——两层各管各的。后续如果要研究借鉴,最有价值的点是它的外置 tool result + 行范围指针设计(无损 offload,与我们的 orphan-gc 方向相关),而不是它的摘要策略本身。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions