Skip to content

zvec-grep #89

Description

@edwinjhlee

url: https://github.com/zvec-ai/zvec-grep
bin: zg

zvec-grep 内置了 11 种端侧向量模型,你不需要自己去满世界找模型文件下载。 [1]

1. 默认模型(自动下载)

当你首次在项目目录下运行以下命令时,zvec-grep 会在后台自动下载并缓存它默认的轻量化端侧模型: [1, 2]

zg index

  • 默认模型名称:local/potion-code-16m-v2
  • 模型大小:仅约 16M,本地缓存占用大约 32 MiB。
  • 算力要求:极低,无需 GPU,纯 CPU 即可极其流畅地运行。(例如在 Apple M4 Pro 芯片上,对包含 3,400+ 个文件的 Django 源码库建立完整向量索引,只需不到 30 秒)。 [1]

2. 切换其他本地端侧模型

如果你有特定的场景需求(比如需要更强的文档理解、多语言支持或更长上下文),你可以在初始化索引时,通过 --embedding 参数指定切换其他内置模型: [1, 2]

举例:切换到 32M 版本的本地检索模型

zg index --embedding local/potion-retrieval-32m

3. 使用云端大模型 API(不下载模型)

如果你不想占用任何本地内存和 CPU,也可以配置使用在线的商业大模型 API(如 Qwen3.7 Text Embedding 等)。这种情况下,本地完全不下载任何模型文件,所有的向量化计算都通过网络 API 请求完成。 [1, 3]
你需要我为你提供:

  • 如何查看 zvec-grep 支持的全部 11 种内置模型列表?
  • 如何配置通义千问 API 密钥来开启云端模型检索?

[1] [https://www.53ai.com](https://www.53ai.com/news/RAG/2026083104532.html)
[2] [https://github.com](https://github.com/zvec-ai/zvec-grep)
[3] [https://github.com](https://github.com/zvec-ai/zvec-grep)

Activity

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions