向量盒子

发布于 2026 年 10 月 22 日 星期四

小团队 RAG 选型:自建向量库还是托管?用 TCO 算一遍再决定

小团队做 RAG,自建向量库省的是软件钱,花的是人力和时间。本文用公开价格对比 pgvector、Milvus、Qdrant、Pinecone、Zilliz 和国内托管,给出按数据量选择的清单。

小团队 RAG 选型:自建向量库还是托管?用 TCO 算一遍再决定

先给结论:已经有 PostgreSQL、向量数据在百万条以内的小团队,先用 pgvector,别急着上集群;没有专职运维、想一周内上线,选托管向量库;数据上千万条、有 SRE、对成本极度敏感,才值得自建 Milvus / Qdrant。

选型真正要比的不是「哪个向量库快」,而是总拥有成本:软件许可、服务器、备份监控、升级排障、以及最贵的那一项——人的时间。小团队最容易低估最后一项。

自建向量库与托管向量服务的成本结构对比示意
自建向量库与托管向量服务的成本结构对比示意

一张表看清 6 种方案

方案 软件成本 运维负担 适合数据量 适合谁
PostgreSQL + pgvector 免费 低(复用现有 PG) 十万到百万级 已有 PG、想少加一个组件
自建 Milvus / Qdrant 免费(开源) 高 千万级以上 有运维、要完全自控
Qdrant Cloud 有免费层,标准版按量 低 中小型 海外业务、要开源内核
Pinecone 有免费层,Builder $20/月起 低 中小型到大型 不想碰基础设施
Zilliz Cloud 免费 5GB,Serverless 起价 $0 低 中小型到大型 Milvus 生态、海外
不墨DEV 向量盒子 按量付费 低 中小型 国内小团队、要中文支持

价格为 2026 年 10 月各官网公开信息,实际以购买页为准。

先算你真正要存多少

一个常见误区是拿「文档数」估容量。向量库存的是切片后的向量,不是原始文档。粗略公式:

向量条数 × 维度 × 4 字节 ≈ 原始向量体积

100 万条 768 维向量约 3.1GB,加索引和副本开销通常按 1.5~2 倍估,实际占 5~6GB。如果用 1024 维,体积再增加三分之一。

这决定了两件事:免费托管层(常见 1~5GB)够不够你做原型;以及自建时该买多大内存。向量检索很吃内存,磁盘够但内存不够,查询会慢一个量级。

自建:省软件钱,花人力钱

Milvus、Qdrant、pgvector 本身都不要钱,但「免费」只到安装完成那一刻。上线后还要面对:

  • 内存和索引参数调优,数据量涨了要重新评估;
  • 版本升级、备份恢复、监控告警;
  • 多租户隔离和权限控制;
  • 出故障时谁来排查。

如果团队里没有一个人能长期负责这件事,自建的真实成本就是「一台服务器 + 每个月几小时到几天的人力」。项目早期,这几小时拿去做切片策略和提示词,对回答质量的帮助更大。

pgvector 是例外:如果业务已经在 PostgreSQL 上,它几乎是零新增组件,数据量百万级以内很够用。代价是和业务库抢资源,量大后要单独拆库。

托管:把运维换成月费

Pinecone 的公开价比较直接:Starter 免费,Builder $20/月,Standard $50/月起(按最低消费,超出按量),Enterprise $500/月起。适合不想碰基础设施、直接要 SLA 的团队。

Zilliz Cloud(托管 Milvus):Free 层 5GB 存储、每月 250 万 vCU、最多 5 个集合;Standard 的 Serverless 从 $0 起,Dedicated 从 $126/GB/月;Enterprise 从 $197/月 起。它的免费层对原型很友好,生产要看 QPS 和副本。

Qdrant Cloud:免费层是单节点 0.5 vCPU / 1GB 内存 / 4GB 磁盘,标准版按量计费。开源内核、迁移路径清楚,适合想先托管、以后必要时迁回自建的团队。

这三家都是海外服务,国内团队要额外考虑访问稳定性和数据跨境。如果资料里有用户数据、合同、内部文档,先确认合规要求,再谈价格。

国内托管可以看 不墨DEV 向量盒子:开箱即用的托管向量库,支持自定义维度、集合管理和权限控制,按量付费,具体价格在控制台可见。它面向的是「不想自建集群、又需要国内访问」的小团队。

用 TCO 清单做决定

把下面 8 项填进一张表,按 12 个月算总账:

  1. 向量条数和维度,估算存储;
  2. 每月检索请求数和峰值 QPS;
  3. 是否需要多副本、备份、SLA;
  4. 是否需要混合检索(关键词 + 向量);
  5. 是否多租户、要不要按 Key 隔离;
  6. 服务器 / 托管月费 × 12;
  7. 运维人力:每月几小时 × 人力成本;
  8. Embedding API 和 LLM 回答的费用(往往比向量库还高)。

很多团队算完会发现:向量库月费不是大头,Embedding 和模型调用才是。 所以别为了省几十美元月费,选一个让自己多花几天运维的方案。

三种典型选择

情况一:3 人团队,已有 PostgreSQL,知识库 20 万字。 用 pgvector,一张表加一个索引就能跑,先验证回答质量,不要上集群。

情况二:没有运维,两周内要给客户演示,数据在国内。 选国内托管,开箱即用,把时间花在切片和评测上。数据量小的时候,免费层或按量付费足够。

情况三:数据上千万条,查询量大,有 SRE。 自建 Milvus 或 Qdrant 集群,按内存和副本做容量规划,托管费用在这个量级通常更高。

迁移时注意三件事

  1. 维度必须一致:换 Embedding 模型就要重建集合,维度不同不能直接写入;
  2. 先双写再切换:新旧库同时写一段时间,用同一批问题比对召回结果;
  3. 保留原文和来源:向量只负责找,答案里的引用要靠原文元数据,别只存向量。

总结

小团队做 RAG,先问「有没有人长期运维」,再问「数据量多大」。答案通常是:有 PG 先用 pgvector,没人运维就选托管,上千万条再考虑自建。把省下的时间投到切片、评测和提示词上,回报比调索引参数高得多。

在不墨DEV 向量盒子创建一个集合,先跑通检索再扩容。更完整的 RAG 搭建步骤见 小团队向量数据库选型指南。

相关阅读