向量检索不准怎么办？Embedding 入库后的 8 个排错问答

向量检索不准，先看返回的原始片段，再改回答提示词。 正确内容没有被检索出来，生成模型就缺少依据；片段已经正确，答案仍然出错，才继续排查上下文拼接和生成环节。把两种问题分开，能避免每次都换模型、换数据库。

下面的问答适用于文本 Embedding 入库后的语义搜索和 RAG 排错。它是通用诊断方法，不假定某个服务内置重排、混合搜索或自动文档解析。

1. 为什么同一个问题换种问法就搜不到？

先保留两种问法和各自返回的片段，确认是没有相关结果，还是相关结果排在后面。把「怎么退订」和「取消自动续费」视为同义，是期望的检索行为，但具体模型未必对你的业务术语理解一致。

可以建立一组业务同义问法作为评测样本，同时检查原文是否包含完整答案。不要只为某一个失败问题修改整库；每次改动都用同一组问题回归，确认没有让其他场景变差。

2. 维度一样，就能混用不同 Embedding 模型吗？

不能仅凭维度相同判断兼容。同样长度的数字数组，可能来自不同的向量空间；文档向量和查询向量应使用相互匹配的模型与处理配置。有些模型区分查询和文档的输入格式，也应按模型官方说明使用。

为每批数据记录模型标识、维度和预处理版本。更换模型时，通常需要重新生成文档向量，并在隔离的新集合中验证，而不是把新旧向量混在一起。维度不匹配报错只是容易发现的一类问题；能够写入不等于语义可比较。

3. 切片越小，结果越精准吗？

不一定。片段太小可能只有「符合条件即可」，却丢掉前面的条件；太大又可能混入多个主题，让核心问题不突出。

先按标题、段落和业务边界检查失败样本。对于「退款条件」这样的内容，标题和条件列表应保持可理解的关系。可以尝试在片段里保留所属小节标题，再比较效果，不必先套一个所有文档通用的固定字数。

4. 为什么语义很像，却答错产品型号或版本？

语义相似并不等于业务条件符合。例如两个版本的操作说明都在讲「导出」，相似度很高，但用户只适用其中一个版本。

检查入库时是否保留来源、版本和更新时间等元数据，再核对查询阶段是否正确使用这些条件。若后端支持过滤，验证过滤语义；若暂时在应用层筛选，要确认候选数量足够，并防止筛选后没有结果。

涉及访问权限时，必须由服务端限制可检索的数据范围，不能只让模型自行忽略无权访问的内容。这里是应用设计要求，不代表任意向量产品默认已经完成业务级权限隔离。

5. 相似度达到某个分数就一定相关吗？

没有通用的及格线。返回的是相似度还是距离、数值越大还是越小更接近，要先读所用接口的定义。不同模型、度量方式和数据集之间，阈值通常不能直接照搬。

例如 pgvector 官方文档 区分余弦距离、L2 距离和内积等度量，说明了不同操作符的含义。这个例子用于提醒你核对度量定义，不表示向量盒子使用相同接口。

先收集一组人工判断为相关和不相关的结果，再观察分数分布。若两类大量重叠，仅调一个阈值可能解决不了问题。

6. 把 Top K 调大能解决漏召回吗？

有时可以帮助找回排名靠后的片段，但也会带来更多无关内容。先比较较小和较大的候选集：正确片段是否出现、重复片段是否挤占位置、生成环节是否收到过长上下文。

另外，不同检索实现中，过滤和近似搜索的执行方式也可能影响返回数量。遇到「请求多条却只返回少量结果」，需要看服务文档和实际过滤条件，不能直接断言库里没有答案。

只调整一个变量，记录结果。不要同时改切片、模型、阈值和 Top K，否则无法知道究竟哪项起作用。

7. 入库成功，为什么还是看不到新内容？

先确认查的是同一个数据库、集合和环境，再查看写入结果，核对文档标识和版本。写入请求成功不一定代表整个导入任务的每个片段都成功，应检查批次失败记录。

更新文档时，也要确认旧片段的处理策略。如果新版本和旧版本同时保留，却没有版本约束，就可能检索到过期答案。生产数据不要直接清空重试；先在测试集合复现写入、查询和更新的全过程。

8. 小团队怎样做一份最小评测表？

可以先选 20 个有代表性的问题，包含同义改写、明确型号、版本差异，以及资料中本来就没有答案的问题。这个数量只作为起步建议，不是质量达标标准。

字段	记录内容
用户问题	原始提问，不改成标准书面语
预期依据	应命中的文档与片段标识
检索结果	返回的片段、排序和分数
是否找回依据	有、无，或资料本身没有答案
最终回答	是否忠于找到的依据
本次改动	模型、切片或查询参数之一

把「有没有找到依据」与「有没有回答正确」分成两列。对于资料中没有答案的问题，还要观察系统是否拒绝编造，这样才不会只优化看起来容易成功的样本。

用一个测试集合开始排查

向量盒子 的公开产品页提供托管向量存储与检索、集合管理、自定义维度及 API Key 访问控制能力。它可以承接向量存储这一环；文档切片、Embedding 生成、业务条件与回答评测仍需在应用侧设计，并按实际接口接入。

先选少量非敏感样本文档，在独立测试集合复现一个失败问题，逐项排查，再把有效改动扩展到完整数据。若还处在基础设施选择阶段，可先读 RAG 向量数据库选型指南。