本地搭 RAG 跑 FAISS 报 IndexNotFoundError embedding 维度和 index_size 不匹配怎么修

现象:本地 RAG 问答一直 IndexNotFoundError

用 LlamaIndex + Ollama 搭本地 RAG,向量库选的 Faiss。跑起来后问答一直报 IndexNotFoundError: 索引文件找不到或维度不匹配。检查 index.faiss 文件确实存在,embedding 维度也设的 384,跟 nomiC-embed-text 输出一致。排查半天发现是创建 index 时传的维度参数错写成了 1536。

根因:embedding 维度和 index 创建时不一致

FAISS index 创建时要指定向量维度,这个维度必须和后续 embedding 模型输出的维度完全一致。创建时传 1536 但模型输出 384,索引里存不下新向量,查询时就报 IndexNotFoundError。

# 错误:维度跟 embedding 模型不匹配
embedding = OllamaEmbedding(model_name='nomic-embed-text')  # 输出 384 维
vector_store = FaissVectorStore(faiss_index=faiss.IndexFlatL2(1536))

# 正确:先确认 embedding 输出维度再创建
embed_dim = len(embedding.get_query_embedding('test'))  # 实际测一下
vector_store = FaissVectorStore(faiss_index=faiss.IndexFlatL2(embed_dim))

确认 embedding 输出维度

常用 Ollama embedding 模型的维度要记清楚:nomic-embed-text 是 384,bge-m3 是 1024,mxbai-embed-large 是 1024。换了模型记得同步改 index 维度。

# 快速查模型输出维度
import ollama
resp = ollama.embeddings(model='nomic-embed-text', prompt='hello')
print(len(resp['embedding']))  # 输出 384

已存数据怎么办

如果 index 已经存了部分数据但维度错了,最干净的办法是删掉重存:清空 index、重新 ingest。旧数据不用怕,向量库重建很快。下次创建 index 前先 print 一下 embedding 输出维度,别硬写死。

总结:RAG 报 FAISS IndexNotFoundError,先检查 embedding 实际输出维度和 index 创建时的维度是否一致。硬编码容易错,跑起来先测一下模型输出维度再建索引。

您可以还会对下面的文章感兴趣: