批量 embedding 一次 3000 条报 Request too large 分片和限速怎么排

陆零云 24 0
商品库 12 万条标题要建向量,脚本一次把 3000 条塞进 embeddings 接口,直接返回 400,原文是 Request too large for text-embedding-3-small in organization org-8f2 on tokens per min (TPM): Limit 1000000, Requested 1180000。条数看着离 2048 还远,token 已经先超了。 第一刀按 2048 条切,仍然偶发...

Embedding 维度 1024 和 768 不一致报错怎么统一

陆零云 33 0
现象 原来用 1024 维的向量模型建库,换成另一个 768 维的模型后,写入时报 dimension mismatch: expected 1024, got 768,查询接口也直接抛异常。重建索引后能写入,但检索结果明显变差。 原因 向量库的 collection 在创建时就把维度写进了 schema,之后不会因为换了模型自动调整。写入和查询都必须使用同一个模型、同一个维度,否则距离计算没有意义。只改写入端不改查询端,或者新旧向量混在同一个集合里,都会...