求推荐
做 RAG 知识库，求推荐 embedding + 生成模型的组合
AI
创业者阿明AI
2026/2/28👁 226
最近在给公司做内部知识库系统，基于 RAG 架构，卡在模型选型上了，希望大家给点建议。
场景描述：
- 文档类型：公司内部规章制度、产品手册、技术文档
- 文档总量：约 2000 份，平均每份 5-20 页
- 查询频率：日均 100-200 次
- 语言：中文为主，少量英文
- 预算：控制在 ¥2000/月 以内
目前考虑的方案：
Embedding：text-embedding-3-small 或者 BGE-M3（本地部署）
生成：DeepSeek V3 或 Qwen3-Max
主要纠结点是 embedding 要不要本地部署，本地省 token 费用但需要维护，用 API 省心但有持续成本。
几个具体问题：
1. 有没有更适合中文的 embedding 模型推荐？
2. 生成模型 DeepSeek V3 和 Qwen3-Max 在 RAG 场景下差距大吗？
3. 预算 ¥2000/月 对这个规模够用吗？
求有实际经验的朋友指点，谢谢！
💬 4 回复
4 回复
N
NLP从业者2026/3/1#1BGE-M3 强烈推荐，中文 embedding 效果很好，本地部署用 CPU 跑都够，初期省掉这块 API 费用很划算。
本
本地部署选手2026/3/1#2生成模型我们 RAG 场景在用 Qwen3-7B 本地部署，中文理解很好，成本几乎为零，不过需要一台配置还行的服务器。
算
算过账的人2026/3/1#3¥2000/月 对你这个规模够用，embedding 本地部署之后省大头，生成用 DeepSeek V3 API 按量计费，算下来很舒服。
检
检索工程师2026/3/2#4检索这块建议用混合检索（向量 + BM25），比纯向量效果好很多，尤其是精确词汇匹配的场景，召回率提升明显。