从0到1搭建企业级RAG知识库:选型、评测与上线checklist

从0到1搭建企业级RAG知识库:选型、评测与上线checklist

企业知识散落在文档、工单和Wiki里,员工查找效率低、答案口径不一。检索增强生成(RAG)把"检索"和"生成"结合起来,让大模型基于企业私有资料回答,是当前最务实的AI落地路径之一。

一、先想清楚:要不要上RAG

不是所有场景都适合。规则明确、命中率要求极高的任务,先用搜索或数据库;只有当问题多样、答案藏在大量非结构化文档里时,RAG才划算。建议先用一个真实业务问题做PoC,用数据说话,避免为了用而用。

二、技术选型

**文档处理**:统一解析PDF、Word、网页,关键是保留标题层级与表格结构。

**切分策略**:按语义切块而非固定字数,保留上下文重叠,避免把一句话切断。

**向量库**:中小规模用轻量方案,海量数据再上专用向量数据库。

**模型**:embedding决定"找得准",生成模型决定"答得好",两者都要评估。

**框架**:用成熟编排框架快速搭原型,再按需要替换组件。

三、评测怎么做

别只信"感觉答得还行"。建立小样本评测集,覆盖典型问题与边界情况,从三个维度打分:检索召回率(该找的文档找到没)、答案准确率(有没有幻觉)、响应时延(用户等得起吗)。每次改切分或换模型,都跑一遍评测对比。

四、上线checklist

权限与脱敏:谁能看哪些资料,敏感字段是否脱敏;

可追溯:答案能回链到原文,方便核对;

兜底机制:检索为空时明确告知,不硬编;

监控:记录高频问题与失败案例,持续迭代语料;

反馈闭环:让用户点赞/纠错,反哺评测集。

RAG不是一锤子买卖,上线只是起点。把评测和反馈跑成常态,知识库才会越用越准。