七、深入探讨 RAG（检索增强生成）的准确率问题。

RAG 系统的准确率不仅仅取决于大模型本身，更是一个贯穿“数据→检索→生成→评估”全链路的系统工程。任何一个环节的短板（如数据脏乱、检索不准、模型幻觉）都会导致最终回答的失败。

基于行业实战经验，我将影响 RAG 准确率的核心因素归纳为以下四个维度，并提供相应的解决方案：

1. 数据治理：高质量的“食材”是基础

核心因素：

• 数据质量差：知识库中包含大量噪声（如 PDF 页眉页脚、乱码、过时信息），导致“垃圾进，垃圾出”。
• 切片（Chunking）不合理：简单的按固定字符数切分，容易切断语义（例如将“问题”和“答案”切到了两个不同的块中），导致检索不到完整信息。

解决方案：

• 严格的数据清洗：在入库前，利用工具（如 PyPDF2、Unstructured）去除页眉、页脚、水印等无关噪声。对于非结构化文本，需去除 HTML 标签和特殊符号。
• 智能分块策略：
  • 语义分块：不要只按字数切，要按“语义完整性”切（如按段落、章节或逻辑断点）。
  • 重叠窗口（Sliding Window）：设置 10%~15% 的重叠率（Overlap），防止关键信息在切分处丢失。
  • 父子索引：检索时匹配小块（精确），但给大模型提供包含该小块的更大上下文窗口（完整）。
• 元数据增强：给文档块打标签（如来源、时间、适用部门），检索时利用元数据过滤（例如只搜“2025年”的“HR政策”），大幅缩小搜索范围。

2. 检索优化：精准的“导航”是关键

核心因素：

• 单一检索局限：仅靠向量检索（语义匹配）容易漏掉专有名词（如产品型号），仅靠关键词检索（BM25）又无法理解同义词（如“离职”与“辞职”）。
• 嵌入模型不匹配：使用通用模型处理垂直领域（如法律、医疗）问题，导致向量表征能力不足。
• 用户查询模糊：用户的问题往往口语化、简短，直接拿去检索效果很差。

解决方案：

• 混合检索（Hybrid Search）：这是提升准确率最有效的手段之一。结合稠密检索（向量，懂语义）和稀疏检索（关键词，懂精确匹配），并通过 RRF（倒数排名融合）算法将两路结果合并排序。
• 查询重写与增强：
  • 意图识别：在检索前，用一个小模型将用户的口语转化为标准查询（例如将“怎么报销”改写为“公司差旅费用报销流程及标准”）。
  • 多跳推理：对复杂问题进行拆解，分步检索。
• 模型微调：如果你的业务非常垂直，使用领域数据微调 Embedding 模型（如 BGE-M3、LegalBERT），能显著提升语义理解的准确度。
• 重排序（Rerank）：在初步召回（如 Top 50）后，引入一个高精度的Rerank 模型（如 Cohere Rerank 或 BGE-Reranker）对结果进行二次精细打分，只把最相关的 Top 5 送给大模型。

3. 生成约束：严谨的“厨师”是保障

核心因素：

• 模型幻觉：大模型倾向于利用训练数据中的通用知识“一本正经地胡说八道”，而不是严格依据检索到的上下文。
• 上下文窗口限制：塞入过多的检索片段会超出模型窗口，或者引入过多噪声干扰模型判断。

解决方案：

• 强约束 Prompt 工程：在系统提示词中明确指令：“必须仅根据提供的上下文回答，如果上下文中没有答案，请直接说不知道，严禁编造。”
• 引用溯源：要求模型在回答中标注引用来源（如[文档1]），这不仅增加了可信度，也方便后续验证。
• 事实校验：引入“裁判”机制，生成回答后，再用一个模型或规则检查回答是否与检索内容一致，不一致则重新生成。

4. 评估与迭代：科学的“体检”是闭环

核心因素：

• 缺乏量化指标：仅凭主观感觉判断好坏，无法定位是检索错了还是生成错了。

解决方案：

• 建立评估体系：使用RAGAS或TruLens等框架，监控核心指标：
  • 检索准确率：召回的文档是否真的相关？
  • 忠实度：回答是否完全基于检索到的文档？
  • 答案相关性：回答是否解决了用户的问题？
• 人工反馈回路：在高危场景（如法律、医疗）保留人工审核环节，并将人工修正的数据回流到知识库或用于模型微调。

总结：RAG 优化速查表

为了更直观地理解，整理了以下优化策略表：

RAG 的优化没有银弹，通常建议从数据清洗和混合检索入手，这两步往往能带来最立竿见影的效果（如从 30% 提升至 80%+）。希望这些建议能对你的项目有所帮助！