RAG系统-重排序与多跳检索

🍋🍋AI学习🍋🍋

🔥系列专栏： 👑哲学语录: 用力所能及，改变世界。
💖如果觉得博主的文章还不错的话，请点赞👍+收藏⭐️+留言📝支持一下博主哦🤞

一、重排序（Re-ranking）详解

1. 为什么需要重排序？

初检阶段（如向量相似度检索）通常采用高效但粗糙的匹配方式：

• 向量嵌入模型（如text-embedding-ada-002）虽然能捕捉语义，但对细粒度语义匹配、逻辑一致性、上下文依赖等能力有限。
• 可能召回大量“表面相关但实质无关”的文档。

🌰 举例：
用户问：“Transformer 模型中 LayerNorm 的作用是什么？”
初检可能召回一篇讲“Transformer 架构综述”的文章（包含 LayerNorm 字眼），但真正解释其作用的段落可能在另一篇更专业的论文中。
重排序的目标就是把后者排到前面。

2. 重排序的核心思想

对初检返回的 top-K（如 K=50）候选文档，使用一个更强、更精细的模型重新计算 query 与每个文档的相关性分数，再按新分数排序，取 top-N（如 N=3~5）送入 LLM。

✅ 本质：粗排（fast but noisy） + 精排（slow but accurate）

3. 重排序的实现方式

（1）基于交叉编码器的重排序（Cross-Encoder Reranker）

这是目前最主流、效果最好的方式。

• 原理：将 query 和 document拼接成一个序列，输入一个预训练语言模型（如 BERT、RoBERTa），输出一个相关性分数。

  1[CLS] query: What is LayerNorm? [SEP] passage: In Transformer, LayerNorm is applied after residual... [SEP]

• 模型输出[CLS]token 的 logits，经 sigmoid 得到 0~1 的相关性分数。
• 优点：能建模 query 与 document 的深度交互（token-level attention），远优于双塔模型（Bi-encoder）的独立编码。

对比：

• Bi-encoder（初检用）：query 和 doc 分别编码 → 计算余弦相似度（快，可索引）
• Cross-encoder（重排用）：联合编码 → 精确打分（慢，不可索引）

（2）常用重排序模型

💡 推荐：BGE-Reranker-v2-m3（多语言、小模型、效果好）

4. 重排序的关键关注点

二、多跳检索（Multi-hop Retrieval）详解

1. 什么是多跳检索？

• 单跳检索：一次 query → 一次检索 → 得到答案（适用于简单事实问答）。
• 多跳检索：需要多次检索 + 推理才能回答的问题。

🌰 经典例子（HotpotQA 数据集）：

“Who is the founder of the company that created TensorFlow?”

需要两跳：

1. TensorFlow 是谁开发的？→ Google
2. Google 的创始人是谁？→ Larry Page & Sergey Brin

最终得到答案。

2. 多跳检索的挑战

• 信息分散：答案分布在多个文档中。
• 推理链构建：如何从第一跳结果推导出第二跳 query？
• 错误传播：第一跳检索错误 → 后续全错。
• 循环/冗余：重复检索相同内容。

3. 实现策略

（1）迭代式检索（Iterative Retrieval）

• 步骤：
  1. 用原始 query 检索第一批文档。
  2. 用 LLM 分析这些文档，生成新的 sub-query（用于下一跳）。
  3. 用新 query 再次检索。
  4. 重复直到满足停止条件（如找到答案、达到最大跳数）。

📌 关键：Query 生成质量决定成败。

（2）基于图的检索（Graph-based Retrieval）

• 将知识库构建成实体关系图（如 Wikidata）。
• 从问题中提取实体，进行图遍历（如 2-hop neighbors）。
• 适合结构化知识，但构建成本高。

（3）FLARE（Forward-Looking Active Retrieval）

• 在 LLM 生成过程中动态判断是否需要检索。
• 当模型预测的下一个 token 置信度低时，触发检索。
• 实现“按需检索”，减少冗余。

（4）Self-Ask / Chain-of-Thought + Retrieval

• 让 LLM 先生成推理链（CoT），再对每个子问题单独检索。

4. 多跳检索的关键关注点