RAG 检索增强生成入门指南

检索增强生成（Retrieval-Augmented Generation, RAG） 是当前大语言模型（LLM）领域最热门的技术之一。本文将从理论基础到实践应用，全面介绍 RAG 的核心概念、主流架构及最新发展趋势。

📌 原始论文：Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks（arXiv:2005.11401）
📌 发布时间：2020 年 5 月（Meta AI / Facebook AI Research）
📌 适合人群：AI 应用开发者、后端工程师、对 LLM 应用感兴趣的技术人员

关于本文档 ​

本文档是 RAG 技术的中文权威指南，基于 Meta 原始论文及 2024 年最新学术综述整理，覆盖以下核心知识：

• ✅ RAG 的起源、核心思想与工作流程
• ✅ 三种 RAG 架构详解与对比（Naive / Advanced / Modular）
• ✅ 2024 年前沿技术（GraphRAG、SELF-RAG、CRAG、Agentic RAG）
• ✅ 评估指标与常见挑战
• ✅ 实践指南：技术栈选择、分块策略、问题排查

# RAG 检索增强生成
## 基础概念
- 核心思想: 检索 + 生成
- 解决问题: 幻觉、知识过时、可解释性
## 工作流程
- 离线阶段: 分块 → 向量化 → 存储
- 在线阶段: 检索 → 增强 → 生成
## 技术体系
- 基础架构
  - Naive RAG → Advanced RAG → Modular RAG
- 检索增强: GraphRAG → LightRAG
- 生成优化: SELF-RAG → CRAG → Speculative RAG
- 智能融合: Agentic RAG → Agent子模块
- 模态扩展: 多模态RAG / Long RAG
- 部署模式: RaaS / Edge RAG
## 评估指标
- 检索质量: Hit Rate, MRR
- 生成质量: Faithfulness, Relevance
## 技术栈
- 向量库: Milvus, Chroma
- 框架: LangChain, LlamaIndex

🎧 更喜欢听？试试本文的音频版本

1. 什么是 RAG？ ​

1.1 RAG 的起源 ​

RAG 最早由 Meta（原 Facebook）在 2020 年 5 月 提出，论文标题为 "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks"（arXiv:2005.11401）。该论文首次将信息检索与文本生成相结合，开创了一种全新的 AI 范式。

1.2 为什么需要 RAG？ ​

大语言模型（如 GPT、Claude、Gemini）虽然功能强大，但存在几个关键问题：

1.3 RAG 的核心思想 ​

简单来说，RAG 就是：

用户问题 → 检索相关文档 → 将文档作为上下文 → LLM 生成答案

这就像考试时可以"开卷"——不需要死记硬背所有知识，只需在需要时查阅参考资料。

2. RAG 的工作流程 ​

一个标准的 RAG 系统包含三个核心阶段：

2.1 离线准备阶段（Indexing） ​

在系统运行之前，需要预先处理知识库：

1. 数据收集：收集 PDF、网页、Word 文档等原始数据
2. 文档分块（Chunking）：将长文档切分为小段落
3. 向量化（Embedding）：使用嵌入模型将文本转换为向量
4. 存储：将向量存入向量数据库（如 Chroma、Milvus、Weaviate）

2.2 在线服务阶段 ​

1. 检索（Retrieval）：将用户问题转换为向量，在数据库中查找最相似的文档块
2. 增强（Augmentation）：将检索到的文档与用户问题组合成提示词（Prompt）
3. 生成（Generation）：LLM 根据增强后的提示词生成最终答案

3. RAG 技术体系：完整演进图谱 ​

RAG 技术形成了一个多维度演进的技术体系，从基础架构到专项优化，每个方向都在解决特定的核心问题。下图展示了完整的技术演进脉络：

3.1 基础架构：从简单到模块化 ​

Naive RAG（基础 RAG） ​

最简单的 RAG 实现方式，直接将检索结果拼接到 Prompt 中。

# Naive RAG 伪代码
def naive_rag(query, vector_db, llm):
    # 1. 检索
    docs = vector_db.similarity_search(query, top_k=3)
    
    # 2. 增强
    context = "\n".join([doc.content for doc in docs])
    prompt = f"根据以下内容回答问题：\n{context}\n\n问题：{query}"
    
    # 3. 生成
    answer = llm.generate(prompt)
    return answer

Advanced RAG（高级 RAG） ​

在基础 RAG 上增加检索前优化、检索中增强、检索后处理三个环节：

关键技术：

Modular RAG（模块化 RAG） ​

将系统拆分为独立模块，像"乐高积木"一样灵活组合：

架构对比总结：

3.2 检索增强：从平面向量到图结构 ​

基础 RAG 将文档切分为孤立的块，无法捕捉实体之间的关系。这一方向引入图结构解决多跳推理问题。

GraphRAG vs LightRAG：

3.3 生成优化：从被动拼接到自主决策 ​

传统 RAG 的生成过程是"盲目的"——无论检索结果好坏都直接使用。这一方向引入自我评估和纠错机制。

机制对比：

Speculative RAG 效果：

• 准确率提升最高 12.97%
• 响应延迟降低最高 51%

3.4 智能融合：从静态工具到智能体 ​

这一方向代表 RAG 的范式转变——从被动的检索工具演变为智能体生态的核心组件。

Agentic RAG 工作模式：

3.5 模态扩展：从纯文本到多模态 ​

多模态 RAG 能力：

• 图片检索：根据图片内容查找相关文档
• 视频问答：从视频库中检索相关片段
• 音频搜索：根据语音内容检索信息

3.6 部署模式：从自建到服务化 ​

部署选项对比：

3.7 技术选型指南 ​

根据业务需求选择合适的技术组合：

4. 实践指南 ​

4.1 技术栈推荐 ​

4.2 分块策略建议 ​

4.3 常见问题排查 ​

5. RAG 评估指标 ​

评估 RAG 系统的效果需要从检索质量和生成质量两个维度进行考量：

5.1 检索质量指标 ​

5.2 生成质量指标 ​

6. RAG 常见挑战 ​

尽管 RAG 技术发展迅速，在实际应用中仍面临诸多挑战：

6.1 检索层面的挑战 ​

6.2 生成层面的挑战 ​

7. 未来展望 ​

RAG 技术仍在快速发展，以下是几个值得关注的方向：

1. 端到端优化：将检索器和生成器联合训练
2. 自适应检索：智能决定何时需要检索
3. 跨模态理解：图文音视频统一检索
4. 可信 RAG：增强答案可追溯性和可解释性
5. 隐私保护 RAG：在保护数据隐私的前提下进行检索

8. 参考资料 ​

核心论文 ​

推荐阅读 ​

• LangChain RAG 官方教程
• LlamaIndex 文档
• RAGFlow 开源项目
• RAGAS 评估框架
• Microsoft GraphRAG