18种最佳 RAG 技术

在生成式模型与信息检索技术飞速发展的当下，如何将两者有效结合，以提升问答系统的准确性和实用性，成为了技术探索的前沿焦点。为了探寻最优解，我深入研究并实践了18种不同的 RAG（Retrieval-Augmented Generation）技术，从基础方法到复杂的多模型融合，不一而足。经过一系列严谨的实验，数据揭示了一个令人瞩目的结果：Adaptive RAG 凭借其动态调整策略和卓越的检索效果，在众多技术中脱颖而出，以0.86的高分成为本次实验的佼佼者。

18种 RAG 技术剖析

接下来，我将深入剖析每种 RAG 技术的核心理念、实现细节以及各自的优缺点，旨在帮助大家更全面地理解这些前沿方法。

1、简单RAG

1. 核心理念：直接将检索到的相关文档与生成模型进行拼接后输入，从而生成回答。
2. 优点：实现简单、计算开销小，适合作为基线对比。
3. 缺点：在处理复杂语境或需要多轮推理的查询时，直接拼接的信息可能不够充分，容易遗漏细节。

2、语义切分（Semantic Chunking）

1. 核心理念：通过自然语言处理技术，将长篇文档按语义分块，确保每个块都是独立且连贯的语义单元。
2. 优点：提高了检索系统在定位相关信息时的精度，有助于生成模型快速锁定问题核心。
3. 缺点：分块策略需要根据文档类型进行调优，不同文档结构下可能需要不同的处理方式。

3、上下文增强检索（Context Enriched Retrieval）

1. 核心理念：在传统关键词匹配的基础上，加入文档的额外背景信息或领域知识，使检索结果更符合查询语境。
2. 优点：有效过滤噪音信息，提升答案的相关性和准确性。
3. 缺点：需要额外的预处理步骤和上下文信息的构建，增加了系统复杂性。

4、上下文切块标题（Contextual Chunk Headers）

1. 核心理念：利用文档中每个切块的标题或小节名称作为检索辅助信息。
2. 优点：标题能简明扼要地反映内容核心，能快速引导模型关注重要信息。
3. 缺点：对于标题不明显或未提供标题的文档，效果可能不理想。

5、文档增强（Document Augmentation）

1. 核心理念：在正式检索前，对原始文档进行加工处理，如扩充描述、补充背景信息或结构化处理。
2. 优点：增加了文档的信息量，为后续检索与生成过程提供更多上下文支持。
3. 缺点：增强过程需要额外计算资源，且处理不当可能引入噪声信息。

6、查询转换（Query Transformation）

1. 核心理念：通过对用户原始查询进行改写和优化，使其更符合文档中信息的表述方式。
2. 优点：能够捕捉到查询中的隐含意图，降低因表述差异导致的匹配错误。
3. 缺点：需要确保转换后的查询与原意保持一致，防止出现语义偏差。

7、重排序器（Re-Ranker）

1. 核心理念：在初步检索之后，对得到的候选文档进行二次排序，确保最相关的信息位于前列。
2. 优点：提高了最终传递给生成模型的信息质量，减少了低相关度文档的干扰。
3. 缺点：增加了系统的计算开销，需要设计高效的排序算法以保证响应速度。

8、基于检索的语义增强（Retrieval-based Semantic Enhancement）

1. 核心理念：利用语义特征对检索结果进行进一步强化，帮助模型更准确地理解文本含义。
2. 优点：提升了检索结果的语义一致性，适用于信息复杂或语义模糊的问题。
3. 缺点：实现过程中对语义提取的依赖较高，需确保语义模型的准确性。

9、上下文压缩（Contextual Compression）

1. 核心理念：在传递信息给生成模型前，对大量检索结果进行精简摘要，保留关键信息。
2. 优点：降低了输入信息的冗余度，加快了生成模型的处理速度，同时保持必要的语义信息。
3. 缺点：摘要质量直接影响最终答案的准确性，压缩过程需要精细调控以防信息丢失。

10、反馈循环（Feedback Loop）

1. 核心理念：将生成的初步答案反馈回检索系统，进行多轮迭代优化。
2. 优点：通过多次迭代不断纠正偏差，能显著提升回答的准确性与完整性。
3. 缺点：多轮迭代会增加系统延时，对实时性要求较高的应用场景可能不适用。

11、自适应 RAG（Adaptive RAG）

1. 核心理念：根据不同查询的特性，动态调整检索与生成策略，实现更高的整体性能。
2. 优点：实验结果显示其在各种指标上均表现优异，得分达到0.86；能在多种场景下保持较高准确率与响应速度。
3. 缺点：实现上需要较多调试和参数优化，但带来的性能提升使得投入是值得的。

12、自我 RAG（Self RAG）

1. 核心理念：强调生成模型自身的自我纠错与自我增强机制，通过多次内部迭代不断完善答案。
2. 优点：特别适合需要复杂逻辑推理和多轮交互的问题，能逐步逼近真实答案。
3. 缺点：迭代次数较多可能导致响应延迟，需要平衡准确率与效率。

13、知识图谱（Knowledge Graph）

1. 核心理念：将大量分散的信息以图结构组织起来，帮助模型快速理解实体间的关系和背景知识。
2. 优点：特别适用于专业领域或结构化知识密集型的问题，能提高回答的逻辑性和权威性。
3. 缺点：构建和维护知识图谱需要大量数据支持和专业知识。

14、层次化索引（Hierarchical Indices）

1. 核心理念：利用文档内部固有的层次结构（例如章节、段落）来构建分级索引，提高大规模文档检索的效率。
2. 优点：能大幅降低检索时间，提升大文档库中的查找精度。
3. 缺点：对文档结构有一定依赖，结构不明显的文档可能难以应用。

15、HyDE

1. 核心理念：通过生成假设性答案，再利用该假设进行反向检索，从而获得更丰富的上下文。
2. 优点：能弥补直接检索过程中可能遗漏的隐性信息，生成更加全面的答案。
3. 缺点：需要设计合理的假设生成和融合机制，否则可能引入噪声信息。

16、Fusion

1. 核心理念：整合来自不同检索方法的结果，形成一个融合后的信息集，再传递给生成模型。
2. 优点：可以有效降低单一检索方法的局限性，提供更加多样和全面的信息。
3. 缺点：融合策略设计复杂，需要平衡各路信息的权重。

17、多模型融合（Multi Model）

1. 核心理念：同时采用多个生成模型，各自独立生成答案后，再将它们进行整合。
2. 优点：能利用不同模型的长处，弥补单一模型可能存在的信息盲区，提升整体回答的多样性与准确性。
3. 缺点：计算资源消耗较大，对系统并行处理能力要求较高。

18、Crag

1. 核心理念：通过上下文融合、反馈机制以及多步骤优化，最大化利用检索结果。
2. 优点：具有较高的稳定性和准确性，能适应复杂和多变的查询场景。
3. 缺点：实现相对复杂，整体系统调试和优化难度较大，虽然性能优异，但未能在得分上超越 Adaptive RAG。

18种 RAG 实验总结

在实验过程中，我全面测试了上述18种 RAG 技术。每种技术在检索精度、响应效率以及实现难度上各有优势，但实验数据明确指出，Adaptive RAG 凭借其灵活的策略调整和出色的自适应能力，以0.86的高分在综合性能上拔得头筹，成为最优选择。

通过此次实验，我不仅深入掌握了每种 RAG 技术的核心原理和实际应用场景，还为在不同项目中挑选合适的技术方案积累了丰富经验。展望未来，随着生成模型和检索技术的持续发展，RAG 方法将不断演进，为问答系统带来更高的智能化和效率提升。

文章转载自：经过18次尝试后，我发现了最佳 RAG 技术