RAG技术的进化:RQ-RAG查询优化/化繁为简Adaptive-RAG智能分类/精准出击

嘿，亲爱的算法探险家们！欢迎来到RAG技术的“奇幻冒险”之旅！🎢 今天，咱们要一起探索的是如何让大语言模型（LLM）从“呆萌小学生”进化成“机智博士生”的奇妙旅程！

想象一下，你正在和一个超级聪明的AI聊天，但它有时候会像个小迷糊，回答得让你哭笑不得。这时候，RAG技术就像是个“AI教练”，帮助它变得更聪明、更精准。但传统的RAG技术还不够完美，它就像是个“只会按部就班的老师”，虽然能纠正错误，但不会主动优化问题。

于是，Adaptive-RAG和RQ-RAG这两位“超级英雄”闪亮登场了！🦸‍♂️🦸‍♀️ 它们不仅能让AI更聪明，还能根据问题的复杂性，动态调整策略，甚至还能把复杂的问题拆解成简单的小问题，就像是个“问题界的拆弹专家”！

所以，亲爱的探险家们，准备好你们的“智慧背包”，咱们要一起踏上这场充满惊喜和挑战的RAG技术冒险之旅了！🚀🌟 记住，幽默和智慧是咱们的最佳拍档，让我们一起笑对挑战，勇往直前吧！😄👏

高级RAG技术：查询分类与优化

在这里插入图片描述

虽然传统的RAG技术可以缓解LLM（大语言模型）回答的不准确性，但它并没有对初始查询进行任何增强。这一点在图1的红框中有所展示。

None

图1：传统RAG技术的局限性

这种方法可能会导致一些潜在问题，例如：

系统可能会消耗过多的计算资源来处理简单查询。
对于复杂查询，仅使用原始查询进行检索往往无法收集到足够的信息。
对于可能有多个答案的模糊查询，使用原始查询进行信息检索显得不足。

本文将介绍两种高级解决方案：查询分类和查询优化。这两种方法通过训练小模型都展示了改进效果。最后，文章将讨论从这两种算法中获得的见解和思考。

Adaptive-RAG：通过问题复杂性学习适应检索增强的大语言模型

总体流程

Adaptive-RAG引入了一种新的自适应框架。如图2所示，它根据查询的复杂性动态选择最适合LLM的策略，从最简单到最复杂不等。

None

图2：不同检索增强LLM方法的概念比较。来源：Adaptive-RAG。

图2（A）表示一种单步方法，首先检索相关文档，然后生成答案。然而，这种方法对于需要多步推理的复杂查询可能不够准确。

图2（B）象征一种多步过程，涉及迭代文档检索和中间响应的生成。尽管这种方法有效，但对于简单查询来说效率低下，因为它需要多次访问LLM和检索器。

图2（C）是一种自适应方法，它使用精心构建的分类器来确定查询的复杂性。这增强了选择最适合LLM检索策略的能力，可能包括迭代、单步甚至无需检索的方法。

为了更直观地理解Adaptive-RAG的流程，我们将结合代码进行解释。目前有四个版本的代码：官方版本、Langchain版本、LlamaIndex版本和Cohere版本。我们将使用LlamaIndex版本进行解释。

详情请参考这个Jupyter Notebook。代码较长，因此这里只讨论关键部分：

# 我们将使用之前创建的 `QueryEngines` 和 `FunctionCallingAgentWorker` 创建工具。
query_engine_tools = [QueryEngineTool(query_engine=lyft_2020_query_engine,metadata=ToolMetadata(name="lyft_2020_10k_form",description="仅与 2020 年 Lyft 财务活动相关的查询。",),),QueryEngineTool(query_engine=lyft_2021_query_engine,metadata=ToolMetadata(name="lyft_2021_10k_form",description="仅与 2021 年 Lyft 财务活动相关的查询。",),),QueryEngineTool(query_engine=lyft_2022_query_engine,metadata=ToolMetadata(name="lyft_2022_10k_form",description="仅与 2022 年 Lyft 财务活动相关的查询。",),