SentGraph：用于多跳检索增强问答的层次化句子图谱

文章摘要

本文提出SentGraph框架，一种基于句子级图谱的检索增强生成方法，专门用于解决多跳问答任务。通过引入修辞结构理论（RST）建模句子间细粒度逻辑关系，构建层次化句子图谱，实现精准的证据检索。实验表明，该方法在降低69%输入token消耗的同时，显著提升了多跳问答准确性。

文末阅读原文或https://t.zsxq.com/ciPF1获取双语pdf

一、研究背景：传统RAG系统的困境

1.1 大语言模型的局限性

大语言模型（LLMs）在语义理解和文本生成方面展现出强大能力，在文档阅读理解任务中显示出广阔的应用潜力。然而，LLMs仍然受限于其内部知识边界，并且容易产生幻觉（hallucination），特别是在需要严格事实准确性的场景中。

1.2 检索增强生成（RAG）的挑战

为了解决这些问题，检索增强生成（RAG）技术通过整合外部知识来支持LLM生成。传统的RAG系统在单跳问答中表现良好，但在多跳问答任务中面临重大局限。

传统方法的三大痛点：

基于块（chunk）的检索提供不相关的上下文
：现有的分块检索常常返回逻辑不连贯的内容，导致证据链不完整
迭代检索的高延迟问题
：虽然迭代检索可以扩大证据覆盖范围，但反复的检索过程引入了显著的计算开销和延迟，限制了实时应用场景的适用性
粗粒度图谱的表达能力不足
：现有的基于图的方法通常依赖于块级别的相似性连接，难以捕捉核心句子之间细粒度的语义和逻辑关系

二、SentGraph框架：创新性解决方案

2.1 核心设计理念

SentGraph的基本思路是提出一种基于句子图谱的检索增强生成方法。具体而言，研究团队尝试将检索粒度从块降低到单个句子，并使用显式的方式对句子之间的语义和逻辑关系进行建模。

SentGraph是一个句子级逻辑图谱构建和检索增强生成框架，专门用于多跳问答。它突破了传统的基于块的检索和建模范式，通过显式捕捉文档内部和跨文档的句子级逻辑依赖关系，实现了更细粒度的知识组织和推理路径建模。

2.2 框架总体架构

如图2所示，该框架包含两个阶段：离线句子逻辑图谱构建和在线基于图的检索与答案生成。

离线阶段：通过建模句子级逻辑结构构建层次化句子逻辑图谱
在线阶段：基于图谱执行证据检索和答案生成，从而提高LLMs在复杂问题上的跨文档推理效果

三、技术创新：层次化句子图谱构建

3.1 引入修辞结构理论（RST）

为了解决上下文丢失和关系建模复杂性的问题，SentGraph采用了基于修辞结构理论（RST）的精炼逻辑关系集。研究团队通过整合频繁出现的关系并移除罕见关系，形成了一个实用的关系分类体系，该体系自然地区分了核心句子（nucleus sentences）和附属句子（satellite sentences）。

3.2 双重逻辑关系建模

核心-核心（N-N）关系：建模具有同等重要性的句子之间的逻辑连接，这些句子共同传达核心文档语义，包括：

连接（conjunction）
对比（contrast）
析取（disjunction）
多核重述（multinuclear restatement）
序列（sequence）关系

核心-附属（N-S）关系：建模核心句子与其支撑句子之间的非对称依赖关系，包括：

因果（cause）
结果（result）
对立（opposition）
详述（elaboration）
情境（circumstance）
评价（evaluation）
解决方案（solutionhood）关系

3.3 三层图谱结构设计

为了应对高计算开销的挑战，SentGraph设计了一个三层图结构，包括主题层、核心句子层和补充句子层。

图谱形式化定义为：G = (V, E)

节点集合：V = Vt ∪ Vc ∪ Vs

主题节点（Vt）
：代表文档级语义摘要，用于跨文档桥接
核心句子节点（Vc）
：对应承载关键事实和推理支持的句子
补充句子节点（Vs）
：代表详述或条件性补充核心句子的从属句子

边集合：E = Ett ∪ Etc ∪ Ecc ∪ Ecs

该结构通过层次化组织平衡了表达能力和计算复杂性，避免了直接构建全局句子图谱的计算开销。

3.4 跨文档连接策略

研究团队没有构建密集的全局句子图谱，而是首先在单个文档内构建主题级子图，然后通过主题层的实体-概念桥梁建立跨文档连接。这种设计显著降低了计算复杂度，同时保持了跨文档推理能力。

四、在线检索策略：图引导的证据选择

4.1 锚点选择与细化

在在线检索阶段，SentGraph引入了基于句子图谱的检索增强生成策略，实现细粒度的证据选择。系统首先根据用户查询嵌入（Query Embedding）进行锚点选择与细化。

4.2 路径扩展机制

通过图结构的路径扩展，系统能够检索关键证据句子及其逻辑上下文，用于多跳问答任务。这种机制确保了：

检索到的证据句子之间具有明确的逻辑关系
避免了传统块级检索中常见的不相关上下文
保持了完整的推理链条

4.3 实际应用案例

以原文中的示例问题为例：
问题："When did the country that has the same co-official language as that of the movie about the city where Petar Trifunović died send an independent team to the Olympics?"

证据句子：