[论文解读] DAGN: Discourse-Aware Graph Network for Logical Reasoning
本文提出DAGN，一种论述感知图网络，通过从基本论述单元（EDUs）和论述关系构建逻辑图，来建模阅读理解中的逻辑推理。通过利用图神经网络学习论述感知特征，并将其与上下文嵌入融合，DAGN在ReClor和LogiQA数据集上达到最先进性能，证明了论述结构在提升逻辑推理能力方面的有效性。
Recent QA with logical reasoning questions requires passage-level relations among the sentences. However, current approaches still focus on sentence-level relations interacting among tokens. In this work, we explore aggregating passage-level clues for solving logical reasoning QA by using discourse-based information. We propose a discourse-aware graph network (DAGN) that reasons relying on the discourse structure of the texts. The model encodes discourse information as a graph with elementary discourse units (EDUs) and discourse relations, and learns the discourse-aware features via a graph network for downstream QA tasks. Experiments are conducted on two logical reasoning QA datasets, ReClor and LogiQA, and our proposed DAGN achieves competitive results. The source code is available at https://github.com/Eleanor-H/DAGN.
研究动机与目标
- 为解决问答中逻辑推理的挑战，即模型需在复杂段落中揭示隐藏的论证结构。
- 通过引入论述层面的结构，超越仅基于词元或实体的关联关系，提升推理能力。
- 探索将论述关系作为定义论证性文本中逻辑单元与关系的手段。
- 开发一种基于图的方法，显式建模论述结构，以提升问答任务中的推理性能。
- 证明论述感知图学习可增强在逻辑推理基准上的表现。
提出的方法
- 从PDTB 2.0中获取论述关系，将文本分割为基本论述单元（EDUs），并将EDUs视为逻辑图中的节点。
- 论述关系（显式与隐式）作为边连接EDUs，构成基于论述的逻辑图。
- 图神经网络（GNN）通过消息传递机制，从图结构中学习论述感知特征。
- 将预训练语言模型生成的上下文词元嵌入与论述感知图特征融合，用于答案预测。
- 在多选逻辑推理问答数据集上端到端训练模型，使用交叉熵损失函数。
- 消融实验验证了论述结构、图推理以及EDU/边设计合理性的关键作用。
实验结果
研究问题
- RQ1论述关系能否有效用于定义论证性文本中的逻辑推理单元（EDUs）？
- RQ2将论述结构整合到基于图的模型中，如何提升问答中的逻辑推理能力？
- RQ3不同图构建选择（如节点粒度、边类型）对推理性能有何影响？
- RQ4论述感知特征在多大程度上增强了预训练语言模型的推理能力？
- RQ5基于论述的图结构是否在逻辑推理任务中优于基于实体或全连接的图结构？
主要发现
- DAGN在ReClor和LogiQA上表现优异，超越现有开源方法。
- 以小句级EDUs作为节点的性能优于句级或更粗粒度的单元，当使用更粗粒度单元时，准确率下降至64.40%。
- 移除论述关系（即使用全连接图）导致性能降至61.60%，证明有意义的边连接至关重要。
- 将所有边视为同一类型会使准确率降至64.80%，表明区分论述关系类型有助于提升推理能力。
- 移除图推理模块的消融实验显示性能显著下降，证实了论述感知特征学习的必要性。
- 模型性能对图结构修改具有鲁棒性，但最优设计（EDUs + 论述关系）可获得最佳结果。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。