[论文解读] An Interpretable Reasoning Network for Multi-Relation Question Answering

Mantong Zhou, Minlie Huang+1 more|arXiv (Cornell University)|Jan 15, 2018

Topic Modeling参考文献 34被引用 82

一句话总结

论文提出一个可解释推理网络（IRN），通过逐跳推理回答多关系知识库问题，使中间关系和实体可观测以便分析和手动干预，在两个数据集上达到最新的先进结果。

ABSTRACT

Multi-relation Question Answering is a challenging task, due to the requirement of elaborated analysis on questions and reasoning over multiple fact triples in knowledge base. In this paper, we present a novel model called Interpretable Reasoning Network that employs an interpretable, hop-by-hop reasoning process for question answering. The model dynamically decides which part of an input question should be analyzed at each hop; predicts a relation that corresponds to the current parsed results; utilizes the predicted relation to update the question representation and the state of the reasoning process; and then drives the next-hop reasoning. Experiments show that our model yields state-of-the-art results on two datasets. More interestingly, the model can offer traceable and observable intermediate predictions for reasoning analysis and failure diagnosis, thereby allowing manual manipulation in predicting the final answer.

研究动机与目标

• 动机并解决知识库上的多关系问答（KBQA）问题。
• 引入一种可解释的逐跳推理过程，在每一步选择一个关系。
• 使中间预测可追踪，以便推理分析和故障诊断。
• 在基准数据集上展示最优性能，并证明鲁棒性与可解释性。

提出的方法

• 提出一种带有输入、推理和回答模块的可解释推理网络（IRN）。
• 在每跳中，推理模块预测一个关系，更新问题和状态，并通过 Terminal 关系决定何时停止。
• 输入模块对问题进行编码，并通过减去预测的关系来更新 q^h（q^h = q^{h-1} - M_rq r_hat^h）。
• 推理模块利用 q^{h-1} 和 s^{h-1} 对关系进行 softmax，计算 g_j^h，然后将 r_hat^h 构造成关系嵌入的加权和。
• 状态 s^h 更新为 s^{h-1} + M_rs r_hat^h，以对累积推理进行编码。
• 回答模块使用 e^h = M_se s^h 和 o_i^h 通过对实体嵌入的 softmax 得到，来从状态预测实体 a^h。
• 使用多任务损失，结合关系预测和实体预测（平衡参数 lambda）。
• 通过受 TransE 启发的约束引入多任务知识库表示训练：M_se (e_s + r) ≈ e_o，提升对不完整路径的鲁棒性。
• 通过并行运行 IRN 并取交集来处理合取问题。

实验结果

研究问题

• RQ1 一个可解释的逐跳推理网络是否能够有效回答多关系的知识库问题？
• RQ2 暴露中间关系和实体是否能提升可追溯性、故障诊断以及潜在的人工引导？
• RQ3 来自知识库嵌入和问答数据的联合监督是否能提升多跳问题的性能？
• RQ4 该方法对不完整的知识库和未见过的关系是否鲁棒？

主要发现

• IRN 在两个 KBQA 数据集（PathQuestion 和 WorldCup2014）上获得多跳和合取问题的最先进结果。
• IRN 在每跳提供可追踪的中间预测（关系和实体），便于推理分析和故障诊断。
• 通过多任务目标的辅助 KB 嵌入训练提升对不完整知识库的鲁棒性，并有助于预测缺失的链接。
• Compared to baselines, IRN shows strong performance on single-hop, multi-hop, and conjunctive questions and offers greater interpretability than many memory-based models.
• The framework supports manual manipulation of intermediate predictions to improve final answers, demonstrated by higher accuracy when ground-truth intermediate steps are provided.