[论文解读] Knowledge-Grounded Self-Rationalization via Extractive and Natural Language Explanations

Bodhisattwa Prasad Majumder, Oana-Maria Camburu+2 more|arXiv (Cornell University)|Jun 25, 2021

Topic Modeling被引用 6

一句话总结

该论文提出 RExC，一种自解释框架，将抽取式推理过程（ERs）和自然语言解释（NLEs）与外部知识相融合，联合优化解释质量与任务性能。RExC 在 ER 和 NLE 质量方面均达到最先进（SOTA）水平，同时保持了 SOTA 的任务准确率，并在无需对推理过程或片段进行直接监督的情况下，生成忠实且基于知识的解释。

ABSTRACT

Models that generate extractive rationales (i.e., subsets of features) or natural language explanations (NLEs) for their predictions are important for explainable AI. While an extractive rationale provides a quick view of the features most responsible for a prediction, an NLE allows for a comprehensive description of the decision-making process behind a prediction. However, current models that generate the best extractive rationales or NLEs often fall behind the state-of-the-art (SOTA) in terms of task performance. In this work, we bridge this gap by introducing RExC, a self-rationalizing framework that grounds its predictions and two complementary types of explanations (NLEs and extractive rationales) in background knowledge. Our framework improves over previous methods by: (i) reaching SOTA task performance while also providing explanations, (ii) providing two types of explanations, while existing models usually provide only one type, and (iii) beating by a large margin the previous SOTA in terms of quality of both types of explanations. Furthermore, a perturbation analysis in RExC shows a high degree of association between explanations and predictions, a necessary property of faithful explanations.

研究动机与目标

• 为解决自解释模型中的性能-可解释性权衡问题，通过将背景知识整合到解释生成过程中。
• 联合生成高质量的抽取式推理（ERs）与自然语言解释（NLEs），克服现有模型仅生成单一类型解释的局限性。
• 通过将解释基于外部知识资源（如常识知识）来提升解释的忠实性与合理性。
• 通过利用选定的知识片段作为隐式解释，实现在无 NLE 监督情况下的零样本 NLE 生成。
• 弥合任务性能与可解释性之间的差距，在解释质量与下游任务准确率两方面均实现 SOTA 结果。

提出的方法

• RExC 使用统一框架，首先通过输入特征上的二值潜变量选择抽取式推理（ERs）。
• 然后利用所选的 ERs 查询外部知识资源，以检索相关知识片段。
• 片段选择模块基于与预测任务的相关性，选择最相关的知识片段。
• 所选片段被传递至自然语言解释（NLE）生成器，以生成人类可读的解释。
• 生成的 NLE 随后作为输入送入最终预测器，输出最终预测结果，所有组件通过变分学习进行端到端联合训练。
• 该框架仅依赖最终预测结果和 NLE 的监督进行端到端训练，无需对 ER 或片段选择提供直接监督。

实验结果

研究问题

• RQ1 自解释模型能否在实现最先进任务性能的同时，联合生成抽取式推理与自然语言解释？
• RQ2 将解释基于外部知识是否能同时提升自解释模型中解释的质量与忠实性？
• RQ3 模型能否通过利用选定的知识片段作为隐式解释，在零样本设置下生成高质量的自然语言解释？
• RQ4 模型如何确保解释与其决策过程保持高度一致？
• RQ5 基于知识的自解释能否弥合先前模型中存在的性能-可解释性差距？

主要发现

• RExC 在自然语言与视觉-语言领域的五个任务中，均在抽取式推理与自然语言解释质量方面达到最先进水平。
• RExC 在下游任务上的性能与最强的非可解释模型相当，有效弥合了性能-可解释性差距。
• 该模型在 NLE 与 ER 质量方面显著优于先前的 SOTA 模型，展现出更优的解释保真度。
• 扰动分析证实 RExC 的解释高度忠实，解释与预测之间存在强烈关联。
• RExC-ZS（零样本变体）利用选定知识片段作为 NLE，在性能上表现具有竞争力，甚至在某些情况下超越了全 NLE 监督训练的模型。
• 该框架成功在无片段直接监督的情况下学习选择相关知识片段，即使在低资源场景下也能实现有效的解释生成。