[论文解读] Rethinking Cooperative Rationalization: Introspective Extraction and Complement Control

Mo Yu, Shiyu Chang+2 more|arXiv (Cornell University)|Oct 29, 2019

Explainable Artificial Intelligence (XAI)参考文献 29被引用 5

一句话总结

本文提出了一种三玩家博弈论框架，结合内省式解释生成，以解决协作式合理化模型中的缺陷，即由于隐藏的基于标签的通信，抽取式解释变得难以解释。通过控制机制将解释生成与预测解耦，并引入内省机制，该方法提升了推理过程的质量，同时保持了较高的预测准确性，在文本分类任务中实现了最先进性能，生成的推理过程更具意义且更简洁。

ABSTRACT

Selective rationalization has become a common mechanism to ensure that predictive models reveal how they use any available features. The selection may be soft or hard, and identifies a subset of input features relevant for prediction. The setup can be viewed as a co-operate game between the selector (aka rationale generator) and the predictor making use of only the selected features. The co-operative setting may, however, be compromised for two reasons. First, the generator typically has no direct access to the outcome it aims to justify, resulting in poor performance. Second, there's typically no control exerted on the information left outside the selection. We revise the overall co-operative framework to address these challenges. We introduce an introspective model which explicitly predicts and incorporates the outcome into the selection process. Moreover, we explicitly control the rationale complement via an adversary so as not to leave any useful information out of the selection. We show that the two complementary mechanisms maintain both high predictive accuracy and lead to comprehensive rationales.

研究动机与目标

• 解决协作式合理化模型中因利用基于标签的通信而导致退化且难以解释的推理过程问题。
• 缓解在自解释型NLP模型中使用推理过程而非完整输入时导致的性能下降问题。
• 设计一种框架，确保解释既具有预测能力又具备语义意义。
• 在解释生成过程中引入内省机制，以增强模型对与预测相关特征的意识。
• 在有限监督条件下，从理论和实证上验证改进后的解释质量与鲁棒性。

提出的方法

• 提出一个三玩家博弈：提取器、预测器和控制器，以过滤提取器与预测器之间不必要的基于标签的通信。
• 引入一种内省机制，促使提取器基于对预测结果的预期来生成推理过程，而不仅仅是依赖标签模式。
• 采用极小化极大博弈结构，以确保一致性并防止解释过程中的捷径学习。
• 应用连续性与稀疏性正则化，以确保推理过程简洁且连贯。
• 采用两阶段训练流程：先使用回归头对提取器进行预训练，以提升初始推理质量，再进行联合训练。
• 使用合页损失约束推理过程长度，以确保多样性与相关性。

实验结果

研究问题

• RQ1 三玩家博弈框架能否有效消除协作式合理化中的非预期基于标签的通信？
• RQ2 内省式解释生成是否能产生更具语义意义且更具预测能力的推理过程？
• RQ3 所提方法能否在生成更短、更简洁的推理过程的同时保持高预测准确性？
• RQ4 在有限监督条件下，该方法在推理质量与模型性能方面与先前工作相比如何？
• RQ5 对提取器进行预训练在多大程度上提升了整个框架的鲁棒性与性能？

主要发现

• 在单方面啤酒评论任务中，该方法达到87.1%的准确率，优于Lei2016的81.4%和+minimax的82.9%。
• 在关系分类任务中，该方法达到85.8%的准确率，显著优于Lei2016的74.6%和+minimax的73.2%。
• 人工评估显示，32%的内省模型生成的推理过程被评为'良好'，而Lei2016仅为20%，表明解释性得到改善。
• 在预训练设置下，该模型在20%选定推理过程上的准确率达到87.50%，而Lei2016在相同条件下降至83.88%。
• 即使在强连续性约束下，该方法仍保持高性能，表明其对信息量丰富且简短短语具有更好的泛化能力。
• 内省框架减少了对诸如'no'或'not'等虚假模式的依赖，生成更具上下文相关性的推理过程。