[论文解读] Learning from the Best: Rationalizing Prediction by Adversarial Information Calibration

Lei Sha, Oana-Maria Camburu+1 more|arXiv (Cornell University)|Dec 16, 2020

Topic Modeling参考文献 43被引用 4

一句话总结

本文提出了一种用于神经模型中抽取式理由提取的新型对抗性信息校准方法，其中选择器-预测器模型通过对其内部表示进行对齐，学习模仿一个黑箱的'引导'模型。此外，该方法引入了一种基于语言模型的正则化器，以确保生成的理由流畅且连贯，显著提升了理由的精确率和召回率，同时在情感分析和法律判决任务上保持了预测准确性。

ABSTRACT

Explaining the predictions of AI models is paramount in safety-critical applications, such as in legal or medical domains. One form of explanation for a prediction is an extractive rationale, i.e., a subset of features of an instance that lead the model to give its prediction on the instance. Previous works on generating extractive rationales usually employ a two-phase model: a selector that selects the most important features (i.e., the rationale) followed by a predictor that makes the prediction based exclusively on the selected features. One disadvantage of these works is that the main signal for learning to select features comes from the comparison of the answers given by the predictor and the ground-truth answers. In this work, we propose to squeeze more information from the predictor via an information calibration method. More precisely, we train two models jointly: one is a typical neural model that solves the task at hand in an accurate but black-box manner, and the other is a selector-predictor model that additionally produces a rationale for its prediction. The first model is used as a guide to the second model. We use an adversarial-based technique to calibrate the information extracted by the two models such that the difference between them is an indicator of the missed or over-selected features. In addition, for natural language tasks, we propose to use a language-model-based regularizer to encourage the extraction of fluent rationales. Experimental results on a sentiment analysis task as well as on three tasks from the legal domain show the effectiveness of our approach to rationale extraction.

研究动机与目标

• 提升在医疗和法律等安全关键领域中黑箱神经模型的可靠性和可解释性。
• 解决先前选择器-预测器模型仅依赖预测准确率作为理由选择学习信号的局限性。
• 通过利用高性能的'引导'模型的信息，缩小最优理由选择的探索空间。
• 确保提取出的理由在语义上流畅且连贯，避免因相邻性而导致的任意标记选择。
• 开发一种联合优化理由质量与预测性能的方法，通过对抗性校准和语言建模实现。

提出的方法

• 训练一个'引导'模型作为该任务的高精度黑箱参考，该模型无需具备可解释性。
• 训练一个选择器-预测器模型，仅基于所选特征进行预测并输出独立的理由。
• 使用对抗性信息校准技术，对齐引导模型与选择器-预测器模型的最终表示向量，最小化其差异。
• 对两个模型均应用信息瓶颈技术，以确保仅保留最小必要信息，促进简洁的理由生成。
• 引入一种基于语言模型的正则化器，通过建模理由序列的可能性，鼓励所选标记形成流畅的连续子短语。
• 使用基于梯度的端到端训练优化整个系统，其中判别器用于区分来自两个模型的表示。

实验结果

研究问题

• RQ1 在黑箱引导模型与选择器-预测器模型之间进行对抗性校准，是否能仅靠预测准确率之外的因素提升理由质量？
• RQ2 在自然语言处理任务中，引入语言模型正则化器如何影响所提取理由的流畅性与连贯性？
• RQ3 与最先进基线方法相比，所提出方法在理由提取的精确率和召回率方面提升了多少？
• RQ4 该方法能否在不同领域（如情感分析和法律判决预测）中泛化，同时保持高预测准确率？
• RQ5 信息瓶颈组件是否能有效减少过拟合和冗余特征选择？

主要发现

• 所提方法显著提升了理由提取性能，在情感分析和法律判决任务上均优于以往最先进模型，实现了更高的精确率和召回率。
• 基于语言模型的正则化器有效促进了理由的流畅性与连贯性，通过抑制孤立或非连续标记的选择。
• 对抗性信息校准使选择器-预测器模型能够借助引导模型的高质量表示，学习到更准确、更相关的特征选择。
• 该方法在保持甚至提升预测准确率的同时，显著增强了可解释性，展示了在性能与可解释性之间强大权衡的缓解。
• 在法律判决任务上的人工评估确认，该方法生成的理由在语义上更有意义，且比基线模型更接近人工标注的理由。
• 消融研究显示，对抗性校准与语言模型正则化器均对整体性能提升有显著贡献。