[论文解读] Evaluating Explanation Methods for Neural Machine Translation

Jierui Li, Lemao Liu+4 more|arXiv (Cornell University)|May 4, 2020

Topic Modeling参考文献 34被引用 4

一句话总结

该论文提出了一种基于保真度的度量方法，通过衡量解释方法提取的最相关源词在在多大程度上能重建神经机器翻译（NMT）模型的预测行为，来评估NMT的解释方法。该方法采用近似优化方法在无需人工标注的情况下估计保真度，实验表明，在六个翻译任务中，预测差异（Pd）在保真度方面优于注意力、梯度范数和加权梯度方法。

ABSTRACT

Recently many efforts have been devoted to interpreting the black-box NMT models, but little progress has been made on metrics to evaluate explanation methods. Word Alignment Error Rate can be used as such a metric that matches human understanding, however, it can not measure explanation methods on those target words that are not aligned to any source word. This paper thereby makes an initial attempt to evaluate explanation methods from an alternative viewpoint. To this end, it proposes a principled metric based on fidelity in regard to the predictive behavior of the NMT model. As the exact computation for this metric is intractable, we employ an efficient approach as its approximation. On six standard translation tasks, we quantitatively evaluate several explanation methods in terms of the proposed metric and we reveal some valuable findings for these explanation methods in our experiments.

研究动机与目标

• 为解决神经机器翻译中解释方法评估缺乏系统化、自动化度量的问题。
• 基于NMT模型预测行为的保真度来评估解释方法，而非依赖人工标注的对齐。
• 开发一种可扩展的、基于近似的方法，用于估计保真度，适用于所有目标词，包括在人工标注中未对齐的词。
• 定量比较多种解释方法——注意力、梯度范数、加权梯度和预测差异——在反映NMT模型行为方面的能力。

提出的方法

• 提出一种基于保真度的系统化评估度量：通过训练基于最相关源词的代理模型，衡量其与NMT模型预测的一致程度。
• 将该度量形式化为一个优化问题，目标是最小化NMT模型与基于选定源词构建的代理模型之间的期望不一致。
• 通过两步机器学习策略近似不可行的精确计算：首先进行经验风险最小化，然后在保留的测试集上进行验证。
• 利用每种解释方法识别出的最相关k个词，构建不同的代理模型架构，以计算近似度量。
• 运用统计学习理论将优化问题转化为标准学习问题，从而实现高效且可扩展的评估。
• 使用困惑度作为模型一致性的代理指标，困惑度越低，表示解释方法的保真度越高。

实验结果

研究问题

• RQ1 如何基于解释方法与模型预测行为的一致性，而非人工标注的对齐，来评估NMT的解释方法？
• RQ2 能否开发一种度量方法，对所有目标词（包括未与任何源词对齐的词）进行解释方法的评估？
• RQ3 注意力、梯度范数、加权梯度和预测差异等不同解释方法在与NMT模型行为一致性的保真度方面如何比较？
• RQ4 所提出的近似度量方法在无需人工标注的情况下，是否能有效且可靠地比较解释方法？

主要发现

• 预测差异（Pd）方法在所有评估的解释方法中保真度最高，优于注意力、梯度范数和加权梯度方法。
• 梯度范数（Ngrad）和预测差异（Pd）均为表现优异的解释方法，其中Pd在重建NMT模型预测方面表现出显著更优的性能。
• 所提出的基于保真度的度量方法成功识别出高质量的解释方法，即使在人工对齐未覆盖的目标词上也有效，而AER无法评估此类情况。
• 所提度量方法（SA）对解释方法的排序在三个不同翻译任务中保持一致，而AER则表现出高度的任务依赖性。
• 评估结果证实，保真度是一种可靠且客观的度量方法，独立于人工判断或任务特定假设。