[论文解读] Selective Question Answering under Domain Shift

Amita Kamath, Robin Jia+1 more|arXiv (Cornell University)|Jun 16, 2020

Topic Modeling参考文献 52被引用 5

一句话总结

本文提出在领域分布变化下的选择性问答，其中问答模型必须对域外（OOD）输入进行回避，同时保持高准确率。该方法引入一个基于域内数据和已知域外数据训练的校准器，以纠正模型在域外样本上的过度自信问题，实现了在80%准确率下56.1%的覆盖率，显著优于MaxProb及其他基线方法。

ABSTRACT

To avoid giving wrong answers, question answering (QA) models need to know when to abstain from answering. Moreover, users often ask questions that diverge from the model's training data, making errors more likely and thus abstention more critical. In this work, we propose the setting of selective question answering under domain shift, in which a QA model is tested on a mixture of in-domain and out-of-domain data, and must answer (i.e., not abstain on) as many questions as possible while maintaining high accuracy. Abstention policies based solely on the model's softmax probabilities fare poorly, since models are overconfident on out-of-domain inputs. Instead, we train a calibrator to identify inputs on which the QA model errs, and abstain when it predicts an error is likely. Crucially, the calibrator benefits from observing the model's behavior on out-of-domain data, even if from a different domain than the test data. We combine this method with a SQuAD-trained QA model and evaluate on mixtures of SQuAD and five other QA datasets. Our method answers 56% of questions while maintaining 80% accuracy; in contrast, directly using the model's probabilities only answers 48% at 80% accuracy.

研究动机与目标

• 解决问答模型在真实部署中常见于域外（OOD）输入时产生错误的挑战。
• 通过使模型在不确定时能够回避，改进选择性预测，尤其在标准置信度估计失效的域外数据上。
• 开发一种框架，仅使用少量已知域外数据进行校准，即可泛化至未知的域外分布。
• 证明在不同分布的域外数据上训练的校准器，即使测试域外分布与训练数据不同，仍优于仅在域内数据上训练的校准器。
• 为必须在混合域内与域外输入中稳健运行的真实问答系统提供实用解决方案。

提出的方法

• 仅在域内数据（如SQuAD）上训练问答模型，以建立基础模型。
• 训练一个独立的校准器——随机森林分类器——基于域内与已知域外数据的混合数据，预测问答模型在给定输入上可能正确的概率。
• 以模型的Softmax输出和输入特征作为校准器的输入，学习一个基于预测错误概率的回避阈值。
• 将校准后的系统应用于由域内与未知域外数据均匀混合的测试集，当校准器预测高错误概率时，模型选择回避。
• 优化回避阈值，以在保证回答问题准确率达到80%的前提下最大化覆盖率。
• 使用与测试域外数据分布不同的已知域外数据，以提升模型在未知域外数据上的泛化能力。

实验结果

研究问题

• RQ1 在已知域外数据上训练的校准器，是否能提升在未知域外数据上的选择性问答性能？
• RQ2 模型在域外输入上过度自信，如何影响基于标准置信度的回避方法（如MaxProb）？
• RQ3 在测试数据分布与训练域外数据不同时，使用不同分布的域外数据是否仍能提升校准器在领域分布变化场景下的性能？
• RQ4 在校准器与MaxProb在不同域内与域外数据比例的测试数据中，性能表现如何比较？
• RQ5 当测试分布未知且与训练域外数据分布不同时，校准器在域外数据上的泛化能力有多强？

主要发现

• 所提出的校准器在SQuAD与未知域外数据的混合测试集上，实现了80%准确率下56.1%的覆盖率，显著优于MaxProb（在相同准确率下仅48.2%的覆盖率）。
• MaxProb在混合设置中表现不佳，原因在于其在域外输入上存在过度自信问题，尽管其在仅含域内数据的设置中表现良好。
• 在校准器的训练中使用域内与已知域外数据的混合数据，可有效提升其对未知域外分布的泛化能力，即使已知域外数据来自与测试域外数据不同的领域。
• 当测试集为域内与域外数据的平衡混合时，校准器相较于MaxProb的性能优势最为显著，而在极端情况（纯域内或纯域外）下性能差距缩小。
• 在校准器可访问未知域外数据的测试集中，其AUC达到17.87，优于MaxProb的16.35，尽管该设置并非重点，因其假设已知测试域外数据的分布。
• 该方法对分布偏移具有鲁棒性，能有效泛化至未知域外数据，表明即使来自不同领域的域外数据，仍能提供有价值的校准信号。