[論文レビュー] Uncertainty in Natural Language Processing: Sources, Quantification, and Applications

Mengting Hu, Zhen Zhang+3 more|arXiv (Cornell University)|Jun 5, 2023

Explainable Artificial Intelligence (XAI)被引用数 11

ひとこと要約

NLPの不確実性に関する包括的な調査で、入力・システム・出力の要因を概説し、推定方法を調べ、応用と課題をレビューする。

ABSTRACT

As a main field of artificial intelligence, natural language processing (NLP) has achieved remarkable success via deep neural networks. Plenty of NLP tasks have been addressed in a unified manner, with various tasks being associated with each other through sharing the same paradigm. However, neural networks are black boxes and rely on probability computation. Making mistakes is inevitable. Therefore, estimating the reliability and trustworthiness (in other words, uncertainty) of neural networks becomes a key research direction, which plays a crucial role in reducing models' risks and making better decisions. Therefore, in this survey, we provide a comprehensive review of uncertainty-relevant works in the NLP field. Considering the data and paradigms characteristics, we first categorize the sources of uncertainty in natural language into three types, including input, system, and output. Then, we systemically review uncertainty quantification approaches and the main applications. Finally, we discuss the challenges of uncertainty estimation in NLP and discuss potential future directions, taking into account recent trends in the field. Though there have been a few surveys about uncertainty estimation, our work is the first to review uncertainty from the NLP perspective.

研究の動機と目的

• 入力・システム・出力の各段階におけるNLPの不確実性の源を特定し、分類する。
• NLPで用いられる既存の不確実性定量化手法をレビューし、それをモデル特性と関連付ける。
• NLPにおける不確実性推定の現状の応用を整理し、課題と今後の方向性について議論する。

提案手法

• NLPシステムの段階（入力・システム・出力）ごとに不確実性の源を分類し、 アレータミック不確実性とエピステミック不確実性を論じる。
• 3つの主要な不確実性推定アプローチをレビューする：キャリブレーションベース、サンプリングベース、分布ベースの手法。
• 典型的な評価指標を概説し、Softmaxベースの指標、温度スケーリング、ラベル平滑化、適合予測（コンフォーマル予測）などのキャリブレーション手法について論じる。
• データフィルタリング/アクション指針、性能・効率の改善、出力品質評価といった応用を総合する。

Figure 1: An illustration of NLP systems applied in the medical domain.

実験結果

リサーチクエスチョン

• RQ1 入力・システム・出力段階におけるNLPシステムの主な不確実性の源は何か？
• RQ2 どの不確実性推定手法がNLPに最も適用可能で、モデル設計とタスク種別とどう関連するか？
• RQ3 分類、系列ラベリング、生成、回帰などのNLPタスクにおいて、不確測性推定手法はどのように適用されているか？
• RQ4 現代のPLMを用いたNLPにおける不確実性推定の主要な課題と今後の方向性は何か？

主な発見

• NLPにおける不確実性は、入力の曖昧さ・システム設計・出力の複雑さが絡み合って生じ、アレータミック成分とエピステミック成分を同時に考慮する必要がある。
• NLPの不確実性推定は、キャリブレーションベース、サンプリングベース、分布ベースの手法に分類でき、それぞれ異なる利点と課題がある。
• Softmax応答、エントロピー、温度スケーリング、ラベルスムージング、適合予測（コンフォーマル予測）などのキャリブレーション手法は、信頼度推定を定量化し、場合によっては補正するのに役立つ。
• 不確実性の応用にはデータフィルタリングとアクション指針、システムの性能/効率の改善、出力品質と信頼性の評価が含まれる。
• 大規模事前学習モデルの出現は、モデルサイズ、学習データのバイアス、ハイパーパラメータの感度に関連する新たな不確実性の課題をもたらす。

Figure 2: Illustration of sources of uncertainty. The figure includes the sources of uncertainty in the interaction of the NLP system. We start from the three processes of Input , System , and Output to analyze the possible causes of each uncertainty. It is worth noting that these three parts are in