[論文レビュー] Are All Spurious Features in Natural Language Alike? An Analysis through a Causal Lens

Nitish Joshi, Xiang Pan+1 more|arXiv (Cornell University)|Oct 25, 2022

Natural Language Processing Techniques被引用数 4

ひとこと要約

本稿は、確率的必要性（PN）と確率的十分性（PS）を用いた因果フレームワークを導入し、NLPにおける2種類の偽の特徴—無関係な特徴（低PN、低PS）と必須な特徴（高PN、低PS）—を区別する。既存のデバイアス化手法は、予測に本質的に必要であるため、必須の偽の特徴に対しては失敗し、それらを除去すると性能が低下する。本稿は、こうした特徴に対しては特化した評価と訓練手法の必要性を提唱する。

ABSTRACT

The term `spurious correlations' has been used in NLP to informally denote any undesirable feature-label correlations. However, a correlation can be undesirable because (i) the feature is irrelevant to the label (e.g. punctuation in a review), or (ii) the feature's effect on the label depends on the context (e.g. negation words in a review), which is ubiquitous in language tasks. In case (i), we want the model to be invariant to the feature, which is neither necessary nor sufficient for prediction. But in case (ii), even an ideal model (e.g. humans) must rely on the feature, since it is necessary (but not sufficient) for prediction. Therefore, a more fine-grained treatment of spurious features is needed to specify the desired model behavior. We formalize this distinction using a causal model and probabilities of necessity and sufficiency, which delineates the causal relations between a feature and a label. We then show that this distinction helps explain results of existing debiasing methods on different spurious features, and demystifies surprising results such as the encoding of spurious features in model representations after debiasing.

研究の動機と目的

• NLPにおける偽の特徴の種類に細分化された区別が不足していること、特に予測に必須である特徴についての問題を解決すること。
• 因果的概念を用いて、無関係な偽の特徴（低PN、低PS）と必須な偽の特徴（高PN、低PS）の区別を形式化すること。
• 現在のデバイアス化手法—特にデータバランス調整と表現デバイアス化—が、ラベルに本質的に依存するため、必須の偽の特徴に対しては効果を発揮しないことを示すこと。
• すべての偽の特徴をモデルの頑健性評価と訓練において均一に扱えるという仮定に疑問を呈すること。
• 特に大規模言語モデル（LLMs）が希少な特徴の組み合わせを処理できる可能性を鑑み、必須の偽の特徴に特化した新たな訓練と評価の枠組みを提唱すること。

提案手法

• 因果モデルを用いて偽の特徴を形式化し、反事後的測度として確率的必要性（PN）と確率的十分性（PS）を定義する。
• PNとPSを用いて偽の特徴を分類する：無関係な特徴（低PN／低PS、例：監督者の名前）と、必須な特徴（高PN／低PS、例：否定語）。
• 必須の偽の特徴は、データバランス調整や表現デバイアス化による分離・除去が、性能低下を引き起こすため、安全に除去または分離できないと提言する。
• 必須の特徴に対する頑健性の評価には、文脈に依存した摂動が必要であり、他の特徴と相互作用することでラベルに影響を与えるからであると主張する。
• 構造的因果モデル（SCM）を用いて、入力特徴、ラベル、交絡要因を表現し、反事後的介入を用いてPNとPSを推定する。
• データバランスによる独立性の強制や、表現デバイアス化による不変性の強制は、高PN特徴では失敗する。なぜなら、それらはデータ生成プロセスにおいて因果的に必須であるからである。

実験結果

リサーチクエスチョン

• RQ1 NLPにおけるすべての偽の特徴が同じ程度に問題であるのか、それともラベルとの因果的関係に差があるのか？
• RQ2 反事後的測度としてのPNとPSを用いて、予測に無関係な偽の特徴（低PN、低PS）と必須な偽の特徴（高PN、低PS）を正式に区別できるか？
• RQ3 データバランス調整や表現デバイアス化といった標準的なデバイアス化手法が、なぜ必須の偽の特徴に対して頑健性を向上させないのか？
• RQ4 必須の偽の特徴と文脈的特徴との相互作用が、モデルの頑健性評価をどのように複雑にするのか？
• RQ5 因果的に必須であるという事実を踏まえると、必須の偽の特徴に適した訓練と評価戦略は何か？

主な発見

• 否定語のような必須の偽の特徴は、高い確率的必要性（PN）を示すが、低い確率的十分性（PS）を示す。つまり、予測に不可欠ではあるが、単独では十分ではない。
• データバランス調整手法は、特徴とラベルの依存関係が相関的ではなく因果的であるため、必須の偽の特徴に対して不変な性能を達成できない。
• 表現デバイアス化手法は、正しい予測に不可欠な特徴を除去するため、必須の偽の特徴に適用するとモデル性能が著しく低下する。
• 無関係な特徴と必須な特徴の区別が、一部のデバイアス化手法が表現から偽の特徴を除去しながらも性能を維持できる理由を説明している。
• 反事後的不変性や一様入力特徴（UIF）といった既存の概念は、高PN特徴には適用できない。なぜなら、真のデータ生成プロセスにおいてそれらはラベルに因果的に依存しているからである。
• 大規模言語モデル（LLMs）は、その強力な文脈内学習能力と少数例一般化能力のおかげで、希少または未知の必須偽の特徴の組み合わせを処理する道筋を提供する可能性を秘めている。