[論文レビュー] Refining Neural Networks with Compositional Explanations.

Huihan Yao, Ying Chen+3 more|arXiv (Cornell University)|Mar 18, 2021

Explainable Artificial Intelligence (XAI)被引用数 3

ひとこと要約

本稿では、バイアスのかかっているデータセットにおける誤った相関関係を是正するため、人間が提供する構成的説明を用いてニューラルネットワークを精錬する手法を提案する。誤ったパターンや特徴の相互作用に関する一般化可能なルールを組み込むことで、テキスト分類タスクにおける未観測のターゲットドメインでもモデルの頑健性と性能が向上する。

ABSTRACT

Neural networks are prone to learning spurious correlations from biased datasets, and are thus vulnerable when making inferences in a new target domain. Prior work reveals spurious patterns via post-hoc model explanations which compute the importance of input features, and further eliminates the unintended model behaviors by regularizing importance scores with human knowledge. However, such regularization technique lacks flexibility and coverage, since only importance scores towards a pre-defined list of features are adjusted, while more complex human knowledge such as feature interaction and pattern generalization can hardly be incorporated. In this work, we propose to refine a learned model by collecting human-provided compositional explanations on the models' failure cases. By describing generalizable rules about spurious patterns in the explanation, more training examples can be matched and regularized, tackling the challenge of regularization coverage. We additionally introduce a regularization term for feature interaction to support more complex human rationale in refining the model. We demonstrate the effectiveness of the proposed approach on two text classification tasks by showing improved performance in target domain after refinement.

研究の動機と目的

• 事前に定義された特徴の重要度スコアのみを調整する従来の正則化手法の限界を解消し、複雑な人間の知識をカバーしない点を改善する。
• 誤ったパターンに関する一般化可能なルールを記述する構成的説明を捉えることで、モデルの一般化性能を向上させる。
• 正則化に特徴の相互作用を組み込み、より複雑な人間の推論をモデル精錬の指針とする。
• 人間が提供した失敗事例の説明を活用することで、分布外設定におけるモデルの頑健性を向上させる。
• 実世界のテキスト分類タスクにおいて、ターゲットドメインでの性能向上を示す、本手法の有効性を実証する。

提案手法

• モデルの失敗事例に対して人間が提供した構成的説明を収集し、学習データ内の誤ったパターンを同定する。
• 人間の説明から導かれた一般化可能なルールと訓練例を一致させる正則化項を定式化し、固定された特徴リストを超えるカバレッジを向上させる。
• 人間の推論に記述された特徴間の複雑な依存関係をモデル化するため、特徴の相互作用を正則化するコンponentを導入する。
• 構成的説明に基づく正則化をモデルの学習プロセスに統合し、予測を精錬し、誤った相関関係への依存を低減する。
• 精錬されたモデルを用いて、誤った相関関係が顕著なターゲットドメインデータでの性能を向上させる。
• 後処理の説明手法を活用し、失敗事例を特定し、人間が提供する構成的ルールの収集を支援する。

実験結果

リサーチクエスチョン

• RQ1 構成的説明を組み込むことで、固定された特徴重要度の調整を超えた正則化のカバレッジと有効性が向上するか？
• RQ2 正則化に特徴の相互作用ルールを組み込むと、分布外設定におけるモデルの頑健性にどのような影響を与えるか？
• RQ3 人間の説明から導かれた一般化可能なルールは、バイアスのかかっているデータセットにおける誤った相関関係への依存をどの程度低減できるか？
• RQ4 提案手法は、ターゲットドメインのテキスト分類タスクで測定可能な性能向上をもたらすか？
• RQ5 失敗事例の説明は、スケーラブルな正則化信号に効果的に変換可能か？

主な発見

• 精錬後、ターゲットドメインのテキスト分類タスクにおけるモデル性能が向上し、頑健性が向上していることが示された。
• 構成的説明を組み込むことで、従来の特徴重要度ベースの手法に比べ、より広範な訓練例に対して正則化が可能になった。
• 特徴の相互作用を正則化に組み込むことで、単一特徴ルールでは捉えきれない複雑な誤ったパターンの処理が改善された。
• 人間が提供した一般化可能なルールを活用することで、モデルが誤った相関関係への依存を効果的に低減した。
• 精錬プロセスにより、分布外データへの一般化性能が向上し、未観測ドメインでの性能向上が裏付けられた。
• 限られた数の失敗事例のアノテーションでも本手法は有効であり、実世界の設定へのスケーラビリティを示した。