[論文レビュー] Teaching Meaningful Explanations

Noel Codella, Michael Hind+6 more|arXiv (Cornell University)|May 29, 2018

Explainable Artificial Intelligence (XAI)参考文献 35被引用数 10

ひとこと要約

本論文は、特徴量とラベルに加えて人間が得た説明を含む拡張されたデータセットで訓練される機械学習モデルを用いる、新しいパラダイム—データによる説明の指導（TED）—を提案する。ラベルと説明の両方を同時に学習することで、説明が最終ユーザーのドメイン知識および認知的複雑さに適合するよう保証され、メラノーマ、画像の美的価値、嗅覚認識を含む多様なデータセットにおいて、モデルの解釈可能性と、一部のケースでは精度が向上する。

ABSTRACT

The adoption of machine learning in high-stakes applications such as healthcare and law has lagged in part because predictions are not accompanied by explanations comprehensible to the domain user, who often holds the ultimate responsibility for decisions and outcomes. In this paper, we propose an approach to generate such explanations in which training data is augmented to include, in addition to features and labels, explanations elicited from domain users. A joint model is then learned to produce both labels and explanations from the input features. This simple idea ensures that explanations are tailored to the complexity expectations and domain knowledge of the consumer. Evaluation spans multiple modeling techniques on a game dataset, a (visual) aesthetics dataset, a chemical odor dataset and a Melanoma dataset showing that our approach is generalizable across domains and algorithms. Results demonstrate that meaningful explanations can be reliably taught to machine learning algorithms, and in some cases, also improve modeling accuracy.

研究の動機と目的

• 医療や法的分野などのハイリスクなMLアプリケーションにおける、ユーザーが理解可能な説明の欠如に対処すること。
• 説明が最終ユーザーのドメイン知識および認知的複雑さに適合することを保証すること。
• 意味的かつ実行可能であるような説明を生成できる汎用的なフレームワークを開発すること。
• 訓練中に人間が得た説明を組み込むことで、説明の質と予測性能の両方が向上することを実証すること。

提案手法

• 特徴量とラベルに加えて人間が得た説明を訓練データに追加し、ラベルと説明の両方を同時に予測するための共同学習目的を構築すること。
• 予測精度と説明空間におけるk近傍法のヒト的関連性を最適化するため、共有埋め込み空間を学習するペairwise損失関数を用いること。
• 学習された埋め込み空間上でk近傍法（k-NN）検索を実行し、特徴空間および説明空間の両方において類似性に基づいて、新しい入力の説明を推論すること。
• ラベルと説明を入力特徴量から同時に予測する共有モデルアーキテクチャを用いたマルチタスク学習の設定を採用すること。
• 公開データセット（例：美的価値、臭い）に既存の属性アノテーションを代理の説明として活用し、新たなデータ収集を必要とせずにモデルを学習させること。
• 予測精度と取得された近傍の包括的ヒト的関連性の両立を最適化する埋め込み目的を最適化すること。

実験結果

リサーチクエスチョン

• RQ1 ドメインユーザーから直接得た説明は、意味的でユーザーに合わせた説明を生成する機械学習モデルを訓練するために効果的に使用できるか？
• RQ2 訓練中に人間が得た説明を組み込むことで、標準的な教師あり学習を上回るモデル性能が向上するか？
• RQ3 ラベルと説明の共同学習は、専門外のユーザーにとっての予測の解釈可能性と信頼性にどのように影響するか？
• RQ4 提案手法は、画像の美的価値、化学的臭覚認識、医療診断といった多様な分野に一般化可能か？

主な発見

• ペアワイズE + k-NNアプローチは、すべてのデータセットでターゲットラベルYの予測精度が最も高く、微細な説明の監視が予測性能を向上させることを示している。
• メラノーマデータセットでは、ラベル予測精度が向上するとともに、説明予測の平均絶対誤差（MAE）も低減しており、性能向上の二重効果が確認された。
• ペアワイズY + k-NNアプローチは、Y予測においてベースラインk-NN手法を上回り、説明に配慮した類似性がラベル一般化を改善することを示している。
• 嗅覚データセットでは、ペアワイズ損失に基づくニューラルネットワークがマルチタスク線形回帰を上回り、説明に配慮した学習における非線形モデル化の利点が浮き彫りになった。
• TEDのk-NN実装では、ユーザーが検索結果にインタラクトする過程で自然に説明空間における類似性のシグナルが得られるため、一部のケースでは追加のラベリング作業が不要であった。
• 本手法は、4つの異なるデータセットにおいて、説明の質と予測精度の両方で一貫した向上を示しており、その汎用性が確認された。