[論文レビュー] Contrastive Explanations with Local Foil Trees

Jasper van der Waa, Marcel Robeer+3 more|arXiv (Cornell University)|Jun 19, 2018

Explainable Artificial Intelligence (XAI)参考文献 26被引用数 20

ひとこと要約

本稿では、局所的foilツリー（特定のクラス（foil）とそれ以外を区別するように訓練された意思決定木）を用いたモデルに依存しない対照的解釈手法を提案する。この手法により、データポイントが事実（観測された出力）として分類される理由と、代替出力（foil）として分類されない理由を、最小限のルールベースの差異で特定できる。対照的ルールは、事実リーフルールをfoilリーフルールの相対的補集合として計算することで得られ、多様なモデルやデータセットにおいて高い忠実度を維持する簡潔で人間が理解可能な説明が可能となる。

ABSTRACT

ContrastiveExplanation 0.2

研究の動機と目的

• 解釈可能な機械学習における特徴量の過多問題に取り組むために、対照的推論により説明の長さを短縮すること。
• 「なぜこの結果ではなく、あの結果なのか？」という人間の説明行動を模倣するため、単に「なぜこの結果なのか？」ではなく、対照的問いに答えること。
• 事実とfoilクラスの差を特徴づけるものに限定して、要約されたルールベースの説明を生成する手法を開発すること。
• 局所的に訓練された1対多の意思決定木を用いることで、モデルに依存しない性質を保証すること。

提案手法

• 入力データポイントがfoilクラスに属するか否かを分類する1対多の意思決定木（foilツリー）を訓練する。
• 入力データポイントが属する事実リーフ（fact-leaf）とfoilリーフ（foil-leaf）を特定する。
• ルートからfoilリーフへのパスと、事実リーフへのパスを抽出し、事実ルールをfoilルールの相対的補集合として計算する。
• 対照的説明を、foilパスに含まれるが事実パスに含まれない意思決定ノードの集合として定義し、これによりfoilと事実を区別する特徴を表す。
• 重複するルールを統合して、簡潔で解釈可能な説明を生成する。
• テキストテンプレートを用いて、抽出されたルールセットから自然言語の説明を生成する。

実験結果

リサーチクエスチョン

• RQ1 対照的説明により、特定のfoilクラスと事実クラスの差を特徴づけるものに限定することで、説明の長さを短縮できるか？
• RQ2 多様な機械学習モデルを解釈する際、局所的foilツリーが忠実度と正確性をどれほど維持できるか？
• RQ3 この手法は、下位のモデルの意思決定境界を反映する人間が読めるルールベースの説明を生成できるか？
• RQ4 この手法の性能は、異なるモデルアーキテクチャやデータセットにおいてどのように変化するか？

主な発見

• Iris、Diabetes、Heart Diseaseのデータセットにおいて、平均して1.32～1.94の特徴量にまで説明の長さが短縮され、極めて簡潔な説明が得られた。
• Irisデータセットでは、ニューラルネットワークを用いた場合、F1スコア0.97、忠実度0.87を達成し、ルール抽出の高精度を示した。
• Diabetesデータセットでは、ロジスティック回帰やSVMを含むすべてのモデルが、F1スコア1.00を達成し、モデル間で一貫したルール抽出が可能であった。
• すべてのモデルとデータセットにおいて、忠実度（0.86～0.99）と正確性（0.86～0.99）が高く維持されたことから、モデルに依存しない性質が確認された。
• 平均的な説明時間は0.005～0.106秒の範囲にあり、計算効率が優れていることが示された。
• 対話例では、Irisデータセットに対して2ノードのルール説明を生成した：'がく幅 ≤ 0.8 かつ がく幅 > 3.3'（VersicolorとSetosaを区別するため）