[論文レビュー] Efficient Search for Diverse Coherent Explanations

Chris Russell|arXiv (Cornell University)|Jan 2, 2019

Explainable Artificial Intelligence (XAI)参考文献 22被引用数 7

ひとこと要約

本稿では、ロジスティック回帰などのワンホットエンコード特徴量を備えた混合データ線形分類器に対して、一貫性があり多様な対応的説明を能率的に生成するための混合整数プログラミングアプローチを提案する。新規の「混合ポリトープ」制約を用いることで、説明が有効なデータ構造に戻るよう保証する。この手法はFICOのような実世界の金融データセットにもスケーリング可能であり、ブルートフォースな全列挙に比べ、多様で安定的かつ実行可能な説明を生成し、モデルの挙動を明らかにするとともに意思決定の透明性を高める。

ABSTRACT

This paper proposes new search algorithms for counterfactual explanations based upon mixed integer programming. We are concerned with complex data in which variables may take any value from a contiguous range or an additional set of discrete states. We propose a novel set of constraints that we refer to as a "mixed polytope" and show how this can be used with an integer programming solver to efficiently find coherent counterfactual explanations i.e. solutions that are guaranteed to map back onto the underlying data structure, while avoiding the need for brute-force enumeration. We also look at the problem of diverse explanations and show how these can be generated within our framework.

研究の動機と目的

• 実世界の機械学習、特に金融意思決定システムに見られるような混合データ設定において、一貫性がありスケーラブルで信頼できる対応的説明を生成するための方法の不足に取り組む。
• ブルートフォースな全列挙を避けながら、対応的説明が有効なデータ構造（例：ワンホットエンコードされた特徴量）に戻ることを保証するフレームワークを開発する。
• 単一の、おそらく制限的な結果に依存しすぎない、明確でスケーラブルな多様な対応的説明を生成するための具体的な手法を導入する。
• 高リスク意思決定において、説明の自動生成を可能にし、責任の所在、透明性、ユーザーの理解を支援する。

提案手法

• 連続変数とワンホットエンコードされた変数を含む混合整数データの論理的構造をモデル化するための「混合ポリトープ」制約を導入し、生成された対応的説明が有効かつ一貫性を持つことを保証する。
• 混合整数プログラミング（MIP）ソルバを用いて、摂動を最小限に抑えつつ混合ポリトープ制約を満たす対応的説明を能率的に探索する。
• 逐次的に以前に発見された解を除外する追加制約を課すことで、グリーディで反復的な手続きにより多様な対応的説明を生成する。
• 変数のモデル意思決定への影響が大きい順に変更を優先するために、重み付きℓ₁ノルム正則化を採用し、解釈可能性を向上させるとともに重複を減らす。
• 動的制約調整により、複数の対応的説明間で同じ変数の変更を繰り返さないよう、多様性基準をMIPフレームワークに統合する。
• FICO説明可能性データセットおよび標準ベンチマーク問題を用いて手法を検証し、スケーラビリティと一貫性の両面で有効性を示した。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、混合データ線形モデルに対して、一貫性（すなわち、有効なデータ構造に戻る）があり、効率的（ブルートフォース探索を避ける）な対応的説明を生成できるか？
• RQ2 ワンホットまたはダミー変数エンコードされた特徴量において、対応的説明が有効なまま保たれるために必要な制約は何か？
• RQ3 単一の、おそらく実行不能な結果に依存しすぎない、体系的な多様な対応的説明を生成するにはどうすればよいか？
• RQ4 多様な対応的説明は、与信スコアリングのような高リスク意思決定において、ユーザーの理解力と実行可能性をどの程度向上させるか？
• RQ5 完全に自動化されたMIPベースの手法は、ブルートフォースやヒューリスティック手法に比べ、スケーラビリティと説明品質の面で優れているか？

主な発見

• 提案された混合ポリトープ制約は、特徴量がワンホットエンコードされている場合でさえ、すべての生成された対応的説明が一貫性を持ち、有効なデータ構造に戻ることを確実にした。
• MIPベースのアプローチは、FICOのような実世界のデータセットに対しても効果的にスケーリング可能であり、混合データ問題におけるブルートフォース全列挙の非可能性を回避した。
• 反復的かつ制約ベースの手法により生成された多様な対応的説明は、1回の支払い遅延が回復不能ではないことを明らかにした。他の分野での強力なパフォーマンスが補填できることが示された。
• 同様の入力に対して一貫性があり安定した説明が得られ、長期的なユーザー信頼と透明性を支える。
• 重み付きℓ₁ノルム正則化は、単純なスパarsity制約に比べ、より情報量が多く、重複の少ない説明をもたらした。
• 外部リスク要因で負の値（例：-9）を持つものも、実際には重要な対応的説明であることが判明した。これは、元の重み可視化では直感的でないが、実際には重要であることを示している。