[論文レビュー] MAGIX: Model Agnostic Globally Interpretable Explanations

Nikaash Puri, Piyush Gupta+3 more|arXiv (Cornell University)|Jun 22, 2017

Explainable Artificial Intelligence (XAI)参考文献 24被引用数 38

ひとこと要約

MAGIXは、進化したif-thenルールを用いて、ブラックボックス分類モデルをモデルに依存しない、グローバルに解釈可能な方法で説明する手法を導入する。個別予測に対する類似度抽出と遺伝的アルゴリズムを組み合わせることで、正確で高カバレッジのルール集合を生成し、モデルの挙動を正確に再現する。ベンチマークデータセットでは、最大96.66％の再現精度を達成した。

ABSTRACT

Explaining the behavior of a black box machine learning model at the instance level is useful for building trust. However, it is also important to understand how the model behaves globally. Such an understanding provides insight into both the data on which the model was trained and the patterns that it learned. We present here an approach that learns if-then rules to globally explain the behavior of black box machine learning models that have been used to solve classification problems. The approach works by first extracting conditions that were important at the instance level and then evolving rules through a genetic algorithm with an appropriate fitness function. Collectively, these rules represent the patterns followed by the model for decisioning and are useful for understanding its behavior. We demonstrate the validity and usefulness of the approach by interpreting black box models created using publicly available data sets as well as a private digital marketing data set.

研究の動機と目的

• ブラックボックス分類モデルに対して、モデルに依存せず人間が読みやすいグローバルな解釈手法を開発すること。
• 特にデジタルマーケティング分野の実務家が、直感的なif-thenルールを通じて複雑なモデルの挙動を理解できるようにすること。
• モデル固有の内部構造に依存せずに、グローバルな意思決定パターンを捉えるスケーラブルで汎用性の高いアプローチを構築すること。
• 医療、金融、および独自のデジタルマーケティングデータを含む多様なデータセット上で、手法の有効性を検証すること。
• 異なる手法間でルールベースの説明の質を公平に比較できるよう、新しい評価指標「Imitation@K」を導入すること。

提案手法

• 個々の予測に適用した類似度ベースの手法を用いて、インスタンスレベルでの重要条件を抽出する。
• カバレッジと正確性の両方を最適化するように、遺伝的アルゴリズムを用いてif-thenルールの集合を進化させる。
• ルールのカバレッジと正確性のバランスを取るためのフィットネス関数を定義する。
• 進化したルールからプロキシモデルを構築する：インスタンスをカバーする最も正確なルールに基づいて分類し、同率の場合にはランダムに決定する。
• 元のブラックボックスモデルとの予測を比較することで、ルール集合の品質を評価する。
• ルール集合のサイズが異なる場合に、元のモデルをどの程度正確に再現できるかを評価するため、Imitation@K指標を導入する。

実験結果

リサーチクエスチョン

• RQ1 モデルに依存しないグローバルな解釈手法は、複雑なブラックボックス分類器の意思決定パターンを正確に反映するルール集合を生成できるか？
• RQ2 進化したルール集合は、多様なデータ分布をカバーしつつ、高い正確性を維持できるか？
• RQ3 提案されたImitation@K指標は、異なるルールベースの説明手法の忠実度を効果的に評価・比較できるか？
• RQ4 デジタルマーケティングのような実世界の応用において、解釈可能性がユーザーの信頼に重要である分野にスケーラブルに適用できるか？
• RQ5 既存のグローバルな説明手法と比較して、進化したルールはカバレッジ、正確性、忠実度の観点でどのように優れているか？

主な発見

• Irisデータセットでは、10個のルールで96.66％の再現精度を達成し、元のモデルの挙動に対する高い忠実度を示した。
• 乳がんデータセットでは、20個のルールで95.71％の再現精度を達成し、医療分野のデータに対しても高い性能を示した。
• バンクノート認証データセットでは、K=20の時点で96.00％の再現精度を示し、異なるデータタイプに対しても堅牢であることを確認した。
• 自動車評価データセットでは、K=20の時点で89.01％の再現精度を達成し、複雑な多クラス問題に対しても効果的なルール生成が可能であることを示した。
• Imitation@K指標は、カバレッジが低いか正確性が低いルール集合に対して適切にペナルティを科し、バランスの取れた性能評価を可能にした。
• 実世界のデジタルマーケティングデータを用いた検証により、複雑なパーソナライゼーションモデルを説明する上で、本手法の実用的有用性が裏付けられた。