[論文レビュー] DALEX: explainers for complex predictive models

Przemysław Biecek|arXiv (Cornell University)|Jun 23, 2018

Explainable Artificial Intelligence (XAI)参考文献 11被引用数 15

ひとこと要約

この論文は、Rにおける一貫したモデル探索の文法を用いて、複雑な予測モデルの解釈を可能にするモデルに依存しないフレームワークDALEXを紹介する。局所的およびグローバルな解釈ツール—例えば、Ceteris Paribusプロット、Break Downプロット、Permutation Importance—を提供し、個々の予測、変数の重要性、モデルのパフォーマンスの解釈を可能にするとともに、主要な機械学習フレームワーク間でのモデル比較と可視化を支援する。

ABSTRACT

Predictive modeling is invaded by elastic, yet complex methods such as neural networks or ensembles (model stacking, boosting or bagging). Such methods are usually described by a large number of parameters or hyper parameters - a price that one needs to pay for elasticity. The very number of parameters makes models hard to understand. This paper describes a consistent collection of explainers for predictive models, a.k.a. black boxes. Each explainer is a technique for exploration of a black box model. Presented approaches are model-agnostic, what means that they extract useful information from any predictive method despite its internal structure. Each explainer is linked with a specific aspect of a model. Some are useful in decomposing predictions, some serve better in understanding performance, while others are useful in understanding importance and conditional responses of a particular variable. Every explainer presented in this paper works for a single model or for a collection of models. In the latter case, models can be compared against each other. Such comparison helps to find strengths and weaknesses of different approaches and gives additional possibilities for model validation. Presented explainers are implemented in the DALEX package for R. They are based on a uniform standardized grammar of model exploration which may be easily extended. The current implementation supports the most popular frameworks for classification and regression.

研究の動機と目的

• ランダムフォレストや勾配ブースティングマシンのような、高精度な複雑な予測モデルにおける解釈可能性の課題に対処すること。
• 内部構造に依存せずに、ブラックボックスモデルを一貫的かつ拡張可能なフレームワークで解釈するためのものを作ること。
• 体系的な解釈ツールを通じて、モデルの妥当性検証、ドメイン知識の統合、バイアスやパフォーマンスのギャップの特定を支援すること。
• 複数のモデルを同じ解釈スケールで比較できることで、モデル選択と改善を容易にすること。
• 数値的・視覚的・比較的分析を可能にする、一貫性のある標準化されたモデル探索の文法を提供すること。

提案手法

• 内部アーキテクチャにかかわらず、あらゆる予測モデルに適用可能なモデルに依存しない解釈アプローチを提案する。
• 局所的予測安定性のためのCeteris Paribusプロット、変数寄与度のためのBreak Downプロット、グローバルな特徴の関連性のためのPermutation Importanceを含む、一連の解釈ツールを導入する。
• 数値要約、可視化、モデル比較を統一するための標準化されたモデル探索の文法を採用する。
• Ceteris Paribusプロットにおいて、変数間の比較を可能にするために、分位数変換による正規化を実施する。
• 複数のモデル間で解釈ツールを統一することで、モデル比較を可能にし、強みと弱みの直接的評価を可能にする。
• すべての解釈ツールをオープンソースのDALEX Rパッケージに実装し、caret、mlr、randomForest、xgboostなどの主要フレームワークと互換性を持つ。

実験結果

リサーチクエスチョン

• RQ1 内部構造に依存せずに、高精度な複雑な予測モデルをどのように解釈可能にすることができるか？
• RQ2 入力変数からの寄与度に分解することで、個々の予測を局所的に解釈するための技術は何か？
• RQ3 変数の重要性や条件付き応答といったグローバルなモデル行動を、複数のモデル間でどのように可視化・比較できるか？
• RQ4 モデル解釈ツールは、ドメインの妥当性検証、モデル改善、隠れたバイアスやパフォーマンス低下の検出をどのように支援できるか？
• RQ5 多様な解釈技術を統合する一貫性があり拡張可能なモデル探索の文法を、どのように設計できるか？

主な発見

• DALEXフレームワークは、一貫性のあるモデルに依存しない文法を通じて、あらゆる予測モデルの局所的およびグローバルな解釈を成功裏に可能にした。
• Ceteris Paribusプロットは、特定のアパートについて、変数「surface」がモデル予測に最も大きな影響を与えていることを明らかにしたのに対し、「construction year」は最小限の影響であった。
• Break Downプロットは、線形モデルおよびランダムフォレストモデルの両方において、「district = Srodmiescie」が予測値の上昇に最も寄与していることを示している。
• ランダムフォレストモデルでは、「surface」が予測に与える負の影響が線形モデルよりも強く、モデル固有の挙動が顕著に現れている。
• Permutationベースの変数重要度は、変数をシャッフルした際の予測の変化を測定することで、最も影響力のある変数を特定し、間隔が長いほど重要度が高いことを示している。
• 共通の解釈ツールを用いたモデル比較により、性能の差異や構造的洞察を直接評価することができた。