[論文レビュー] Locally Interpretable Models and Effects based on Supervised Partitioning (LIME-SUP)

Linwei Hu, Jie Chen+2 more|arXiv (Cornell University)|Jun 2, 2018

Explainable Artificial Intelligence (XAI)参考文献 16被引用数 41

ひとこと要約

この論文は、局所的に解釈可能なモデリングフレームワークである LIME-SUP を紹介します。監督付き分割（木）を用いて fitted 機械学習モデルを説明し、適合応答またはその導関数をモデル化します。シミュレーションと実データで KLIME との比較を行います。

ABSTRACT

Supervised Machine Learning (SML) algorithms such as Gradient Boosting, Random Forest, and Neural Networks have become popular in recent years due to their increased predictive performance over traditional statistical methods. This is especially true with large data sets (millions or more observations and hundreds to thousands of predictors). However, the complexity of the SML models makes them opaque and hard to interpret without additional tools. There has been a lot of interest recently in developing global and local diagnostics for interpreting and explaining SML models. In this paper, we propose locally interpretable models and effects based on supervised partitioning (trees) referred to as LIME-SUP. This is in contrast with the KLIME approach that is based on clustering the predictor space. We describe LIME-SUP based on fitting trees to the fitted response (LIM-SUP-R) as well as the derivatives of the fitted response (LIME-SUP-D). We compare the results with KLIME and describe its advantages using simulation and real data.

研究の動機と目的

• 大規模データセット上での高性能の監督型学習モデル（GBM、ランダムフォレスト、ニューラルネットワーク）の不透明性に対処する。
• 監督付き分割（木）を用いて局所的に解釈可能なモデルと効果を開発する。
• 二つのバリアントを提供する: LIM-SUP-R (適合応答) と LIME-SUP-D (適合応答の導関数)。
• LIME-SUP を KLIME と比較し、シミュレーションと実データを用いて利点を評価する。

提案手法

• 適合応答に木を適合させて局所的に解釈可能な説明を得る（LIM-SUP-R）。
• 適合応答の導関数に木を適合させて局所的効果を捉える（LIME-SUP-D）。
• 局所的に予測空間をクラスタリングに依存する KLIME アプローチと対比する。
• シミュレーション研究と実データ実験を用いて評価する。

実験結果

リサーチクエスチョン

• RQ1 supervised partitioning が複雑な SML モデルに対して局所的に解釈可能な説明を生み出すことができるか？
• RQ2 LIM-SUP-R と LIME-SUP-D は解釈性と性能の点で KLIME アプローチとどう比較されるか？
• RQ3 適合応答その導関数に対して木ベースの分割を用いる利点は何か？
• RQ4 シミュレーションと実データ実験は KLIME よりも LIME-SUP の実用的利点を示すか？

主な発見

• LIME-SUP は、適合応答およびその導関数に基づく木によって predictor 空間を局所的に解釈可能なモデルを提供する。
• LIME-SUP は KLIME と対比され、シミュレーションおよび実データ実験で特定された利点を強調する。