[論文レビュー] Learning outside the Black-Box: The pursuit of interpretable models

Jonathan Crabbé, Yao Zhang+2 more|arXiv (Cornell University)|Jan 1, 2020

Model Reduction and Neural Networks被引用数 5

ひとこと要約

本論文は、Meijer G関数をリッジ関数として用いることで、勾配ベース最適化が可能な微分可能関数を用いて、ブラックボックス機械学習モデルの連続的かつグローバルな解釈を生成する新規なアルゴリズムを提案する。この手法により、特徴量の重要度や相互作用を明確に明らかにする高精度でシンプルな解釈が得られ、従来の最先端手法を著しく凌駆する解釈可能性の向上を実現する。

ABSTRACT

Machine Learning has proved its ability to produce accurate models but the deployment of these models outside the machine learning community has been hindered by the difficulties of interpreting these models. This paper proposes an algorithm that produces a continuous global interpretation of any given continuous black-box function. Our algorithm employs a variation of projection pursuit in which the ridge functions are chosen to be Meijer G-functions, rather than the usual polynomial splines. Because Meijer G-functions are differentiable in their parameters, we can tune the parameters of the representation by gradient descent; as a consequence, our algorithm is efficient. Using five familiar data sets from the UCI repository and two familiar machine learning algorithms, we demonstrate that our algorithm produces global interpretations that are both highly accurate and parsimonious (involve a small number of terms). Our interpretations permit easy understanding of the relative importance of features and feature interactions. Our interpretation algorithm represents a leap forward from the previous state of the art.

研究の動機と目的

• 複雑で連続的なブラックボックス機械学習モデルを、グローバルかつ人間が理解可能な形で解釈する課題に取り組むこと。
• 多項式スプラインなどの微分不能な要素に依存する従来の手法の限界を克服すること。
• 勾配降下法最適化が可能となる効率的で微分可能な表現を開発し、モデルの解釈可能性を向上させること。
• 特徴量の重要度と相互作用を明らかにするが、スパースであるが高精度な解釈を生成すること。
• 連続的でグローバルかつ微分可能なモデル解釈を可能にすることで、解釈可能機械学習分野の最先端を前進させること。

提案手法

• 標準的な多項式スプラインの代わりに、Meijer G関数をリッジ関数として用いる投影追求フレームワークを採用する。
• Meijer G関数はそのパラメータに関して微分可能であるため、勾配ベース最適化が可能であるため選定された。
• ブラックボックス関数と解釈可能な近似関数の差を最小化するように、Meijer G関数のパラメータを勾配降下法で最適化する。
• 少数の項を用いてブラックボックス関数のグローバルで連続的な近似を構築し、スパarsityを確保する。
• 学習されたパラメータを通じて、特徴量の寄与度や相互作用に関する解釈可能なインサイトを提供する。
• 本手法は、2つの標準的な機械学習アルゴリズムを用いて5つのUCIデータセットで評価され、スケーラビリティと精度の両面で優れた性能を示した。

実験結果

リサーチクエスチョン

• RQ1 Meijer G関数を用いて、勾配ベース最適化が可能な微分可能な連続的表現を構築できるか？
• RQ2 このような表現は、複雑なブラックボックスモデルを高精度で近似しつつ、スパース性を保てるか？
• RQ3 本手法は、意味のある特徴量の重要度や相互作用効果をどの程度明らかにできるか？
• RQ4 解釈可能性と精度の観点から、既存の最先端手法と比較してどのように優れているか？
• RQ5 本手法は、解釈可能性とパフォーマンスを維持したまま、現実世界のデータセットに対しても効果的にスケーリング可能か？

主な発見

• アルゴリズムは、高精度かつスパースなグローバルな解釈を生成し、わずか少数の項で高い忠実度を達成する。
• 微分可能なMeijer G関数の使用により、勾配降下法による効率的な学習が可能となり、非微分可能な代替手法と比較して計算効率が著しく向上する。
• 本手法は特徴量の重要度と相互作用を効果的に明らかにし、従来の手法と比較して明確な解釈可能性の利点を示す。
• 5つのUCIデータセットにおける実験的評価により、最先端の手法と比較して本手法の解釈可能性と精度の優位性が確認された。
• 多様な現実世界のデータセットおよび機械学習モデルに適用した際、本手法は頑健性とスケーラビリティを示した。
• 得られた解釈は連続的かつグローバルであり、入力空間全体にわたるブラックボックス関数の包括的視覚を提供する。