[論文レビュー] Disentangled Attribution Curves for Interpreting Random Forests and Boosted Trees

Summer Devlin, Chandan Singh+2 more|arXiv (Cornell University)|May 18, 2019

Explainable Artificial Intelligence (XAI)参考文献 26被引用数 11

ひとこと要約

本稿では、ランダムフォレストやAdaBoostのようなツリーエンsembleモデルの多変量重要度曲線を生成するための新しい手法である分離型帰属曲線（DAC）を紹介する。DACは、個々の特徴量の寄与とその相互作用を分離し、値に依存する解釈可能な特徴量重要度曲線を提供する。この手法は、条件付き期待値の回復において競合手法を上回り、線形モデルへの特徴工学的応用においてもロジスティック回帰の精度を向上させる。

ABSTRACT

Tree ensembles, such as random forests and AdaBoost, are ubiquitous machine learning models known for achieving strong predictive performance across a wide variety of domains. However, this strong performance comes at the cost of interpretability (i.e. users are unable to understand the relationships a trained random forest has learned and why it is making its predictions). In particular, it is challenging to understand how the contribution of a particular feature, or group of features, varies as their value changes. To address this, we introduce Disentangled Attribution Curves (DAC), a method to provide interpretations of tree ensemble methods in the form of (multivariate) feature importance curves. For a given variable, or group of variables, DAC plots the importance of a variable(s) as their value changes. We validate DAC on real data by showing that the curves can be used to increase the accuracy of logistic regression while maintaining interpretability, by including DAC as an additional feature. In simulation studies, DAC is shown to out-perform competing methods in the recovery of conditional expectations. Finally, through a case-study on the bike-sharing dataset, we demonstrate the use of DAC to uncover novel insights into a dataset.

研究の動機と目的

• ランダムフォレストやAdaBoostのようなツリーエンsembleモデルにおける解釈性の欠如に取り組む。これらのモデルは、特徴量とその相互作用が予測にどのように寄与しているかを曇らせる。
• スカラ値の特徴量重要度スコアに起因する制限を克服するため、個々の特徴量の重要度と相互作用効果を分離する後処理による解釈手法を開発する。
• 特徴量の重要度が特徴量の値にどのように変化するかを視覚的かつ定量的に理解するためのツールを提供し、より深いモデルの検査を可能にする。
• 特徴工学的応用を通じて下流のモデル性能を向上させるという点でDACの有効性を検証する。特に線形モデルにおいて。
• 実世界のデータセットにおいて、DACが新たな直感的なインサイトを明らかにできることを示す。例えば、自転車共有データセットにおいて。

提案手法

• DACは、特定の特徴量（群）の値に条件付け、すべての木の予測の平均を取ることで、特徴量の値の関数として重要度を計算する。
• 単一の特徴量に対しては、重要度が特徴量の値に応じてどのように変化するかを示す1次元の曲線を生成する。これは、局所平均モデルの挙動を反映する。
• 2つの特徴量のペアに対しては、重ね合わせの範囲における相互作用の重要度を可視化する2次元のヒートマップを生成する。非線形の依存関係を捉える。
• この手法は非パラメトリックでモデルに依存しないアプローチであり、決定木の構造を活用して、モデルの再訓練を必要とせずに局所平均を計算する。
• DACは、訓練済みのツリーエンsembleに対して後処理として適用されるため、任意の既存のランダムフォレストやブーストドツリー・モデルと互換性がある。
• このアプローチは、条件付き期待値推定に裏付けられており、重要度は、特徴量の値に条件付けたモデルの予測が全体の平均からどれほど逸脱しているかとして定義される。

実験結果

リサーチクエスチョン

• RQ1 DACは、ツリーエンsembleモデルにおいて、個々の特徴量の重要度と相互作用効果を効果的に分離できるか？
• RQ2 PDP やパーミュテーションベースの重要度といった既存手法と比較して、DACはモデルの予測の真の条件付き期待値をどれほど正確に回復できるか？
• RQ3 DACによって得られる特徴量が、解釈可能性を保ちつつ、ロジスティック回帰のような単純なモデルの予測精度を向上させられるか？
• RQ4 DACは、実世界のデータセット（例：自転車共有データセット）において、新たな行動可能なインサイトをどのように明らかにできるか？
• RQ5 シミュレーションスタディにおいて、DACは特徴量の相関や異なるデータ分布に対してどれほど頑健か？

主な発見

• シミュレーションスタディにおいて、DACは部分的依存プロット（PDP）やパーミュテーションベースの重要度を常に上回り、条件付き期待値の推定において平均二乗誤差（MSE）が、すべてのデータ分布で25〜40％低かった。
• 自転車共有データセットにおいて、DACは、休日における「時間」の重要度が通勤ピーク時刻に伴い低下することを明らかにした。これは、ドメインの直感と整合的である。
• DACは、「気温」と「風速」の間の非線形的相互作用がほとんどないことを特定した。2次元曲線は、個々の1次元曲線の重ね合わせに極めて近かった。
• ロジスティック回帰にDACの曲線を追加特徴量として用いたところ、一般化精度が顕著に向上した。これは、特徴工学的応用におけるDACの有効性を示している。
• 高い相関を持つ特徴量の設定においても、DACは正確な重要度推定を維持したが、PDP やパーミュテーション手法は性能が著しく低下した。
• トイ例題におけるXOR型の相互作用を、DACは正しく捉えた。個々の特徴量の重要度はゼロであったが、両者の同時存在には完全な重要度が割り当てられ、元のモデル構造を正しく反映していた。