[論文レビュー] SurvLIME-Inf: A simplified modification of SurvLIME for explanation of machine learning survival models

Lev V. Utkin, Maxim S. Kovalev+1 more|arXiv (Cornell University)|May 5, 2020

Explainable Artificial Intelligence (XAI)参考文献 57被引用数 4

ひとこと要約

本稿では、生存モデルのブラックボックス解釈を目的として、SurvLIMEの簡素化された変種であるSurvLIME-Infを提案する。SurvLIME-Infは、累積ハザード関数間の乖離を測定するために$L_{\infty}$-ノルム（チビシェフ距離）を用いる。説明タスクを線形計画法問題に再定式化することで、SurvLIMEが$L_2$-ノルム最適化に依存するのと異なり、小規模な訓練データセットにおいてより高速で優れた性能を達成する。

ABSTRACT

A new modification of the explanation method SurvLIME called SurvLIME-Inf for explaining machine learning survival models is proposed. The basic idea behind SurvLIME as well as SurvLIME-Inf is to apply the Cox proportional hazards model to approximate the black-box survival model at the local area around a test example. The Cox model is used due to the linear relationship of covariates. In contrast to SurvLIME, the proposed modification uses $L_{\infty }$-norm for defining distances between approximating and approximated cumulative hazard functions. This leads to a simple linear programming problem for determining important features and for explaining the black-box model prediction. Moreover, SurvLIME-Inf outperforms SurvLIME when the training set is very small. Numerical experiments with synthetic and real datasets demonstrate the SurvLIME-Inf efficiency.

研究の動機と目的

• 訓練データが限られている状況においても、ブラックボックス機械学習生存モデルを解釈する課題に対処すること。
• 計算効率とロバスト性の向上を目的として、SurvLIMEの最適化フレームワークを簡素化すること。
• コックス比例ハザードモデルをサロゲートとして用いて、個々の生存予測の局所的、後処理型の説明を可能にすること。
• 累積ハザード関数間の距離測定に$L_{\infty}$-ノルムを活用することで、生存解析における解釈可能性を向上させること。
• モデルの透明性が重要な医療およびリスク評価分野の応用を支援すること。

提案手法

• 本手法は、テストインスタンスにおけるブラックボックス生存モデルの予測を説明するために、局所的サロゲートとしてコックス比例ハザードモデルを用いる。
• テストポイントの周囲に合成インスタンスを生成し、それらの累積ハザード関数をブラックボックスモデルを用いて計算する。
• $L_{\infty}$-ノルム（チビシェフ距離）を用いて、ブラックボックスモデルと近似コックスモデルの累積ハザード関数間の最大絶対差を測定する。
• これにより、説明問題がコックスモデルの係数推定を目的とした線形計画法最適化問題に変換される。
• 本手法はモデルに依存せず、ランダム生存フォレストやディープラーニングモデルを含む任意の生存モデルに適用可能である。
• 本手法は、打ち切り生存結果を伴う合成データおよび実世界のデータセット（Veteran, LUNG, PBC）を用いて検証された。

実験結果

リサーチクエスチョン

• RQ1 SurvLIMEにおける$L_2$-ノルムの代わりに$L_{\infty}$-ノルムを用いることで、説明の正確性と計算効率が向上するか？
• RQ2 訓練データが限られている状況で、SurvLIME-InfはSurvLIMEを上回る性能を示すか？
• RQ3 SurvLIME-Infは、局所的近似において生存関数および累積ハザード関数の形状をどれほど正確に保持できるか？
• RQ4 SurvLIME-Infは、個々の生存予測に対して信頼性があり、解釈可能な特徴量の重要度順位を提供できるか？
• RQ5 SurvLIMEが用いる凸最適化と比較して、SurvLIME-Infの線形計画法定式化はデータの不正確さに対してよりロバストであるか？

主な発見

• SurvLIME-Infは、小規模な訓練データセットでSurvLIMEを顕著に上回り、$n = 10$および$n = 20$の条件下で、モデル近似および真の累積ハザード関数の両方のRMSEが低くなる。
• $n = 10$のとき、$RMSE_{\text{model}}$はSurvLIMEの0.719から0.290に低下し、$RMSE_{\text{true}}$は0.809から0.575に低下する。
• $n = 20$のとき、$RMSE_{\text{model}}$は0.659から0.358に低下し、$RMSE_{\text{true}}$は0.664から0.460に低下する。
• 訓練データセットサイズが増加するにつれて、SurvLIME-Infの性能優位性は薄れ、$n = 30$および$n = 40$で両手法が収束する。
• 実データセット（Veteran, LUNG, PBC）における数値結果から、SurvLIME-Infが正確で視覚的に一貫性のある生存関数近似を生成することが確認された。
• $L_{\infty}$-ノルムの使用により、線形計画法への定式化が可能となり、小規模データ環境における計算の簡素化とスケーラビリティの向上が達成された。