[論文レビュー] survex: an R package for explaining machine learning survival models

Mikołaj Spytek, Mateusz Krzyziński+4 more|arXiv (Cornell University)|Aug 30, 2023

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

survex Rパッケージは、機械学習生存モデルの解釈を可能にする包括的なフレームワークを提供する。XAI（説明可能なAI）技術を用いて、局所的およびグローバルな解釈性を実現する手法（例：SurvSHAP(t) や SurvLIME）を支援する。モデル診断、変数の重要度、可視化をサポートし、医療・生命医学分野における透明性と信頼性を向上させる。

ABSTRACT

Due to their flexibility and superior performance, machine learning models frequently complement and outperform traditional statistical survival models. However, their widespread adoption is hindered by a lack of user-friendly tools to explain their internal operations and prediction rationales. To tackle this issue, we introduce the survex R package, which provides a cohesive framework for explaining any survival model by applying explainable artificial intelligence techniques. The capabilities of the proposed software encompass understanding and diagnosing survival models, which can lead to their improvement. By revealing insights into the decision-making process, such as variable effects and importances, survex enables the assessment of model reliability and the detection of biases. Thus, transparency and responsibility may be promoted in sensitive areas, such as biomedical research and healthcare applications.

研究の動機と目的

• 生物医学的および医療分野におけるブラックボックスな機械学習生存モデルを解釈するための使いやすいツールの不足に対処すること。
• 生存分析における個々の予測とグローバルなモデル行動の両方を解釈するための統合的かつ拡張可能なフレームワークを提供すること。
• 打ち切りを伴う生存モデルに特に適合させた先進的なXAI手法（例：SurvSHAP(t) や SurvLIME）を統合すること。
• 残差分析と性能評価を通じたモデル診断を可能にし、モデルの妥当性確認とバイアス検出を支援すること。
• 変数の効果、重要度、相互作用パターンを明らかにすることで、生存モデルの透明性と責任ある利用を促進すること。

提案手法

• Rにおける複数の生存モデルパッケージ（例：ランダム生存フォレスト、コックスモデル、survivalmodelsを介したディープラーニング）をサポートするモジュール型インターフェースを実装すること。
• SurvSHAP(t) を適用し、生存関数の予測における時間に依存するSHAP値を計算することで、時間軸に沿った変数寄与度の分析を可能にすること。
• 個々の予測の周囲に局所的スチュアコックスモデルをフィットさせ、解釈可能な回帰係数を抽出することで説明を提供するSurvLIMEを用いる。
• 部分従属および蓄積された局所効果プロファイルを生成し、変数が生存予測に与える周辺的影響を可視化すること。
• 2次元プロファイル図をサポートし、変数のペアがモデル出力に与える相互作用効果を検出すること。
• マーティングル、デビアンス、Cox-Snellの残差を含む診断ツールを統合し、モデル品質の評価とキャリブレーション評価を支援すること。

実験結果

リサーチクエスチョン

• RQ1 時間発生と打ち切りを伴う生存データの性質に適合させたXAI技術を用いて、機械学習生存モデルをどのように効果的に解釈できるか。
• RQ2 SurvSHAP(t) と SurvLIME は、多様なデータセットにおいて、個々の生存予測に対して信頼性があり解釈可能な説明をどの程度提供できるか。
• RQ3 部分従属および蓄積された局所効果プロットといったグローバルなモデル解釈は、変数への影響および相互作用効果に関する意味のあるパターンを明らかにできるか。
• RQ4 残差分析などの診断ツールは、生存モデルにおけるモデルキャリブレーションと信頼性の評価をどの程度向上できるか。
• RQ5 survexフレームワークは、臨床的および生物医学的応用における生存モデルの信頼性と透明性をどのように向上できるか。

主な発見

• survexパッケージは、打ち切りを伴う生存モデルの予測に対して、時間に依存するXAI手法（例：SurvSHAP(t) や SurvLIME）を効果的に実装し、解釈可能な説明を可能にした。
• マーティングル、デビアンス、Cox-Snellの残差によるモデル診断により、モデルのキャリブレーションと適合度の堅牢な評価が可能になった。
• 部分従属および2次元プロファイル図は、変数が生存結果に与える非線形効果および相互作用パターンを明らかにし、モデル理解と最適化を支援した。
• SurvSHAP(t) のビー・スワーム図および依存図は、時間軸に沿った変数寄与度を直感的に可視化し、臨床医および研究者による解釈性を向上させた。
• survexは、膵がんリスク予測や病院滞在期間のモデリングを含む実世界の生物医学研究に成功裏に応用され、実用的有用性を示した。
• このパッケージは幅広い生存モデルをサポートしており、将来の手法（例：反事実的説明、競合リスクモデル）に対しても拡張可能である。