[論文レビュー] Scientific Inference With Interpretable Machine Learning: Analyzing Models to Learn About Real-World Phenomena

Timo Freiesleben, Gunnar König+2 more|arXiv (Cornell University)|Jun 11, 2022

Explainable Artificial Intelligence (XAI)参考文献 112被引用数 8

ひとこと要約

本稿では、機械学習モデルの解釈を現実世界の現象と結びつけることで、科学的推論を可能にする解釈可能な機械学習（IML）の特性記述子を提案する。適切に設計されたIML手法が、条件付き確率分布 𝕭(Y∣X) の側面にアクセスでき、認識的不確実性を定量化し、モデル監査と科学的推論を区別できることを示している。条件部分依存プロット（cPDP）を具体的な有効な記述子の例として用いる。

ABSTRACT

To learn about real world phenomena, scientists have traditionally used models with clearly interpretable elements. However, modern machine learning (ML) models, while powerful predictors, lack this direct elementwise interpretability (e.g. neural network weights). Interpretable machine learning (IML) offers a solution by analyzing models holistically to derive interpretations. Yet, current IML research is focused on auditing ML models rather than leveraging them for scientific inference. Our work bridges this gap, presenting a framework for designing IML methods-termed 'property descriptors' -- that illuminate not just the model, but also the phenomenon it represents. We demonstrate that property descriptors, grounded in statistical learning theory, can effectively reveal relevant properties of the joint probability distribution of the observational data. We identify existing IML methods suited for scientific inference and provide a guide for developing new descriptors with quantified epistemic uncertainty. Our framework empowers scientists to harness ML models for inference, and provides directions for future IML research to support scientific understanding.

研究の動機と目的

• 機械学習におけるモデル解釈と現実世界の科学的推論の間の認識的ギャップを解消すること。
• モデル監査（例：モデルデバッグ）と科学的推論（例：現象の性質を理解すること）の違いを明確にすること。
• 現実世界のデータの条件付き確率分布 𝕭(Y∣X) に関する洞察を提供するIML手法の設計フレームワークを構築すること。
• IML解釈における認識的不確実性を定量化し、信頼性の高い科学的結論を支持すること。
• 研究者が単にモデルに反映された性質にとどまらず、科学的に意味のあるIML記述子を構築するのを支援すること。

提案手法

• 現象を確率変数で記述される現実世界のプロセスとして定義し、観測値は未知の結合分布から抽出されるものとする。
• 教師あり機械学習モデルを、i.i.d. データ上で訓練され、未観測の現象の結果を一般化予測する数学的構造として定式化する。
• IML特性記述子を導入する。これは、モデルの挙動そのものではなく、条件付き分布 𝕭(Y∣X) の側面にアクセスすることを目的としたIML手法である。
• 3段階のフレームワークを提案する：(1) X と Y に関する現象に基づく問いを設定し、(2) 有限のデータと機械学習モデルを用いてそれを解き、(3) 解釈における認識的不確実性を定量化する。
• 条件付き部分依存プロット（cPDP）を、条件付き期待値にアクセス可能な有効なIML特性記述子の具体例として用いる。
• 統計的意思決定理論に基づいて手法を根拠づけ、解釈が単なるモデルのアーチファクトではなく、統計的に意味のあるものであることを保証する。

実験結果

リサーチクエスチョン

• RQ1 解釈可能な機械学習手法は、どのようにしてモデル挙動そのものではなく、現実世界の現象に関する洞察を提供するように設計できるか？
• RQ2 IML手法が、背後にあるデータ生成プロセスに関する科学的推論を支援するには、どのような基準を満たすべきか？
• RQ3 IML解釈における認識的不確実性は、信頼性の高い科学的結論を支持するために、どのように定量化できるか？
• RQ4 現在のIML実践は、どのようにしてモデル監査と科学的推論を混同しており、その認識的結果は何か？
• RQ5 cPDP のようなIML記述子は、適切な仮定のもとで、条件付き期待値 𝕭(Y∣X) に有効にアクセスできるか？

主な発見

• 機械学習モデルは要素ごとの表現的同一性を満たさないため、個々のパラメータを直接的に現象の性質として解釈することはできない。
• 適切に設計されたIML特性記述子は、条件付き確率分布 𝕭(Y∣X) の関連する側面にアクセスでき、科学的推論を可能にする。
• 条件付き部分依存プロット（cPDP）は、背後要因の基準が満たされた場合、因果効果を特定できるため、有効なIML特性記述子である。
• 認識的不確実性は統計的意思決定理論を用いて定量化可能であり、これにより解釈の明確さと信頼性が向上する。
• 現在のIML手法はしばしばモデル監査と科学的推論を混同しており、現実世界の現象に関する不適切な主張を生じさせている。
• 因果推論には関連モデルを超える必要がある。不変リスク最小化で訓練された干渉に安定したモデルと組み合わせることで、適切な仮定のもとでIMLが因果効果を反映できる。