[論文レビュー] Machine Learning Interpretability: A Science rather than a tool

Abdul Karim, Avinash Mishra+2 more|arXiv (Cornell University)|Jul 18, 2018

Explainable Artificial Intelligence (XAI)参考文献 15被引用数 8

ひとこと要約

本論文は、機械学習の解釈可能性を、ツールやモデルに依存するのではなく、分野固有の問いに答えられる科学的分野として扱うことを提案する。三段階のフレームワーク—統計的（関連性に基づく）、因果的（干渉に基づく）、反事後的（後向き推論）—を導入し、各段階が前の段階を基盤として、より深く信頼性の高い機械学習意思決定の解釈を可能にすることで、解釈可能性を工学的アプローチから科学的アプローチへと発展させる。

ABSTRACT

The term "interpretability" is oftenly used by machine learning researchers each with their own intuitive understanding of it. There is no universal well agreed upon definition of interpretability in machine learning. As any type of science discipline is mainly driven by the set of formulated questions rather than by different tools in that discipline, e.g. astrophysics is the discipline that learns the composition of stars, not as the discipline that use the spectroscopes. Similarly, we propose that machine learning interpretability should be a discipline that answers specific questions related to interpretability. These questions can be of statistical, causal and counterfactual nature. Therefore, there is a need to look into the interpretability problem of machine learning in the context of questions that need to be addressed rather than different tools. We discuss about a hypothetical interpretability framework driven by a question based scientific approach rather than some specific machine learning model. Using a question based notion of interpretability, we can step towards understanding the science of machine learning rather than its engineering. This notion will also help us understanding any specific problem more in depth rather than relying solely on machine learning methods.

研究の動機と目的

• 現在、研究者や文脈によって定義が異なる機械学習における解釈可能性の普遍的定義の欠如に対処する。
• モデルに依存しないまたは事後的な解釈ツールの限界を克服し、深い科学的理解を支援する。
• 特定のアルゴリズムやツールに依存するのではなく、分野固有の問いに駆動される科学として解釈可能性を確立する。
• 統計的・因果的・反事後的推論を統合することで、医療やドラッグディスカバリ―などのハイリスク分野におけるより信頼性が高く、信頼できる、かつ実行可能な知見を可能にする。
• モデルの性能のみに注目するのではなく、「どのように」「なぜ」意思決定がなされたかを理解するよう焦点を移し、公平性の向上、バイアスの低減、安全性の確保を支援する。

提案手法

• 解釈可能性が回答できる問いの種類によって定義される問い中心の解釈可能性フレームワークを提案する。これはツールやモデルではなく、問いの種類に依存する。
• 統計的（関連性に基づく）、因果的（干渉に基づく）、反事後的（過去の意思決定に関する後向き推論）の三段階の階層的レベルの解釈可能性を導入する。
• 統計的モデリングを用いて、観測データから特徴量と出力の関連性や相関関係を同定する。
• 相関する特徴量に対して因果的グラフィカルモデリング（例：ベイジアンネットワーク）を適用し、'もし特徴量の値を変更したらどうなるか？'のような干渉に基づく問いに答えられる。
• 反事後的レベルでは構造方程式モデリングを用い、過去の意思決定に関する'もし～なら'の問いに答えられ、後向き分析やシナリオ分析が可能になる。
• 各段階が次の段階を支援するようにフレームワークを構造化する：統計的フィルタリングが因果的モデリングを供給し、それが反事後的推論を支える。

実験結果

リサーチクエスチョン

• RQ1 特定の分類意思決定において最も重要な特徴量は何か？また、特定のクラスを区別するための値の範囲は何か？
• RQ2 特に学習データに存在しなかった特徴量の値を変更した場合、モデルの出力にどのように影響するか？
• RQ3 過去の事例で異なる意思決定がなされていた場合、結果はどうなっていたか？これは公平性や因果関係とどのように関係するか？
• RQ4 相関関係を越えて、特徴量と結果の間の因果関係を確立するために、解釈可能性はどのように機能するか？
• RQ5 解釈可能性は、バイオインフォマティクスやドラッグデザインのような分野における科学的発見を、どのような形で支援できるか？

主な発見

• 解釈可能性はツールやモデルによって定義されるべきではなく、科学的問いに答えられるかどうか、特に関連性・干渉・反事後的推論に関する問いに答えられるかどうかによって定義されるべきである。
• 統計的解釈可能性は、観測データからの特徴量の重要度や条件付き確率といった、初期の知見を提供する。
• 因果的解釈可能性は相関関係を越えて、干渉の影響をモデリングし、'もしXを変更したらどうなるか？'のような問いに答えられる。
• 反事後的解釈可能性は、後向き分析を可能にし、'もし患者が別の治療を受けていたらどうなっていたか？'のような問いに答えられる。
• 階層的フレームワークにより、統計的関連性から因果的説明へ、最終的に反事後的推論へと知識が流れ込み、科学的知見が深まる。
• 問い中心のこのアプローチにより、ハイリスク分野での理解が深まり、モデルの信頼性が向上し、バイアスや安全性の問題の特定にも役立つ。