[論文レビュー] Interpretability and Explainability: A Machine Learning Zoo Mini-tour

Ričards Marcinkevičs, Julia E. Vogt|arXiv (Cornell University)|Dec 3, 2020

Explainable Artificial Intelligence (XAI)被引用数 67

ひとこと要約

本論文は機械学習における interpretability と explainability を概観し、それらの区別を明確にし、評価手法を検討し、例示的手法を用いた分類体系を提示します。

ABSTRACT

In this review, we examine the problem of designing interpretable and explainable machine learning models. Interpretability and explainability lie at the core of many machine learning and statistical applications in medicine, economics, law, and natural sciences. Although interpretability and explainability have escaped a clear universal definition, many techniques motivated by these properties have been developed over the recent 30 years with the focus currently shifting towards deep learning methods. In this review, we emphasise the divide between interpretability and explainability and illustrate these two different research directions with concrete examples of the state-of-the-art. The review is intended for a general machine learning audience with interest in exploring the problems of interpretation and explanation beyond logistic regression or random forest variable importance. This work is not an exhaustive literature survey, but rather a primer focusing selectively on certain lines of research which the authors found interesting or informative.

研究の動機と目的

• 機械学習アプリケーション全体での interpretability、explainability、intelligibility の定義と区別を機械学習アプリケーション全体で明確にする。
• 実務者志向の簡潔な interpretable および explainable ML 手法の分類体系を提供する。
• interpretability および explainability の評価アプローチを要約し、それらの長所と限界を強調する。
• 最新の技術を示す代表的な手法と例を提示する。

提案手法

• 既存の調査（例: Carvalho ら）に基づく interpretable および explainable ML 手法の部分分類体系を提案する。
• 固有の intelligibility を持つ interpretable models と、後付けの explanation methods を区別する。
• アプリケーション根拠型、ヒューマン根拠型、機能根拠型評価を含む評価基準をレビューする。
• ドメイン横断での interpretable/explainable ML の関連性と動機、および GDPR 文脈について議論する。
• 分類体系全体の具体的な手法の例を、簡潔な説明とユースケースとともに提供する。

実験結果

リサーチクエスチョン

• RQ1 ML における interpretability と explainability の核となる定義と実践的な区別は何か？
• RQ2 interpret able and explainable ML 手法の分類体系をどう構築できるか？
• RQ3 利用可能な評価戦略は何か、interpretability を評価する際の課題は何か？
• RQ4 interpret able and explainable ML の主な方向性を示す代表的な手法は何か？

主な発見

• interpretability または explainability の普遍的な正式定義は存在せず、文脈と解釈対象が重要である。
• 精度と解釈性のトレードオフは普遍的ではなく、データセット依存である可能性がある。
• 解釈可能なモデルと説明手法を横断する技術の分類が分野を整理するのに役立つ。
• interpretability の評価は乏しく、単一の標準がないため、代理指標とタスクベースの評価が必要である。
• さまざまな代表的手法（例: FLRs, SLIM, GAM, SpAM, SPINNs, CENs, SENNs, AME）は、グローバルおよびローカルの解釈可能性を示す。
• 本レビューは interpretability/explainability を安全性、公平性、GDPR のような規制上の考慮事項などの実践的な懸念と結びつけている。