[論文レビュー] Techniques for Interpretable Machine Learning

Mengnan Du, Ninghao Liu+1 more|arXiv (Cornell University)|Jul 31, 2018

Explainable Artificial Intelligence (XAI)参考文献 34被引用数 28

ひとこと要約

本論文は、解釈可能な機械学習技術について包括的なサーベイを提供し、それらを内在的解釈性（自己説明可能なモデル）と事後的解釈性（既存モデルの説明）に分類する。特に、グローバル解釈性とローカル解釈性に焦点を当てる。対照的、選択的、信頼性のある説明というユーザーフレンドリーなパラダイムを導入し、人間中心の解釈性を進めるための学際的協力を呼びかけている。

ABSTRACT

Interpretable machine learning tackles the important problem that humans cannot understand the behaviors of complex machine learning models and how these models arrive at a particular decision. Although many approaches have been proposed, a comprehensive understanding of the achievements and challenges is still lacking. We provide a survey covering existing techniques to increase the interpretability of machine learning models. We also discuss crucial issues that the community should consider in future work such as designing user-friendly explanations and developing comprehensive evaluation metrics to further push forward the area of interpretable machine learning.

研究の動機と目的

• 機械学習におけるモデルの解釈性を向上させるための既存手法について、体系的な概要を提供すること。
• 解釈性手法が精度、忠実性、ユーザートラストの間でどのようにバランスをとるかを理解するという重要なギャップを解消すること。
• 忠実性、信頼性、ユーザーセンタードデザインといった説明の質に関する主な課題を特定すること。
• 機械学習、HCI、社会科学の分野における協力を通じて、ユーザーフレンドリーな説明の開発を提唱すること。
• 実世界への導入を念頭に、対照的、選択的、信頼性のある説明に焦点を当てた今後の研究方向性を提案すること。

提案手法

• 解釈可能な機械学習を、内在的解釈性（例：決定木、線形モデル、アテンション機構）と事後的解釈性（例：LIME、SHAP）に分類する。
• グローバル解釈性（モデル全体の理解）とローカル解釈性（個々の予測の説明）を区別する。
• 予測と反事後的ケース（例：「なぜ承認されなかったのか？」）を比較することで、対照的説明を提示する。特徴量の寄与度比較を用いる。
• 最も影響力のある特徴量のみを強調する選択的説明を導入する（例：ローン拒否の主な2要因）。これにより、明確さと関連性が向上する。
• 分野知識と整合し、直感的でないまたは現実的でない原因を避ける信頼性のある説明の重要性を強調する。
• 非専門家向けの口頭形式など、ユーザーフレンドリーな文脈に合わせた会話型説明を提唱し、理解と信頼の向上を図る。

実験結果

リサーチクエスチョン

• RQ1 解釈性の種別とタイミングに基づいて、既存の解釈可能な機械学習手法を体系的に分類する方法は何か？
• RQ2 内在的解釈性と事後的解釈性の両方において、モデルの精度と説明の忠実性の間にはどのようなトレードオフがあるか？
• RQ3 対照的説明は、結果の比較（例：「なぜ承認されなかったのか？」）を通じて、ユーザーが意思決定をどのように理解するのを助けるか？
• RQ4 説明がよりユーザーフレンドリーで信頼性があり、実行可能であるようにするための設計原則は何か？
• RQ5 学際的協力が、実世界応用における人間中心の解釈性を進める上で果たす役割は何か？

主な発見

• 決定木、線形モデル、アテンション機構などの内在的解釈性手法は、本質的に解釈可能な構造を提供するが、予測性能を犠牲にすることがある。
• LIME や SHAP などの事後的手法は、元のモデルを変更せずに忠実な局所的説明を提供するが、近似であり、局所的スラムモデルに依存する。
• 対照的説明（「Q ではなく R であるのはなぜか？」という問いに答えるもの）は、予測と反事後的ケースの間の特徴量寄与度の比較によって生成可能であり、意思決定境界の理解を深める。
• 最も影響力のある特徴量（例：ローン拒否の主な2要因）のみを強調する選択的説明は、明確さを向上させ、認知的負荷を軽減する。
• 分野知識と整合する（例：婚姻状態ではなく、信用履歴と収入の比率）信頼性のある説明は、ユーザーの懐疑心を減らし、より信頼できる。
• ユーザーフレンドリーな説明には、社会的文脈とコミュニケーション形式（例：口頭対テキスト）の配慮が必要であり、説明の提供に会話型AIのアプローチの導入が求められる。