[論文レビュー] The Doctor Just Won't Accept That!

Zachary C. Lipton|arXiv (Cornell University)|Nov 20, 2017

Explainable Artificial Intelligence (XAI)参考文献 3被引用数 55

ひとこと要約

本論文は、機械学習における解釈可能性が定義不足で、実世界の利害関係者のニーズとズレていると主張し、現在の学習パラダイムの範囲内で正確な問題設定、利害関係者の関与、実現可能性の検討を促す。

ABSTRACT

Calls to arms to build interpretable models express a well-founded discomfort with machine learning. Should a software agent that does not even know what a loan is decide who qualifies for one? Indeed, we ought to be cautious about injecting machine learning (or anything else, for that matter) into applications where there may be a significant risk of causing social harm. However, claims that stakeholders "just won't accept that!" do not provide a sufficient foundation for a proposed field of study. For the field of interpretable machine learning to advance, we must ask the following questions: What precisely won't various stakeholders accept? What do they want? Are these desiderata reasonable? Are they feasible? In order to answer these questions, we'll have to give real-world problems and their respective stakeholders greater consideration.

研究の動機と目的

• MLにおける解釈可能性の多義性とその規範的含意を明確化する。
• ML研究者が解釈可能と呼ぶものと、利害関係者（例：医師、政策担当者）が要求するものとのギャップを浮き彫りにする。
• 既存の学習フレームワーク内で、正確な問題設定と実現可能な目標に依存するという主張。
• 研究の方向性を導くために、利害関係者および政策コミュニティの関与を提唱する。

提案手法

• ML文献における解釈可能性の定義と誤用を概念的に批評する。
• 報告された解釈可能な方法と利害関係者のニーズとのギャップを分析する。
• 解釈可能性の期待を形成する政策・法制度・倫理（例：GDPR、アルゴリズム公平性）の役割を論じる。
• 問題設定とML研究者と外部の利害関係者との協力に関する提言を提供する。

実験結果

リサーチクエスチョン

• RQ1 さまざまな利害関係者は機械学習における解釈可能性から何を求めているのか？
• RQ2 これらの願望は現在の監督付き学習パラダイム内で実現可能か？
• RQ3 解釈可能なAIを進展させるために、機械学習コミュニティはどのように利害関係者の意見を取り入れるべきか？

主な発見

• 解釈可能性は、多義性であり、単純さから後付けの説明、因果的理解までさまざまな定義がある。
• 多くの解釈可能性の提案は、問題定義が不十分であったり、利害関係者のニーズを考慮していない。
• 研究インセンティブ（技術的作業）と、説明が何を成し遂げるべきかという基礎的な問題との間に不整合がある。
• 政策の観点（例：GDPR、アルゴリズム的公平性）は、解釈可能性に関するML研究議論で十分に取り上げられていない。
• 解釈可能な機械学習を前進させるには、明示的な問題設定、実現可能性分析、外部の利害関係者の関与を高めることが必要である。