[論文レビュー] Machine Learning Explainability for External Stakeholders

Umang Bhatt, McKane Andrus+2 more|arXiv (Cornell University)|Jul 10, 2020

Explainable Artificial Intelligence (XAI)参考文献 44被引用数 40

ひとこと要約

ワークショップを基盤とした研究で、説明可能な機械学習を外部の利害関係者（エンドユーザー、規制当局、ドメイン専門家）にとって有用にする方法を探り、説明を大規模に展開する際の未解決課題を概説する。

ABSTRACT

As machine learning is increasingly deployed in high-stakes contexts affecting people's livelihoods, there have been growing calls to open the black box and to make machine learning algorithms more explainable. Providing useful explanations requires careful consideration of the needs of stakeholders, including end-users, regulators, and domain experts. Despite this need, little work has been done to facilitate inter-stakeholder conversation around explainable machine learning. To help address this gap, we conducted a closed-door, day-long workshop between academics, industry experts, legal scholars, and policymakers to develop a shared language around explainability and to understand the current shortcomings of and potential solutions for deploying explainable machine learning in service of transparency goals. We also asked participants to share case studies in deploying explainable machine learning at scale. In this paper, we provide a short summary of various case studies of explainable machine learning, lessons from those studies, and discuss open challenges.

研究の動機と目的

• 説明可能性が内部のモデル開発者を超えて外部の利害関係者に到達すべき理由を明らかにする。
• エンドユーザー、規制当局、ドメイン専門家への説明の展開における現在の欠点を評価する。
• 透明性の目標に合わせて説明可能性を整合させるため、ドメイン固有のユースケースと利害関係者のニーズを要約する。
• 大規模展開における説明可能なMLの課題と潜在的解決策を特定する。
• 説明の開発と展開を改善するための学際的な関与を提案する。

提案手法

• 学界、産業界、政策、法的背景を持つ33名の参加者を対象に、非公開の一日ワークショップを実施した。
• 説明可能性の定義を合わせるため、5つの専門クラスタにわたるグループ討議を促進した。
• 金融、医療、メディア、社会サービスのドメイン固有のユースケースを分析した。
• 参加者が定義した説明と得られた教訓を、ケーススタディと未解決の課題の要約として統合した。
• 説明可能性に関するより広範なコミュニティ参加と教育の必要性を強調した。

実験結果

リサーチクエスチョン

• RQ1 学際的な議論からどのような説明可能性の定義や概念が生まれるか？
• RQ2 外部の利害関係者向けに大規模に説明可能なMLを展開する際の主要な課題と潜在的解決策は何か？
• RQ3 説明はどのように評価されるべきか、文脈と利害関係者のニーズはどのような役割を果たすか？
• RQ4 利害関係者の多様性、データの利用、プライバシー問題を考慮して説明をどのように設計できるか？
• RQ5 不確実性、相互作用性、時間とともに変化する挙動は、説明可能なMLの展開でどのような役割を果たすか？

主な発見

• 説明可能性は現在、内部志向のままで、外部の利害関係者に広く展開されていない。
• 効果的な展開には、特定の利害関係者とユースケースに合わせた文脈認識の説明が必要。
• 説明の評価は不明確で、学際的で人間中心の方法の利点がある。
• 影響を受けるコミュニティの関与と利害関係者教育は実用的な普及に不可欠。
• 不確実性は説明と併せて考慮されるべきで、説明は対話的で利害関係者のフィードバックに適応できるべき。
• 有用性の劣化を避けるため、説明は時間とともにモデルの挙動やユーザーとの対話の変化を予期すべき。