[論文レビュー] Stakeholders in Explainable AI

Alun Preece, Daniel Harborne+3 more|ORCA Online Research @Cardiff (Cardiff University)|Sep 29, 2018

Adversarial Robustness in Machine Learning参考文献 30被引用数 43

ひとこと要約

論文は、説明可能なAIには異なる目的と要件を持つ利害関係者コミュニティが存在すると論じ、検証と妥当性検証を橋渡しする層状の、利害関係者を意識した説明の見方を提案する。

ABSTRACT

There is general consensus that it is important for artificial intelligence (AI) and machine learning systems to be explainable and/or interpretable. However, there is no general consensus over what is meant by 'explainable' and 'interpretable'. In this paper, we argue that this lack of consensus is due to there being several distinct stakeholder communities. We note that, while the concerns of the individual communities are broadly compatible, they are not identical, which gives rise to different intents and requirements for explainability/interpretability. We use the software engineering distinction between validation and verification, and the epistemological distinctions between knowns/unknowns, to tease apart the concerns of the stakeholder communities and highlight the areas where their foci overlap or diverge. It is not the purpose of the authors of this paper to 'take sides' - we count ourselves as members, to varying degrees, of multiple communities - but rather to help disambiguate what stakeholders mean when they ask 'Why?' of an AI.

研究の動機と目的

• AIの説明可能性における異なる利害関係者コミュニティとそれぞれの動機を特定する。
• 開発者、理論家、倫理学者、ユーザーが説明可能性のニーズでどのように異なるかを解明する。
• 説明可能性をソフトウェア工学の検証と妥当性検証の概念に関連付ける。
• 複数の利害関係者を満たす層状で多モードの説明モデルを提案する。
• AIウィンターを防ぐためのユーザー中心の説明の重要性を強調する。

提案手法

• 説明可能性の利害関係者を4つのコミュニティ（開発者、理論家、倫理学者、ユーザー）に分類する。
• ソフトウェア工学の概念（検証と妥当性検証）を用いて、説明の種類を利害関係者のニーズに対応づける。
• 透明性ベースの（検証）説明と事後（妥当性検証）説明を区別する。
• 情報論的知識論（既知/未知）を論じて、説明が異なる情報ギャップにどう対処するかを分析する。
• 利害関係者の要求に合わせた層状の説明オブジェクト（追跡可能性、正当化、保証）を提案する。
• 層状の説明を例示するための野生生物モニタリングのシナリオを提供する。

実験結果

リサーチクエスチョン

• RQ1 説明可能なAIの異なる利害関係者コミュニティとその主要な動機は何か？
• RQ2 検証と妥当性検証の概念は、利害関係者グループ全体でどのように説明のタイプに対応づけられるか？
• RQ3 説明を異なる受け手のために設計する際に、どのような知識論的カテゴリ（既知/未知）が明らかになるか？
• RQ4 層状の多モード説明フレームワークは、特定のグループを圧倒することなく複数の利害関係者を満たしうるか？
• RQ5 説明可能なAIの議論におけるエンドユーザーの役割は、他の利害関係者と比べてどのようなものか？

主な発見

• 説明可能AIには4つの利害関係者コミュニティがある：開発者、理論家、倫理学者、ユーザー、それぞれ説明に対する異なる目的を持つ。
• 開発者/理論家は検証と透明性ベースの説明により重点を置き、ユーザー/倫理学者は妥当性検証と事後説明を重視する。
• 層状の説明アプローチ（追跡可能性、正当化、保証）は、情報を適切に整理することで複数の利害関係者を満たすことができる。
• 透明性ベースの説明は、非開発者/倫理学者の受け手にとってしばしば不安定で解釈が難しく、慎重な提示を要する。
• 事後説明（例示ベースやテキスト説明を含む）は、特にユーザーと倫理学者に適しているが、近似であることを明確に示す必要がある。
• エンドユーザーの視点は重要で、しばしば過小評価されるが、将来のAI採用の後退を避けるために不可欠である。