[論文レビュー] The Need for Standardized Explainability

Othman Benchekroun, Adel Rahimi+2 more|arXiv (Cornell University)|Oct 20, 2020

Explainable Artificial Intelligence (XAI)参考文献 11被引用数 5

ひとこと要約

この論文は、ブラックボックスモデルのリスクに対処するため、AIにおける標準化された説明可能性を主張し、説明可能性と解釈可能性の新しい定義を提唱するとともに、XAI手法を体系化するための三段階分類法（前処理、モデル化、後処理）を提示する。主な貢献は、産業的AI応用における監査可能性、信頼性、規制適合性を可能にする基盤的フレームワークを提供することである。

ABSTRACT

Explainable AI (XAI) is paramount in industry-grade AI; however existing methods fail to address this necessity, in part due to a lack of standardisation of explainability methods. The purpose of this paper is to offer a perspective on the current state of the area of explainability, and to provide novel definitions for Explainability and Interpretability to begin standardising this area of research. To do so, we provide an overview of the literature on explainability, and of the existing methods that are already implemented. Finally, we offer a tentative taxonomy of the different explainability methods, opening the door to future research.

研究の動機と目的

• 産業分野における説明不能で偏見がある、あるいは信頼できないAIモデルのリスクを軽減するため、標準化された説明可能性を提唱すること。
• 現在のXAI研究における曖昧さと一貫性の欠如を解消するため、'説明可能性'と'解釈可能性'を明確に定義すること。
• 機械学習ライフサイクル（前処理、モデル化、後処理）全体にわたる説明可能性手法の構造的分類法を確立すること。
• 現在のXAI手法が、監査可能性および規制適合性という産業グレードの要件を満たせていないことの限界を浮き彫りにすること。
• 将来的なXAIフレームワークの標準化を基盤づけ、AIシステムにおける安全性、制御可能性、透明性を確保すること。

提案手法

• 『説明する』という語のMerriam-Websterにおける定義（明確にしたり理解可能にすること）に基づき、'説明可能性'と'解釈可能性'のための新しい明確な定義を提示する。
• 説明可能性手法を三つのカテゴリーに分類する：前処理（データ分析、DeepLiftのようなデータ摂動）、モデル化（本質的に解釈可能なモデル）、後処理（LIME や SHAP のような代理モデル）。
• 視覚的例や事例研究（例：人種的偏見を示した石鹸ディスペンサー、求人広告における性別バイアス）を用いて、説明不能なAI行動の現実世界への影響を説明する。
• GDPR、CCPA、LGPD、PDPA などの規制枠組みを分析し、産業分野における説明可能性の法的義務を示す。
• 現在のXAI手法は標準化が不十分で、主観的な人間の判断に依存していることから、客観的で測定可能な基準を提唱する。
• XAIフレームワークの標準化、説明可能性対複雑さ比の評価、パフォーマンス・複雑さ・説明可能性の関連付けを柱とする研究アジェンダを提言する。

実験結果

リサーチクエスチョン

• RQ1 '説明可能性'と'解釈可能性'の根本的な定義は何か。なぜこれらは現在、一貫性が欠けているのか？
• RQ2 機械学習ライフサイクル全体をカバーする標準化された説明可能性手法の分類法をどのように構築できるか？
• RQ3 なぜ現在のXAI手法は、監査可能性および規制適合性という点で産業グレードのAI要件を満たせていないのか？
• RQ4 倫理的懸念を超えて、組織が説明可能なAIを採用する主な要因は何なのか？
• RQ5 現在の評価が主観的な人間の判断に依存している以上、説明可能性をどのように客観的に測定できるか？

主な発見

• GDPR や CCPA といった世界的なデータ保護規制のもと、産業的応用において説明可能なAIは信頼性、安全性、適合性の観点から不可欠である。
• 本論文は、三段階分類（前処理：データ依存型、モデル化：本質的に解釈可能なモデル、後処理：LIME や SHAP のような代理モデル）を特徴とする画期的な三段階分類法を提唱する。
• 標準化が不十分で、説明可能性の評価が主観的であるため、現在のXAI手法は産業グレードの利用には不十分である。
• ブラックボックスモデルはしばしば人間のバイアスを引き継ぎ、拡大させる。これは、人種的偏見を示した石鹸ディスペンサー や、性別バイアスのある求人広告ターゲティングといった事例によって明確に示されている。これにより、説明可能性の必要性が浮き彫りになる。
• GDPR や CCPA といった規制枠組みは、説明可能性を義務づけている。これは倫理的要請を超えて、法的義務であることを示している。
• 本論文は、生産システムにおける説明可能性、監査可能性、モデルの制御可能性を客観的に測定可能にするため、XAIフレームワークの標準化の緊急の必要性を指摘している。