[論文レビュー] Explanation in Human-AI Systems: A Literature Meta-Review, Synopsis of Key Ideas and Publications, and Bibliography for Explainable AI

Shane T. Mueller, Robert R. Hoffman+3 more|arXiv (Cornell University)|Feb 5, 2019

Explainable Artificial Intelligence (XAI)参考文献 44被引用数 218

ひとこと要約

人間-AIシステムにおける良い説明とは何かを定義する統合的な文献レビューで、歴史的・理論的基盤を調査し、模範的な研究を強調しつつ、より充実した実証報告を求める。

ABSTRACT

This is an integrative review that address the question, "What makes for a good explanation?" with reference to AI systems. Pertinent literatures are vast. Thus, this review is necessarily selective. That said, most of the key concepts and issues are expressed in this Report. The Report encapsulates the history of computer science efforts to create systems that explain and instruct (intelligent tutoring systems and expert systems). The Report expresses the explainability issues and challenges in modern AI, and presents capsule views of the leading psychological theories of explanation. Certain articles stand out by virtue of their particular relevance to XAI, and their methods, results, and key points are highlighted. It is recommended that AI/XAI researchers be encouraged to include in their research reports fuller details on their empirical or experimental methods, in the fashion of experimental psychology research reports: details on Participants, Instructions, Procedures, Tasks, Dependent Variables (operational definitions of the measures and metrics), Independent Variables (conditions), and Control Conditions.

研究の動機と目的

• 質問に答える：人間-AIシステムにおける良い説明とは何か？
• 説明可能で有益なAIを作るための計算機科学の取り組みの歴史を要約する（例：チュータリングシステムやエキスパートシステム）。
• XAIに関連する主要な説明理論の要約ビューを提示する。
• 関連性・方法・結果・要点が際立つ論文を取り上げる。
• 実験心理学になぞらえたAIの説明可能性に関する実証研究の報告実践を推奨する。

提案手法

• 統合的な文献メタレビューを実施する。
• 主要なアイデアと出版物を説明の要約ビューに統合する。
• XAIに強く関連する特定の記事を強調し、方法と結果を要約する。
• Explainable AI の文献情報の焦点と参考文献を提供する。
• 実証/実験手法の徹底的な報告（参加者、手続き、変数、対照）を推奨する。

実験結果

リサーチクエスチョン

• RQ1 人間-AIシステムにおける良い説明とは何か？
• RQ2 XAIに影響を与える歴史的・理論的基盤（例：チュータリングシステム、エキスパートシステム、心理学的理論）は何か？
• RQ3 AIにおける説明可能性のための最も関連する方法と結果を提供する論文はどれか？
• RQ4 XAIの実証研究に推奨される報告基準は何か？

主な発見

• 本報告は、インテリジェントチュータリングやエキスパートシステムを含む、説明し指示するシステムを作るためのCSの取り組みの歴史を統合している。
• 現代AIにおける説明可能性の問題と課題を明確化している。
• XAIに関連する主要な説明理論の要約ビューを提示している。
• 方法論的関連性と主要な結果の点で特定の論文を強調している。
• AIの説明可能性研究において、詳細な実証的方法と操作定義を含めることを研究者に推奨している。