[論文レビュー] Explaining AI as an Exploratory Process: The Peircean Abduction Model

Robert R. Hoffman, William J. Clancey+1 more|arXiv (Cornell University)|Sep 30, 2020

Explainable Artificial Intelligence (XAI)参考文献 31被引用数 8

ひとこと要約

本論文は、説明可能AI（XAI）を一時的推論ではなく、探索的で反復的なプロセスとして再定式化するため、ピアースの帰納的推論モデルを提案する。チャールズ・サンダース・ピアースの帰納的推論（帰納的推論を啓発的探求とみなす視点）を模倣して、仮説の生成と精錬をモデル化することで、一部のXAIシステムが成功する理由を説明する理論的枠組みを提供し、学習可能で透明性のある推論プロセスを支援するための設計原則を提示する。

ABSTRACT

Current discussions of "Explainable AI" (XAI) do not much consider the role of abduction in explanatory reasoning (see Mueller, et al., 2018). It might be worthwhile to pursue this, to develop intelligent systems that allow for the observation and analysis of abductive reasoning and the assessment of abductive reasoning as a learnable skill. Abductive inference has been defined in many ways. For example, it has been defined as the achievement of insight. Most often abduction is taken as a single, punctuated act of syllogistic reasoning, like making a deductive or inductive inference from given premises. In contrast, the originator of the concept of abduction---the American scientist/philosopher Charles Sanders Peirce---regarded abduction as an exploratory activity. In this regard, Peirce's insights about reasoning align with conclusions from modern psychological research. Since abduction is often defined as "inferring the best explanation," the challenge of implementing abductive reasoning and the challenge of automating the explanation process are closely linked. We explore these linkages in this report. This analysis provides a theoretical framework for understanding what the XAI researchers are already doing, it explains why some XAI projects are succeeding (or might succeed), and it leads to design advice.

研究の動機と目的

• 現在のXAI研究が帰納的推論を動的で探索的な推論プロセスとして無視するというギャップに対処すること。
• 説明可能AIを静的説明生成ではなく、仮説形成と評価の継続的プロセスとして再定式化すること。
• AIの説明メカニズムを、ピアスの哲学的視点における創造的で反復的な探求的プロセスとしての帰納的推論と一致させること。
• 観察可能で分析可能で学習可能な帰納的推論プロセスを支援するAIシステムの設計に関する理論的・実践的指針を提供すること。
• 帰納的探求の存在が設計に組み込まれていることと、XAIプロジェクトの成功との関連を説明すること。

提案手法

• 一時的推論ではなく、探索的で仮説生成的なプロセスとしてのチャールズ・サンダース・ピアスによる帰納的推論の概念的定式化を採用すること。
• 帰納的推論の観点から既存のXAIシステムを分析し、成功・失敗のパターンを同定すること。
• 人間の推論に関する心理的研究を用いて、ピアスのモデルが自然な認知プロセスと整合することを検証すること。
• 帰納的推論を説明生成とシステム学習の中心に据える理論的枠組みを構築すること。
• 追跡可能で反復的な仮説の検証と精錬を支援するAIシステムの設計原則を提示すること。
• 帰納的推論における「最良の説明」の概念を、反復的探求とフィードバックによるAI意思決定の評価と結びつけること。

実験結果

リサーチクエスチョン

• RQ1 AI説明において帰納的推論を一時的推論ではなく、探索的プロセスとして再概念化する方法は何か？
• RQ2 なぜ一部のXAIシステムは理解可能な説明を生成することができており、帰納的推論はその成功にどのように寄与しているか？
• RQ3 AIシステムにおいて帰納的推論を学習可能で反復的な認知的プロセスとして扱うとき、どのような設計原則が生じるか？
• RQ4 ピアスの帰納的推論を探求的プロセスとしての視点が、現代の心理的知見における人間の推論とどのように一致するか？
• RQ5 仮説の生成と精錬は、透明性と解釈可能性のあるAI意思決定を実現するために果たす役割は何か？

主な発見

• 本論文は、帰納的推論を探索的プロセスとして捉えると、人間とAIシステムが説明を生成する方法をより正確かつ動的にモデル化できると確立している。
• 現在のXAIシステムで成功しているものは、反復的な仮説生成と評価を組み込んでいるためであり、ピアスの帰納的探求モデルと整合している。
• 帰納的推論は一時的推論ではなく、説明の生成と検証を繰り返す学習可能で反復的なプロセスであり、透明性と解釈可能性を支援する。
• ピアスの哲学的モデルと現代の心理的研究の整合性が、このモデルがAI説明設計に実用的であることを裏付けている。
• 探索的帰納的推論に基づいて設計されたシステムは、ユーザーが推論プロセスを観察・分析・学習でき、信頼性と使いやすさを向上させる。
• 理論的枠組みは、説明生成においてプロセスよりも製品を重視するのではなく、プロセスの重要性を強調することで、なぜ一部のXAIプロジェクトが成功するかを説明している。