[論文レビュー] Explanation in Artificial Intelligence: Insights from the Social Sciences

Tim Miller|arXiv (Cornell University)|Jun 22, 2017

Explainable Artificial Intelligence (XAI)被引用数 29

ひとこと要約

本論文は、説明可能AI（XAI）が、哲学、認知心理学、社会心理学を含む社会科学の知見を統合すべきであると主張している。人間が説明を生成・選択・評価するプロセスをモデル化することで、対照的で社会的相互作用的かつ因果的に根拠のある説明を通じて、信頼性、関連性、解釈可能性を向上させることができる。

ABSTRACT

There has been a recent resurgence in the area of explainable artificial intelligence as researchers and practitioners seek to make their algorithms more understandable. Much of this research is focused on explicitly explaining decisions or actions to a human observer, and it should not be controversial to say that looking at how humans explain to each other can serve as a useful starting point for explanation in artificial intelligence. However, it is fair to say that most work in explainable artificial intelligence uses only the researchers' intuition of what constitutes a `good' explanation. There exists vast and valuable bodies of research in philosophy, psychology, and cognitive science of how people define, generate, select, evaluate, and present explanations, which argues that people employ certain cognitive biases and social expectations towards the explanation process. This paper argues that the field of explainable artificial intelligence should build on this existing research, and reviews relevant papers from philosophy, cognitive psychology/science, and social psychology, which study these topics. It draws out some important findings, and discusses ways that these can be infused with work on explainable artificial intelligence.

研究の動機と目的

• XAIにおける直感的アプローチを超えて、説明の質を向上させることで、信頼できるAIシステムの需要に対応する。
• 研究者の直感に依存する現在のXAI研究における主な限界を特定し、人間の説明に関する証拠に基づくモデルに代わるものとする。
• 哲学、心理学、認知科学から得られる説明生成、選択、評価に関する知見を統合し、XAIと社会科学のギャップを埋める。
• XAIシステムが人間の説明プロセスをモデル化すべきであることを提唱する。特に、対照的で社会的相互作用的かつ因果的に構造化された説明を用いることで、ユーザーの信頼と理解を向上させる。
• 意図性、規範、制御可能性、関連性といった社会的・認知的要因を組み込む重要性を強調し、説明の効果を高める。

提案手法

• 哲学、認知心理学、社会心理学における人間の説明プロセスに関する基礎的文献を体系的にレビューする。
• 帰納的推論、因果帰属、対照的説明、説明的一致性といったキーワードをXAI設計原則にマッピングする。
• 説明選択バイアス（例：異常性、必要性、制御可能性）に関する知見をXAIモデル開発に統合し、関連情報の優先順位を決定する。
• 人間のコミュニケーションにおける対話的・議論的構造を模倣した、会話的で相互作用的な説明モデルを提唱する。
• Malleの社会的帰属の概念的モデルや心の理論を応用し、人間の期待に合致したエージェント行動の説明をモデル化する。
• 説明の文脈、特にユーザーの目的、規範、信頼水準が説明の内容と構造に与える影響を強調する。

実験結果

リサーチクエスチョン

• RQ1 人間は社会的・認知的文脈において、どのように説明を定義・生成・評価するのか。これらのプロセスはXAIにどのように生かせるか。
• RQ2 なぜ対照的説明（「なぜこれではなくそれか？」）は、人間の推論と信頼構築において非対照的説明よりも効果的なのか。
• RQ3 異常性、制御可能性、意図性といった認知バイアスは、説明の選択と評価にどのように影響するか。
• RQ4 社会的・相互作用的説明モデルは、AIシステムにおけるユーザーの信頼性と理解をどのように向上させるか。
• RQ5 XAIシステムは、因果的一致性と関連性を保ちつつ、説明の希釈を避けるためにどのように設計すべきか。

主な発見

• 対照的説明（「なぜこれではなくそれか？」に答えるもの）は人間の説明において根幹的であり、XAIシステムにおいても中心的であるべきである。
• 説明選択は、異常性、制御可能性、意図性といった特徴に内在的にバイアスがかかるため、XAIにおいてはこれらをモデル化することで関連性を向上させられる。
• 人々は真実性や確率性だけでなく、一貫性、単純さ、目的との整合性に基づいて説明を評価するため、説明の質は文脈依存的である。
• 社会的・相互作用的説明（会話的構造や含意的意味を含む）は、AIシステムにおけるユーザーの信頼性と理解を顕著に向上させる。
• 説明は中立的ではない。ユーザーは説明者の意図のレンズを通して説明を解釈するため、目的の透明性が欠如すると、バイアスの疑いが生じる。
• 過剰に詳細な因果的連鎖は、重要な情報を希釈するリスクを伴う。したがって、説明は選択的で文脈に応じたものでなければならない。