[論文レビュー] Towards a Grounded Dialog Model for Explainable Artificial Intelligence

Prashan Madumal, Tim Miller+2 more|arXiv (Cornell University)|Jun 21, 2018

Explainable Artificial Intelligence (XAI)参考文献 17被引用数 21

ひとこと要約

本論文は、6種類の説明対話（398件の自然な説明対話）を分析したもとに、データ駆動型で根拠に基づいた説明対話モデルを提示する。対話の記録に基づくグラウンド理論分析を通じて、人間の説明プロセスにおけるコアな構成要素、順序、および循環的相互作用を同定し、社会的・認知的要因に基づいた対話的・反復的な説明対話によって、社会的・認知的信頼を高める一般化された状態モデルを提示する。本研究は、より直感的で信頼性の高いXAIシステムの基盤を提供する。

ABSTRACT

To generate trust with their users, Explainable Artificial Intelligence (XAI) systems need to include an explanation model that can communicate the internal decisions, behaviours and actions to the interacting humans. Successful explanation involves both cognitive and social processes. In this paper we focus on the challenge of meaningful interaction between an explainer and an explainee and investigate the structural aspects of an explanation in order to propose a human explanation dialog model. We follow a bottom-up approach to derive the model by analysing transcripts of 398 different explanation dialog types. We use grounded theory to code and identify key components of which an explanation dialog consists. We carry out further analysis to identify the relationships between components and sequences and cycles that occur in a dialog. We present a generalized state model obtained by the analysis and compare it with an existing conceptual dialog model of explanation.

研究の動機と目的

• 説明可能AI（XAI）システムにおける対話的でユーザー中心の説明モデルの不足に対処すること。
• 理論的仮定ではなく、実際の会話データに基づく一般化された説明対話モデルの開発。
• 質問、承認、反復的明確化を含む、説明の社会的・認知的ダイナミクスのモデル化。
• 自然な人間の説明対話の模倣を通じて、XAIシステムの信頼性と使いやすさの向上。
• 動的なユーザー参加を支援する対話的で説明可能なAIシステムを構築する基盤の提供。

提案手法

• ヒューマン・ヒューマンQ&A、ヒューマン・エージェントQ&A、ヒューマン・エージェントタスク、ヒューマン・エージェントプランニング、ヒューマン・エージェントトラブルシューティング、ヒューマン・エージェントフィードバックの6種類の対話タイプから、398件の記録済み説明対話に対してグラウンド理論分析を実施。
• 説明、承認、質問、明確化などの説明対話の主要な構成要素を特定・コード化。
• 構成要素の頻度、順序、および関係性（繰り返しの質問と明確化を含む循環的パターンを含む）を分析。
• 観察されたパターンと構造的関係に基づき、一般化された説明対話の状態モデルを構築。
• ウォルトンの説明対話の概念的モデルと比較することで、本モデルの一般性と構造的正確性を検証。
• 反復的コード化とテーマ的分析を用い、自然で対話的な説明プロセスを反映するモデルを導出。

実験結果

リサーチクエスチョン

• RQ1 ヒューマンとエージェント間の自然な説明対話におけるコアな構造的構成要素は何か？
• RQ2 説明、承認、質問などの構成要素は、説明対話内でどのように順序づけられ、関係しているか？
• RQ3 異なるタイプの対話において、説明対話から浮き彫りになるパターン（循環的相互作用を含む）は何か？
• RQ4 提案された対話モデルは、既存の説明対話の概念的モデルとどのように比較できるか？
• RQ5 データ駆動型の説明対話モデルは、XAIシステムの信頼性と使いやすさをどの程度向上できるか？

主な発見

• '説明'が最も頻度の高い対話構成要素であり、次いで'承認'、'質問'が続く。'明確化'と'再表現'も一般的に頻出する。
• 最も一般的な対話シーケンスは、説明の後に説明受容者による承認、次に説明者による承認が続くことで、説明受容のフィードバックループを示している。
• 説明受容者が説明後にフォローアップ質問を繰り返す循環的対話パターンが顕著で、特にトラブルシューティングおよびフィードバック対話で顕著である。
• 説明対話は、主に説明または説明者による承認で終わることが多く、説明の完了は明確な終了ではなく、確認によって示される傾向がある。
• 説明者からのリターン質問はまれであり、全対話タイプにおいて「リターン質問なし」が最も一般的な終了シーケンスである。
• 提案されたモデルは多様な対話タイプに一般化可能であり、従来の理想化された概念的モデルに欠落している反復的・対話的ダイナミクスを捉えている。