[論文レビュー] Progressive Explanation Generation for Human-robot Teaming

Yu Zhang, Mehrdad Zakershahrak|arXiv (Cornell University)|Feb 2, 2019

AI-based Problem Solving and Planning参考文献 23被引用数 4

ひとこと要約

本稿では、人間のチームメイトの認知的負担を最小限に抑えるために説明のステップを順序付けする、プログレッシブな説明生成（PEG）というフレームワークを紹介する。PEGは、モデル間の距離をヒューリスティクスとして用い、説明を段階的決定問題として定式化し、説明の順序を最適化することで、理解の効率を向上させる。この手法により、説明の長さは短い説明とほぼ同等である一方で、特にロボットと人間のモデルに不一致がある状況下で、累積的な認知的負担が顕著に低減される。

ABSTRACT

Generating explanation to explain its behavior is an essential capability for a robotic teammate. Explanations help human partners better understand the situation and maintain trust of their teammates. Prior work on robot generating explanations focuses on providing the reasoning behind its decision making. These approaches, however, fail to heed the cognitive requirement of understanding an explanation. In other words, while they provide the right explanations from the explainer's perspective, the explainee part of the equation is ignored. In this work, we address an important aspect along this direction that contributes to a better understanding of a given explanation, which we refer to as the progressiveness of explanations. A progressive explanation improves understanding by limiting the cognitive effort required at each step of making the explanation. As a result, such explanations are expected to be smoother and hence easier to understand. A general formulation of progressive explanation is presented. Algorithms are provided based on several alternative quantifications of cognitive effort as an explanation is being made, which are evaluated in a standard planning competition domain.

研究の動機と目的

• 既存の説明生成手法がロボットの視点に偏っている一方で、人間の認知的制限を無視しているというギャップを解消すること。
• 人間の理解を向上させることを目的とし、説明を解釈するために必要な認知的負担を最小限に抑えること。
• 情報の提示順序が理解の効率に影響することを踏まえ、説明を段階的なプロセスとしてモデル化すること。
• ロボットと人間の両者の認知モデルの違いを考慮した、一般化されたプログレッシブな説明生成の定式化を構築すること。
• 標準的な計画ドメインにおいて、PEGが短い説明と比較して累積的な認知的負担をどれほど低減できるかを評価すること。

提案手法

• 認知的負担を時間経過で最小化する段階的意思決定問題として、プログレッシブな説明生成を定式化する。
• 各ステップにおける認知的負担を、ロボットのモデル（$M^R$）と人間のモデル（$M^H$）の間のモデル計画距離メトリックを用いて定義する。
• 特徴の不一致（事前条件、追加/削除効果）に基づくヒューリスティクスを用いたA*探索を採用し、各特徴の変更に対してペナルティを課す。
• 人間の理解の不確実性を表すために、モデル特徴の欠落確率を用い、評価では0.06から0.14の範囲で設定する。
• 説明のサイズ、計算時間、および累積的認知的負担（$\sum \rho_i$）を測定することで、PEGと短い説明との比較を実施する。
• Fast Downwardを基盤とするプランナとして用い、ローバー・ドメインで手法を評価し、2つの問題インスタンスに基づく結果を得た。

実験結果

リサーチクエスチョン

• RQ1 人間の説明受容者に要する認知的負担を考慮することで、ロボットの視点だけでなく人間の視点も考慮した説明生成は、どのように改善できるか？
• RQ2 非順次的または短い説明と比較して、段階的に説明ステップを順序付けすることは、累積的な認知的負担をどの程度低減できるか？
• RQ3 人間のモデルにおける特徴の欠落（モデル不一致）が増加すると、プログレッシブな説明生成の性能と計算時間にどのような影響を与えるか？
• RQ4 プログレッシブな説明は、人間-ロボット連携において、簡潔さと認知的効率の良いトレードオフを達成できるか？
• RQ5 異なる距離メトリックが、プログレッシブな説明生成の質と効率に与える影響は何か？

主な発見

• PEGの説明は、短い説明とほぼ同等の長さであり、わずかにサイズが増加するが、累積的な認知的負担（$\sum \rho_i$）は顕著に低減される。
• 最初のローバー問題において、PEGの説明は短い説明よりも$\sum \rho_i$の値が低く、認知的負担が軽減されているが、計算時間は長くなっている。
• 人間のモデルにおける欠落特徴の数が増えるにつれて、PEGの計算時間は急激に上昇し、欠落確率0.11で11個の特徴が欠落している場合、探索時間は1342.1秒に達した。
• 特徴が欠落していない場合（欠落確率0.14）、PEGの探索時間はわずか0.7秒にまで低下し、計算コストがモデル不一致に相関していることが確認された。
• 説明のサイズが計算時間に与える影響はほとんどなく、サイズがゼロの場合は探索が不要となるため、例外的である。
• 結果から、PEGが簡潔さと認知的効率のバランスを効果的にとれていることが示され、リアルタイムの人間-ロボット連携アプリケーションに実用的であることが明らかになった。