[論文レビュー] Plan Explicability and Predictability for Robot Task Planning

Yu Zhang, Sarath Sreedharan+4 more|arXiv (Cornell University)|Nov 25, 2015

AI-based Problem Solving and Planning参考文献 27被引用数 23

ひとこと要約

本稿では、人間の理解と信頼を高めるために、ロボットタスクプランニングにおける計画の明確性（ explicability ）と予測可能性（ predictability ）を指標として導入する。条件付きランダムフィールド（CRFs）を用いて、人間の行動に対する抽象的タスク（例：「コップを拾う」）へのラベリングパターンを学習することで、人間にとってより理解しやすく、予測可能な計画を生成する手法を提案する。評価では、標準的なプランナーよりも25%の明確性向上と、人間による評価スコアの顕著な向上が確認された。

ABSTRACT

Intelligent robots and machines are becoming pervasive in human populated environments. A desirable capability of these agents is to respond to goal-oriented commands by autonomously constructing task plans. However, such autonomy can add significant cognitive load and potentially introduce safety risks to humans when agents behave unexpectedly. Hence, for such agents to be helpful, one important requirement is for them to synthesize plans that can be easily understood by humans. While there exists previous work that studied socially acceptable robots that interact with humans in "natural ways", and work that investigated legible motion planning, there lacks a general solution for high level task planning. To address this issue, we introduce the notions of plan {\it explicability} and {\it predictability}. To compute these measures, first, we postulate that humans understand agent plans by associating abstract tasks with agent actions, which can be considered as a labeling process. We learn the labeling scheme of humans for agent plans from training examples using conditional random fields (CRFs). Then, we use the learned model to label a new plan to compute its explicability and predictability. These measures can be used by agents to proactively choose or directly synthesize plans that are more explicable and predictable to humans. We provide evaluations on a synthetic domain and with human subjects using physical robots to show the effectiveness of our approach

研究の動機と目的

• 人間にとって理解可能な高水準タスクプランニングの一般解の欠如に対処すること。
• 人間が住む環境における理解不能なロボット行動が引き起こす認知的負荷と安全リスクを低減すること。
• タスク-アクションラベリングを通じて人間がロボット計画をどのように解釈するかをモデル化し、より明確で予測可能な計画を生成できるようにすること。
• 人間の心理モデルに関する事前知識がなくても、人間がロボットの行動をどのように解釈するかを推論する学習ベースの手法を開発すること。
• シミュレーションと人間被験者を用いた物理的ロボットを用いた実証的評価を通じて、計画の明確性が向上することを示すこと。

提案手法

• 本稿では、人間がロボット計画をどのように理解するかをラベリングプロセスとしてモデル化し、アクションが抽象的タスク（例：「コップを拾う」）に関連付けられる。
• 条件付きランダムフィールド（CRFs）を用いて、人間がラベル付けした例に基づき、人間のラベル付け方式（アクションからタスクへのマッピング）を学習する。
• 計画の明確性は、学習済みCRFモデルを用いて意味のあるタスクに正しくラベル付けされたアクションの割合として計算される。
• 予測可能性は、タスク遷移の順序的整合性として測定され、直前のタスクから次のタスクをどれだけ容易に予測できるかを反映する。
• 明確性と予測可能性のフレームワークを計画プロセスに統合し、より解釈可能な計画を優先するようにプランナを設計する。
• 本手法は、合成シミュレーションと物理的ロボットを用いた実世界の人間被験の両方で評価され、動画ベースのラベリングと主観的スコアリングが用いられた。

実験結果

リサーチクエスチョン

• RQ1 人間がロボットタスク計画を理解する様子を反映する形で、計画の明確性と予測可能性を定義・測定することは可能か？
• RQ2 人間の心理モデルに関する事前知識がなくても、人間がアクションを抽象的タスクに関連付けるラベリング方式をどのように学習できるか？
• RQ3 計画品質を維持したまま、人間にとって顕著に明確で予測可能な計画をロボットが生成できるか？
• RQ4 人間被験者が、明確性に配慮した計画生成によって得られた計画を、標準的な計画よりも顕著に高く評価するか？
• RQ5 提案された明確性測定値は、人間の主観的計画理解度の判断と相関しているか？

主な発見

• FF-EXPDプランナは、OPTプランナの77.8%に比べ、97.3%の明確なアクションを達成した。これは、アクション-タスクラベリングにおける顕著な改善を示している。
• FF-EXPDの平均明確性スコアは0.98であり、OPTの0.78よりも顕著に高く、対応t検定のp値は0.001未満であった。
• 人間被験者の評価では、FF-EXPD計画の平均スコアは10点中9.65点であり、OPTの6.92点に比べて強い好意的評価が得られた。
• FF-EXPDとOPTのCronbach’s α値はそれぞれ0.78と0.67であり、人間のラベリングとスコアリングの内部的一致性が信頼できることが示された。
• 結果から、提案された明確性測定値が人間の解釈と主観的理解度とよく一致することが確認された。
• 8つのテストシナリオ（高さが異なるタワーを含む）において、本手法が未観測の問題に対しても効果的に一般化できることを示した。