[論文レビュー] Interactive Plan Explicability in Human-Robot Teaming

Mehrdad Zakershahrak, Yu Zhang|arXiv (Cornell University)|Jan 17, 2019

AI-based Problem Solving and Planning参考文献 15被引用数 6

ひとこと要約

本論文は、インタラクティブで逐次的なタスクにおける人間とロボットの協働を向上させるために、ロボットが生成する計画を人間の期待と一致させる、新しいフレームワーク「インタラクティブ計画説明可能性（Interactive Plan Explicability）」を導入する。人間のロボットに対する期待モデルを統合し、条件付きランダムフィールド（CRF）を用いて説明可能性のためのアクションラベルを付与することで、説明可能性スコアが0.820の計画を生成する。これは人間が生成する計画のスコア（0.811）にほぼ等しく、標準的なFFプランナーの計画（0.672）を著しく上回り、より直感的かつ効率的な協働を可能にする。

ABSTRACT

Human-robot teaming is one of the most important applications of artificial intelligence in the fast-growing field of robotics. For effective teaming, a robot must not only maintain a behavioral model of its human teammates to project the team status, but also be aware that its human teammates' expectation of itself. Being aware of the human teammates' expectation leads to robot behaviors that better align with human expectation, thus facilitating more efficient and potentially safer teams. Our work addresses the problem of human-robot cooperation with the consideration of such teammate models in sequential domains by leveraging the concept of plan explicability. In plan explicability, however, the human is considered solely as an observer. In this paper, we extend plan explicability to consider interactive settings where human and robot behaviors can influence each other. We term this new measure as Interactive Plan Explicability. We compare the joint plan generated with the consideration of this measure using the fast forward planner (FF) with the plan created by FF without such consideration, as well as the plan created with actual human subjects. Results indicate that the explicability score of plans generated by our algorithm is comparable to the human plan, and better than the plan created by FF without considering the measure, implying that the plans created by our algorithms align better with expected joint plans of the human during execution. This can lead to more efficient collaboration in practice.

研究の動機と目的

• 人間とロボットの間で環境や相互のモデルに差異があるため、協調が非効率になる人間-ロボットチーム作業の課題に対処すること。
• 従来の計画説明可能性（主に観察者としての状況に特化）を、人間とロボットの行動がお互いに影響し合う相互作用的な状況に拡張すること。
• 人間の期待に整合した共同計画を生成する計画フレームワークを開発し、認知的負荷を軽減し、チーム作業の効率を向上させること。
• シミュレートされた人間の試行とCRFベースのラベリングモデルを用いた説明可能性スコアリングを用いて、第一報復タスク領域でアプローチを評価すること。
• 標準的なプランナーが生成する計画と比較して、インタラクティブな説明可能性を備えたロボット計画が、人間の期待に近いかどうかを実証すること。

提案手法

• 本手法は、人間の期待行動を近似した人間計画モデル（$\widetilde{M_H}$）を用いてモデル化する一方で、ロボットは自らのモデル（$M_R$）を用いて複合計画を生成する。
• 人間-ロボット相互作用の履歴から、条件付きランダムフィールド（CRF）を用いてアクションラベリングを学習し、高レベルのタスクをアクションにマッピングして説明可能性の評価を実施する。
• 計画の説明可能性は、非空のラベルを持つアクション数を全アクション数で割った比率として計算される：$F_{\theta}(L_{\pi}) = \frac{\sum_{i \in [1,N]} 1_{L(a_i) \neq \emptyset}}{N}$、ここで高い値はより高い説明可能性を示す。
• ロボットはヒューリスティックサーチ法（式4）を用いて、人間とロボットの期待の統合モデルのもとで、説明可能性を最大化し、コストを最小化する計画を生成する。
• 本システムは、可視および非可視の障害物を含む16の訓練問題と4つのテスト問題を有する、シミュレートされた第一報復タスク領域で評価された。
• 計画は、説明可能性比と各シナリオごとの詳細スコアを用いて評価され、提案手法、FFプランナー、および実際の人間計画と比較された。

実験結果

リサーチクエスチョン

• RQ1 インタラクティブな人間-ロボットチーム作業において、ロボット計画を人間の期待に適合させるにはどうすればよいか？
• RQ2 人間の予測行動と期待をモデル化することで、ロボットの計画の説明可能性をどの程度向上させられるか？
• RQ3 共通のタスク環境において、ロボットが生成する計画の説明可能性は、人間が生成する計画や標準的なプランナー出力と比較してどうなるか？
• RQ4 コストと説明可能性の両方をバランスさせるハイブリッド計画アプローチは、不整合を軽減し、チーム作業のパフォーマンスを向上させられるか？
• RQ5 情報非対称性（例：隠れた障害物）は、計画の説明可能性とチーム協調にどのような影響を与えるか？

主な発見

• 提案手法が生成するインタラクティブ説明可能性スコアは0.820であり、人間計画のスコア（0.811）に非常に近い結果を示し、人間の期待と強い整合性があることを示している。
• FFプランナーが生成する計画は、説明可能性比が著しく低い0.672であったが、これは人間の期待との整合性が低いことを示しており、コストは低いものの、依然として不十分な説明可能性を示している。
• 個別のテストシナリオにおいて、提案手法の説明可能性スコアは0.714から0.800の範囲にあり、FFプランナーのスコア（0.56から0.800）を上回っていた。
• シナリオ1では、FFプランとインタラクティブ説明可能性プランの両方が、完全な説明可能性スコア（1.0）を達成しており、この特定のケースでは高いラベリング可能性を示している。
• 結果から、提案手法が生成する計画は、図4に示すように、視覚的および定量的に人間の計画と類似しており、チーム作業の予測可能性が向上していることが示された。
• 本研究では、計画段階で人間の期待を考慮することで、より直感的かつ効率的な協働が可能になることが確認されたが、実世界でのパフォーマンスはさらなる人間を含むフィードバック評価が必要である。