[論文レビュー] Explicable Robot Planning as Minimizing Distance from Expected Behavior.

Anagha Kulkarni, Tathagata Chakraborti+4 more|arXiv (Cornell University)|Nov 16, 2016

Reinforcement Learning in Robotics参考文献 12被引用数 18

ひとこと要約

本論文では、学習された説明可能性距離関数を用いて、ロボットの計画と人間の期待との間の距離を最小化することで、人間にとって説明可能であるロボット計画を生成する手法を提案する。このアプローチは、人間が計画を評価したデータを用いて距離メトリクスを学習し、それを任意のタイミングで計画を生成するアルゴリズムのヒューリスティクスとして統合することで、模擬的な自律走行車のドメインにおいて計画の説明可能性を顕著に向上させる。

ABSTRACT

In order for robots to be integrated effectively into human work-flows, it is not enough to address the question of autonomy but also how their actions or plans are being perceived by their human counterparts. When robots generate task plans without such considerations, they may often demonstrate what we refer to as inexplicable behavior from the point of view of humans who may be observing it. This problem arises due to the human observer's partial or inaccurate understanding of the robot's deliberative process and/or the model (i.e. capabilities of the robot) that informs it. This may have serious implications on the human-robot work-space, from increased cognitive load and reduced trust in the robot from the human, to more serious concerns of safety in human-robot interactions. In this paper, we propose to address this issue by learning a distance function that can accurately model the notion of explicability, and develop an anytime search algorithm that can use this measure in its search process to come up with progressively explicable plans. As the first step, robot plans are evaluated by human subjects based on how explicable they perceive the plan to be, and a scoring function called explicability distance based on the different plan distance measures is learned. We then use this explicability distance as a heuristic to guide our search in order to generate explicable robot plans, by minimizing the plan distances between the robot's plan and the human's expected plans. We conduct our experiments in a toy autonomous car domain, and provide empirical evaluations that demonstrate the usefulness of the approach in making the planning process of an autonomous agent conform to human expectations.

研究の動機と目的

• 人間とロボットの協働におけるロボット行動の説明不能さが信頼を損ないや認知的負荷を増加させるという問題に対処する。
• ロボット計画の説明可能性に関する人間の認識を、人間による計画評価に基づく距離関数として学習することによりモデル化する。
• 学習された説明可能性距離をヒューリスティクスとして用いる、任意のタイミングで計画を生成するアルゴリズムを開発する。
• 共有作業空間におけるロボットの計画プロセスと人間の期待される行動のメンタルモデルのギャップを埋める。

提案手法

• 被験者が計画の説明可能性を評価し、計画と人間の期待との距離のデータセットを生成する。
• 人間のアノテーションデータを用いて、さまざまな計画距離測定値から「説明可能性距離」と呼ばれるスコア関数を学習する。
• 学習された説明可能性距離をヒューリスティクスとして用い、計画生成をガイドする任意のタイミングで計画を生成するアルゴリズムに統合する。
• 探索アルゴリズムは、ロボットの計画と期待される計画との距離を最小化することで、計画が人間の期待と整合するようにする。
• 実世界の人間-ロボット相互作用のシナリオを模擬するため、おもちゃ的な自律走行車ドメインで手法を評価する。
• 人間中心の設計をロボット計画に統合し、人間の期待を直接計画ヒューリスティクスに埋め込む。

実験結果

リサーチクエスチョン

• RQ1 人間-ロボット協働における人間観察者にとってロボット計画をより説明可能にするにはどうすればよいか？
• RQ2 人間の計画説明可能性の認識を最もよく捉える距離メトリクスは何か？
• RQ3 学習された説明可能性距離関数は、人間中心の視点からロボット計画の質を向上させられるか？
• RQ4 説明可能性をヒューリスティクスとして用いることで、ロボット計画の効率性と品質にどのような影響を与えるか？

主な発見

• 人間による評価によって検証されたように、学習された説明可能性距離関数は人間の計画説明可能性の認識を効果的にモデル化している。
• 説明可能性距離によってガイドされる任意のタイミングで計画を生成するアルゴリズムは、ベースライン手法と比較して一貫して説明性が高い計画を生成する。
• 提案手法を用いて生成された計画は、自律走行車シミュレーションにおいて人間の期待との整合性が明確に向上している。
• 計画ヒューリスティクスに人間の期待を統合することで、認知的負荷が低下し、ロボット行動に対する信頼が向上した。