[論文レビュー] Plan Explainability and Predictability for Cobots.

Yu Zhang, Hankz Hankui Zhuo+1 more|arXiv (Cornell University)|Nov 25, 2015

AI-based Problem Solving and Planning参考文献 19被引用数 5

ひとこと要約

本稿では、共同作業用ロボット（コボット）の計画における説明可能性と予測可能性を指標として導入し、行動から高水準のタスクを人間がラベル付けするのを学習するために条件付きランダムフィールド（CRFs）を用いる。この手法により、コボットは人間にとってより直感的で予想外のものではない計画を生成できるようになり、合成データセットを用いた評価で計画の理解と予測が有効に行われたことが示された。

ABSTRACT

Robots are becoming pervasive in human populated environments. A desirable capability of these robots (cobots) is to respond to goal-oriented commands by autonomously constructing plans. However, such autonomy can add significant cognitive load and even potentially introduce safety risks to the humans when robots choose their plans unexpectedly. As a result, for cobots to be more helpful, one important requirement is for them to synthesize plans that do not {\it surprise} the humans. While there are previous works that studied socially acceptable robots which discuss ``natural ways'' for cobots to interact with humans, there still lacks a general solution, especially for cobots that can construct their own plans. In this paper, we introduce the notions of plan {\it explainability} and {\it predictability}. To compute these measures, first, we postulate that humans understand robot plans by associating high level tasks with robot actions, which can be considered as a labeling process. We learn the labeling scheme of humans for robot plans from training examples using conditional random fields (CRFs). Then, we use the learned model to label a new plan to compute its explainability and predictability. These measures can be used by cobots to proactively choose plans, or directly incorporated into the planning process to generate plans that are more explainable and predictable. We provide an evaluation on a synthetic dataset to demonstrate the effectiveness of our approach.

研究の動機と目的

• 人間がいる環境でロボットの計画選択が予期せず、認知的・安全上のリスクを引き起こすのを回避するため。
• 人間にとってどれほど理解可能で予測可能かを評価する汎用的なフレームワークを構築するため。
• コボットが人間の期待に一致する計画を事前に選択または生成できるようにするため。
• 機械学習を用いて、行動のタスクラベリングを通じて人間の計画理解をモデル化するため。

提案手法

• 条件付きランダムフィールド（CRFs）を用いて、高水準のタスクをロボットの行動にマッピングするラベリング方式を学習することで、人間がロボット計画をどのように理解しているかをモデル化する。
• 行動が対応する高水準のタスクとともにラベル付けされた人間のラベル例のデータセットを用いて、CRFモデルを学習する。
• 学習済みモデルを用いて新しいロボット計画をラベル付けし、説明可能性と予測可能性の計算に必要なタスク-行動関連付けを抽出する。
• 説明可能性を計画内の行動におけるタスクラベルの一貫性として定義し、予測可能性を人間の期待に基づいた計画のシーケンスの尤度として定義する。
• 説明可能性と予測可能性のスコアを計画パイプラインに統合し、人間の期待に適合する計画の選択を支援する。
• 提案された指標が人間の類似した計画理解をどれだけ的確に捉えられるかを検証するため、合成データセットを用いて評価する。

実験結果

リサーチクエスチョン

• RQ1 人間の認知的視点から、ロボット計画の説明可能性をどのように定量的に測定できるか。
• RQ2 ロボット計画の行動シーケンスに基づいて、人間がその計画をどの程度予測できるか。
• RQ3 CRFsに基づく学習済みラベリングモデルは、人間のロボット計画理解を正確に反映できるか。
• RQ4 説明可能性と予測可能性を計画プロセスに統合することで、人間の驚きをどの程度低減できるか。

主な発見

• CRFに基づくラベリングモデルは、人間がロボットの行動を高水準のタスクとしてどのように解釈しているかを的確に捉えており、信頼性の高い計画分析を可能にした。
• 合成評価において、説明可能性と予測可能性のスコアは、人間が計画の明確さや予測可能性をどのように感じているかと相関していた。
• 説明可能性と予測可能性のスコアが高い計画は、人間の評価者から一貫して驚きが少ないと評価された。
• これらの指標を計画プロセスに統合することで、コボットが人間の期待に適合する計画をより適切に選択または生成できるようになった。