[論文レビュー] Helpfulness as a Key Metric of Human-Robot Collaboration

Richard G. Freedman, Steven J. Levine+2 more|arXiv (Cornell University)|Oct 10, 2020

AI-based Problem Solving and Planning参考文献 28被引用数 6

ひとこと要約

本稿では、人間とロボットの協働におけるロボットの支援度を定量化する指標を提案する。この指標は、人間単独での実行と比較したチーム全体の作業負担の相対的低減を定義する。コストに基づく比を用いて支援度を形式化し、不確実性下での計画に応用し、シミュレーションを通じてリスク回避的行動が期待される支援度を低下させることを示した。これにより、指標が意思決定のトレードオフに感受性を示すことが妥当性を確認された。

ABSTRACT

As robotic teammates become more common in society, people will assess the robots' roles in their interactions along many dimensions. One such dimension is effectiveness: people will ask whether their robotic partners are trustworthy and effective collaborators. This begs a crucial question: how can we quantitatively measure the helpfulness of a robotic partner for a given task at hand? This paper seeks to answer this question with regards to the interactive robot's decision making. We describe a clear, concise, and task-oriented metric applicable to many different planning and execution paradigms. The proposed helpfulness metric is fundamental to assessing the benefit that a partner has on a team for a given task. In this paper, we define helpfulness, illustrate it on concrete examples from a variety of domains, discuss its properties and ramifications for planning interactions with humans, and present preliminary results.

研究の動機と目的

• 人間-ロボット協働におけるロボット支援度を測定可能でタスク指向の指標として定義すること。
• ロボットが人間のタスクをどれだけ効果的に支援するかを形式的かつ定量的に評価する基準の欠如に対処すること。
• 支援度を計画および実行プロセスに統合し、ロボットがより支援的行動を取るよう導くこと。
• 意思決定におけるリスク許容度が、ロボット行動の期待される支援度に与える影響を評価すること。

提案手法

• 支援度 H をチームコストの相対的低減として定義：H_R = (cost(human alone) - cost(human-robot team)) / cost(human alone)。
• ステップ数にとどまらず、時間や作業負担など、柔軟なコスト関数を用いて多様な分野に適用可能である。
• PDDLモデルを用いて因果的依存関係を符号化し、条件付きシナリオにおける実行順序を計画する。
• ベイジアンネットワークを用いて人間の意図の不確実性をモデル化し、曖昧さ下でのロボット意思決定を支援する。
• リスク許容度 Δ を変化させた2,100回のシミュレーションを実行し、モンテカルロ法を用いて期待される支援度 E[H_R | O] を計算する。
• リスクと支援のバランスを取る意思決定ツールとして、支援度ヒューリスティックと期待される支援度を導入する。

実験結果

リサーチクエスチョン

• RQ1 明示的な目的知識がなくても、人間-ロボット協働における支援度を形式的かつ定量的に定義できるか？
• RQ2 不確実性があり相互作用的なタスクにおいて、リスク回避的意思決定はロボットの期待される支援度をどの程度低下させるか？
• RQ3 コスト関数の選択が、支援度指標の解釈と実用性に与える影響は何か？
• RQ4 支援度指標を計画アルゴリズムに統合し、ロボットがより支援的行動を取るよう導けるか？
• RQ5 シミュレートされたロボット行動は、現実世界の相互作用における人間の支援度期待とどの程度一致するか？

主な発見

• ロボットがよりリスク回避的になるにつれ、期待される支援度が低下し、特に Δ = 0.5 付近で顕著な低下が観察された。
• ブルーベリー・パイの例では、相対的支援度指標がチーム効率を33.3％向上させ、作業手順を9ステップから6ステップに削減した。
• シミュレーションでは、リスクの高いロボット行動が期待される支援度を向上させる一方で、障害発生率も上昇した。
• この指標は、能動的支援と誤ったまたは逆効果の行動のリスクの間のトレードオフを効果的に定量化できた。
• モデルは、人間の意図が曖昧な場合に特に、行動選択と不確実性の解消が支援度に敏感であることを示した。
• 結果から、定量的支援度指標が人間の支援期待に適合するようにロボットの計画をガイドできる可能性があることが示唆された。