[論文レビュー] When Humans Aren't Optimal: Robots that Collaborate with Risk-Aware Humans

Minae Kwon, Erdem Bıyık+4 more|arXiv (Cornell University)|Jan 13, 2020

Decision-Making and Behavioral Economics参考文献 46被引用数 4

ひとこと要約

本稿では、不確実性下での人間-ロボット協調を改善するために、累積 Prospect Theory (CPT) に基づくリスク感受性人間モデルを提案する。従来のノイズあり合理的モデルに代えてリスク感受性フレームワークを採用することで、ロボットはリスクのある状況における非最適な人間行動をより良く予測でき、自動運転やコップ積み上げタスクにおいて、より安全で効率的な相互作用が実現する。

ABSTRACT

In order to collaborate safely and efficiently, robots need to anticipate how their human partners will behave. Some of today's robots model humans as if they were also robots, and assume users are always optimal. Other robots account for human limitations, and relax this assumption so that the human is noisily rational. Both of these models make sense when the human receives deterministic rewards: i.e., gaining either $100 or $130 with certainty. But in real world scenarios, rewards are rarely deterministic. Instead, we must make choices subject to risk and uncertainty--and in these settings, humans exhibit a cognitive bias towards suboptimal behavior. For example, when deciding between gaining $100 with certainty or $130 only 80% of the time, people tend to make the risk-averse choice--even though it leads to a lower expected gain! In this paper, we adopt a well-known Risk-Aware human model from behavioral economics called Cumulative Prospect Theory and enable robots to leverage this model during human-robot interaction (HRI). In our user studies, we offer supporting evidence that the Risk-Aware model more accurately predicts suboptimal human behavior. We find that this increased modeling accuracy results in safer and more efficient human-robot collaboration. Overall, we extend existing rational human models so that collaborative robots can anticipate and plan around suboptimal human behavior during HRI.

研究の動機と目的

• 既存のロボットが人間を完全に最適またはノイズあり合理的であると仮定するという限界を是正する。これは、現実世界のリスクと不確実性下では成立しない。
• 人間の意思決定を純粋に合理的ではなく、リスク感受性としてモデル化することで、不確実性下における認知バイアス（リスク回避やリスク求心）を反映する。
• 行動経済学の原則を人間-ロボット相互作用（HRI）モデルに統合することで、ロボットの計画と協調を改善する。
• 実証的に、リスク感受性モデルがノイズあり合理的モデルを上回ることを確認し、人間行動の予測精度と協調の質の向上を検証する。

提案手法

• 非線形な確率と結果の重み付けを捉えることができる累積 Prospect Theory (CPT) を、人間意思決定モデルの中心として採用する。
• ロボットが人間のリスク感受性の好みを、認識された報酬と確率に基づいてモデル化する、理論的思考（ToM）フレームワークを形式化する。
• CPT を確率的推論システムに統合し、リスク下での人間行動を予測する。標準的な期待効用最大化の代わりに、プロスペクト価値関数を用いる。
• 同じ人間のデモンストレーションデータを用いて、ノイズあり合理的ベースラインとリスク感受性モデルの両方を学習・比較する。
• 予測された人間行動を根拠にロボットの計画をガイドし、干渉を最小限に抑え、協調的状況でのタスク効率を向上させる。
• シミュレーテッド自動運転と物理的コップ積み上げタスクでのユーザースタディを実施し、モデルの正確性と協調の質を評価する。

実験結果

リサーチクエスチョン

• RQ1 累積 Prospect Theory に基づくリスク感受性人間モデルは、ノイズあり合理的モデルに比べて、不確実性が高く、リスクの伴う状況下での人間行動をより正確に予測できるか？
• RQ2 どのような意思決定シナリオにおいて、リスク感受性モデリングがロボットの行動予測と協調性の向上に最も重要となるか？
• RQ3 リスク感受性モデルを用いることで、従来の合理的モデルに比べ、より安全で効率的な人間-ロボット協調が実現できるか？
• RQ4 人間ユーザーは、リスク回避的またはリスク求心的傾向を予測できるロボットに対して、どのように感じて反応するか？

主な発見

• 累積 Prospect Theory に基づくリスク感受性モデルは、自動運転シミュレーションおよび物理的コップ積み上げタスクの両方で、ノイズあり合理的ベースラインを著しく上回る人間行動予測精度を示した。
• コップ積み上げタスクにおいて、参加者はリスク感受性ロボットと協調する際、タスク完了時間が短く、干渉の感じが少ないと報告した。ノイズあり合理的ロボットと比較して顕著な改善が見られた。
• 参加者はリスク感受性ロボットを主観的に好んだ。効率的で、自分の意図と整合性があると感じた。わずかではあるが、有意な好意的傾向（p < .07）が確認された。
• ユーザーは、ノイズあり合理的ロボットが、自分自身が手を伸ばしているコップと同じものをつかもうとして干渉することが多く、タスク時間の増加を引き起こしていたと報告した。
• リスク感受性ロボットは、人間が不安定なコップをつかもうとしないことを予測することで、干渉を低減した。
• より長いホライズンを持つグリッドワールド実験では、リスク感受性モデルがノイズあり合理的モデルよりも、人間行動のシーケンスをより高い正確性で予測した。