[論文レビュー] Balancing Explicability and Explanation in Human-Aware Planning

Tathagata Chakraborti, Sarath Sreedharan+1 more|arXiv (Cornell University)|Aug 1, 2017

AI-based Problem Solving and Planning参考文献 30被引用数 16

ひとこと要約

本稿では、ロボットのモデルにおける計画の最適性と人間の心的モデルとの整合性の間のトレードオフを最適化することで、人間を意識した計画における説明可能性と説明生成のバランスをとるMEGAと呼ばれるモデル空間探索手法を提案する。この手法により、人間にとって説明可能でありながら、説明にかかるコストが最小限に抑えられた計画の生成が可能となり、人間を含む実験により、計画コスト、説明長、ユーザー行動のトレードオフが明らかになった。

ABSTRACT

Human aware planning requires an agent to be aware of the intentions, capabilities and mental model of the human in the loop during its decision process. This can involve generating plans that are explicable to a human observer as well as the ability to provide explanations when such plans cannot be generated. This has led to the notion "multi-model planning" which aim to incorporate effects of human expectation in the deliberative process of a planner - either in the form of explicable task planning or explanations produced thereof. In this paper, we bring these two concepts together and show how a planner can account for both these needs and achieve a trade-off during the plan generation process itself by means of a model-space search method MEGA. This in effect provides a comprehensive perspective of what it means for a decision making agent to be "human-aware" by bringing together existing principles of planning under the umbrella of a single plan generation process. We situate our discussion specifically keeping in mind the recent work on explicable planning and explanation generation, and illustrate these concepts in modified versions of two well known planning domains, as well as a demonstration on a robot involved in a typical search and reconnaissance task with an external supervisor.

研究の動機と目的

• ロボットのモデルと人間のモデルの不一致により、最適なロボット計画が人間にとって説明不能になるという課題に対処すること。
• 説明可能性と説明を統合した単一の計画生成プロセスとしての統一フレームワークを構築すること。
• ロボットの最適性からの計画の逸脱コストを最小限に抑えつつ、人間ユーザーが負担を負う説明の認知的負荷を低減すること。
• 現実のヒューマンロボットインタラクションシナリオにおいて、計画コスト、説明長、ユーザー行動パターンのトレードオフを実証的に評価すること。

提案手法

• MEGA（代替計画のためのモデル空間探索）を提案する。これは、ロボットのモデルにおける最適性と人間の期待との整合性を両立させる計画を発見するために、人間の心的モデルの空間を探索する探索ベースの手法である。
• ロボットのモデルにおける計画コストと、人間への計画説明のコストを組み合わせた重み付き目的関数を用い、ハイパーパrameter α がトレードオフを制御する。
• モデルの一致を図ることで、人間のモデルを更新し、ロボットの元の計画が更新されたモデルにおいて最適になるようにし、説明をモデル一致の手段として活用する。
• 通信オーバーヘッドを低減するために、最小限の説明技術を適用し、説明が要点に集中し、簡潔になるようにする。
• 探索およびレコンサイルタスクを実行するロボットを用いたヒューマンインザループ実験により、計画品質、説明要求、ユーザー行動を評価する。
• ユーザーの反応パターン（例：説明要求のクリックスルーレート）に基づいて、トレードオフパrameter α を個人の好みに合わせて適応的に調整する。

実験結果

リサーチクエスチョン

• RQ1 ロボットのモデルと人間のモデルが乖離している状況で、説明可能な計画の生成コストと説明の提供コストの両立はどのように達成できるか？
• RQ2 計画コストと説明長が、ヒューマンロボットインタラクションにおける人間の認識とユーザー行動に与える影響は何か？
• RQ3 ユーザーは説明不能な計画に対してどのように反応するのか？また、ユーザーの反応パターンは、説明可能性と説明のトレードオフの適応的チューニングにどのように寄与できるか？
• RQ4 モデル一致により、人間のモデルをロボットのモデルと一致させることで、説明の必要性を効果的に低減できるか？

主な発見

• ロボットの計画コストは、最適な計画から説明可能な計画へ移行するに従い増加しており、最適性と説明可能性の間には明確なトレードオフがあることが示された。
• 参加者の約3分の1が、計画が説明可能であるにもかかわらず説明を要求した。これはリスク回避行動のパターンを示しており、ユーザーに認知的負荷がかかる可能性を示唆している。
• 説明要求へのユーザー反応は二峰性分布を示しており、一部のユーザーは非常にリスク回避的であり、他のユーザーはそれほどでないことが明らかになった。これは、個別にαをチューニングする必要があることを示唆している。
• 本手法により、計画品質を維持したまま説明の長さを短縮できた。これは、最小限の説明が通信オーバーヘッドを低減するのに効果的であることを示している。
• ヒューマンファクター研究により、本手法がユーザーの信頼を向上させ、混乱を軽減することが確認された。特に、説明可能でありながら説明にかかるコストが最小限の計画では顕著であった。
• 実時間でのユーザーのフィードバックに基づく、説明可能性と説明のトレードオフパrameter α の適応的かつユーザー固有のキャリブレーションの必要性が、本研究の結果で裏付けられた。