[論文レビュー] Are We On The Same Page? Hierarchical Explanation Generation for Planning Tasks in Human-Robot Teaming using Reinforcement Learning

Mehrdad Zakershahrak, Samira Ghodratnama|arXiv (Cornell University)|Dec 21, 2020

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本稿では、人間の認知的負荷に応じて詳細な計画を多段階の説明に抽象化することで、人間-ロボットチーム作業における説明を適応的に生成する階層的強化学習（H-RL）フレームワークを提案する。説明生成を目的ベースのマルコフ決定過程としてモデル化することで、情報の階層的順序に関する人間の好みを学習し、ベースライン手法と比較して認知的負荷と説明時間の両方を低減しながら、人間の反応を94.4％の正確さで再現した。

ABSTRACT

Providing explanations is considered an imperative ability for an AI agent in a human-robot teaming framework. The right explanation provides the rationale behind an AI agent's decision-making. However, to maintain the human teammate's cognitive demand to comprehend the provided explanations, prior works have focused on providing explanations in a specific order or intertwining the explanation generation with plan execution. Moreover, these approaches do not consider the degree of details required to share throughout the provided explanations. In this work, we argue that the agent-generated explanations, especially the complex ones, should be abstracted to be aligned with the level of details the human teammate desires to maintain the recipient's cognitive load. Therefore, learning a hierarchical explanations model is a challenging task. Moreover, the agent needs to follow a consistent high-level policy to transfer the learned teammate preferences to a new scenario while lower-level detailed plans are different. Our evaluation confirmed the process of understanding an explanation, especially a complex and detailed explanation, is hierarchical. The human preference that reflected this aspect corresponded exactly to creating and employing abstraction for knowledge assimilation hidden deeper in our cognitive process. We showed that hierarchical explanations achieved better task performance and behavior interpretability while reduced cognitive load. These results shed light on designing explainable agents utilizing reinforcement learning and planning across various domains.

研究の動機と目的

• 人間-ロボットチーム作業における複雑な計画タスクの実行中に、人間の認知的負荷を維持する課題に対処すること。
• 説明における情報の階層的順序に関する人間の好みをモデル化し、一度にすべての詳細が同等に重要であるとは限らないことを認識すること。
• 詳細の抽象化と解釈可能性の両立を図る、一般化可能な階層的説明生成フレームワークの開発。
• 強化学習を用いて最適な説明シーケンスを学習することで、人間のチームメイトの認知的および時間的負荷を低減すること。
• 人間の認知処理に合わせた説明構造の整合性を図ることで、タスクパフォーマンスと行動の解釈可能性を向上させること。

提案手法

• フレームワークは、説明生成を目的ベースのマルコフ決定過程（MDP）としてモデル化し、状態は計画詳細の抽象化レベルを表す。
• 強化学習を用いて、人間のフィードバックトレースに基づき次の説明ステップを選択する方策を学習する。
• 階層的抽象化を採用し、まず高レベルの説明を生成し、その後に段階的に詳細なサブ説明を提示する。
• 説明生成を計画実行と統合することで、段階的提示による情報過多の低減を実現する。
• 探索空間の縮小と説明生成における推論効率の向上を図るため、決定的方策を用いる。
• 人間-ロボット相互作用トレースを用いて、説明順序および詳細レベルに関する好みを学習する。

実験結果

リサーチクエスチョン

• RQ1 人間は、複雑な計画タスクにおける説明詳細の階層的順序に関して一貫した好みを示すか？
• RQ2 強化学習は、人間-ロボットチーム作業における説明の抽象化レベルに関する人間の好みを効果的にモデル化できるか？
• RQ3 階層的説明生成は、平坦な方法や非階層的な段階的提示と比較して、人間の認知的負荷を低減するか？
• RQ4 学習済みの説明方策は、新しいシナリオに一般化可能であり、高いタスクパフォーマンスと解釈可能性を維持できるか？
• RQ5 説明の正確性、時間、負荷の観点から、階層的説明フレームワークは既存手法とどのように比較されるか？

主な発見

• H-RLフレームワークは、10のスカベンジャーハントシナリオにおいて、人間の反応を94.4％の正確さで再現し、OEG（86.6％）およびPEG（77.5％）を顕著に上回った。
• H-RLでは、1シナリオあたりの説明アクションの平均数が3.17にまで低下し、OEG（9.3）およびPEG（9.0）と比較して顕著に認知的負担が低減された。
• 主観的負荷測定（TLX）では、H-RLが最も低い認知的および時間的負担を示し、OEGおよびPEGと比較して統計的に有意な差（p < 0.05）を示した。
• H-RLの説明生成時間は、1シナリオあたり平均25.37秒であり、OEG（43.3秒）およびPEG（35.9秒）と比較して顕著に短縮された。
• 結果から、完全な詳細提示や段階的提示よりも、抽象化がより効果的であることが確認された。PEGは段階的提示であったにもかかわらず、H-RLよりパフォーマンスが悪かった。
• 本研究は、説明生成が階層的認知プロセスであることを検証し、その階層性をモデル化することで、解釈可能性とタスクパフォーマンスの両方が向上することを示した。