[論文レビュー] Planning for Proactive Assistance in Environments with Partial Observability

Anagha Kulkarni, Siddharth Srivastava+1 more|arXiv (Cornell University)|May 2, 2021

AI in Service Interactions被引用数 4

ひとこと要約

本稿では、部分的に観察可能な環境における能動的AI支援のためのモンテカルロ木探索（MCTS）ベースのフレームワークを提案する。このエージェントは、コミュニケーション行動を通じて人間の信念状態を戦略的に変化させることで、人間のタスクコストを低減する。ユーザースタディを通じて、理解しやすい信念状態を変化させる行動が、人間の支援認識を高め、負荷と計画作業の負担を低減することを示している。

ABSTRACT

This paper addresses the problem of synthesizing the behavior of an AI agent that provides proactive task assistance to a human in settings like factory floors where they may coexist in a common environment. Unlike in the case of requested assistance, the human may not be expecting proactive assistance and hence it is crucial for the agent to ensure that the human is aware of how the assistance affects her task. This becomes harder when there is a possibility that the human may neither have full knowledge of the AI agent's capabilities nor have full observability of its activities. Therefore, our \ extit{proactive assistant} is guided by the following three principles: \ extbf{(1)} its activity decreases the human's cost towards her goal; \ extbf{(2)} the human is able to recognize the potential reduction in her cost; \ extbf{(3)} its activity optimizes the human's overall cost (time/resources) of achieving her goal. Through empirical evaluation and user studies, we demonstrate the usefulness of our approach.

研究の動機と目的

• 人間がAIの行動を十分に観察できず、支援を期待していない環境における能動的支援の課題に対処すること。
• 能動的支援が人間のタスクコストを効果的に低減するとともに、人間が認識できるようにすることで、混乱や抵抗を避けること。
• 支援の利点とエージェント行動の処理に伴う認知的負担の両者をバランスさせ、人間が負担する総合的コスト（時間/リソース）を最適化すること。
• AIエージェントが人間の信念状態を推論し、観察可能性を制御することで、コスト削減の利益を効果的に通信できるフレームワークを開発すること。
• 実証的評価およびユーザースタディを通じて、理解しやすい信念状態を変化させる行動が人間の認識を高め、負荷を低減することを検証すること。

提案手法

• フレームワークは、人間とAIエージェントの部分的共同計画をサンプリングおよび評価するためにモンテカルロ木探索（MCTS）を用いる。
• 人間のコスト、認識度、総合的作業負担に与える影響に基づき、支援行動の効用を評価するための効用ツリーを構築する。
• 人間の信念状態を変化させ、支援の認識を高めるために、アイテムの表示や部屋のクリア状態のアナウンスといったコミュニケーション行動を合成する。
• 情報の選択的公開・非公開（例：ワゴン内の医療キットの表示、空き部屋の示唆）により、人間の観察可能性を制御し、認知的負担を低減する。
• 認識的行動（例：発話行為）と認識的効果を有する実在的行動を統合し、人間が支援の利益を推論できるようにする。
• 人間のコスト低減、コスト削減の認識可能性、エージェント行動処理に伴う総合的作業負担の最小化という3つの原則をバランスさせる。

実験結果

リサーチクエスチョン

• RQ1 部分的に観察可能な環境において、人間が支援を期待していない状況でも、能動的AIアシスタントが人間のタスクコストを効果的に低減できるか。
• RQ2 理解しやすい信念状態を変化させる行動が、人間の能動的支援認識をどの程度向上させるか。
• RQ3 コミュニケーション行動の導入が、人間の認識負荷および計画作業負担にどのような影響を与えるか。
• RQ4 エージェントの行動を、タスクコスト削減と人間の認知的負担の両面で最適化できるか。
• RQ5 戦略的な情報公開（例：アイテムの表示、クリア済み部屋の示唆）が、人間のタスクパフォーマンスおよび認識に与える影響は何か。

主な発見

• ユーザースタディ1では、理解しやすい行動（ワゴン内物品の表示）を含めた場合、31人中25人がロボットの支援行動を認識したのに対し、ベースラインでは31人中6人が認識した。
• ユーザースタディ2では、理解しやすい行動（クリア済み部屋のアナウンス）を含めた場合、27人中24人がロボットの支援を認識したのに対し、ベースラインでは27人中6人が認識した。
• プロアクティブアシスタント（PA）条件の平均負荷スコアは5.96（7段階スケール）であり、ベースラインの3.22よりも顕著に高かった（p < 0.0000001、Cohenのd = 1.89）。
• PAのエージェント行動処理に要する作業負担の平均は6.06、ベースラインは3.45であり、p値 < 0.05、効果量1.62であった。
• スタディ2では、PAが負荷を5.55にまで低減した（ベースラインは2.74）、p値 < 0.05、効果量1.95。
• PAの処理作業負担平均は5.85、ベースラインは3.55であり、p値 < 0.05、効果量1.67であった。理解しやすい行動により認知的負担が低減していることが確認された。