[论文解读] Planning for Proactive Assistance in Environments with Partial Observability

Anagha Kulkarni, Siddharth Srivastava+1 more|arXiv (Cornell University)|May 2, 2021

AI in Service Interactions被引用 4

一句话总结

本文提出了一种基于蒙特卡洛树搜索（MCTS）的框架，用于在部分可观察环境中实现主动AI协助，其中智能体通过沟通行为战略性地调节人类的信念状态，从而降低人类的任务成本。通过用户研究证明，清晰且能调节信念状态的行为显著提升了人类对协助的意识，同时降低了感知的工作负荷和规划负担。

ABSTRACT

This paper addresses the problem of synthesizing the behavior of an AI agent that provides proactive task assistance to a human in settings like factory floors where they may coexist in a common environment. Unlike in the case of requested assistance, the human may not be expecting proactive assistance and hence it is crucial for the agent to ensure that the human is aware of how the assistance affects her task. This becomes harder when there is a possibility that the human may neither have full knowledge of the AI agent's capabilities nor have full observability of its activities. Therefore, our \ extit{proactive assistant} is guided by the following three principles: \ extbf{(1)} its activity decreases the human's cost towards her goal; \ extbf{(2)} the human is able to recognize the potential reduction in her cost; \ extbf{(3)} its activity optimizes the human's overall cost (time/resources) of achieving her goal. Through empirical evaluation and user studies, we demonstrate the usefulness of our approach.

研究动机与目标

• 解决在人类无法充分观察AI行为且可能不期望帮助的环境中实现主动协助的挑战。
• 确保主动协助在降低人类任务成本的同时，能够被人类识别，以避免混淆或抵触。
• 通过平衡协助收益与处理智能体行为带来的认知负担，最小化人类整体成本（时间/资源）。
• 开发一种框架，使AI智能体能够推理人类的信念状态，并通过控制可观测性来有效传达成本降低的益处。
• 通过实证评估和用户研究验证，清晰且能调节信念状态的行为可提升人类意识并降低感知任务负荷。

提出的方法

• 该框架使用蒙特卡洛树搜索（MCTS）来采样和评估人类与AI智能体之间的部分联合计划。
• 它构建了一个效用树，基于对人类成本、意识和整体努力的影响来评估协助行为。
• 智能体合成沟通行为（如展示物品或宣布已清理的房间），以调节人类的信念状态，提高对协助的识别度。
• 系统通过选择性地揭示或隐藏信息（如展示手推车中的医疗包、表明房间为空）来控制人类的可观测性，从而降低认知负荷。
• 它整合了认知性动作（如言语行为）和具有认知影响的本体性动作，以确保人类能够推断出协助的益处。
• 该方法平衡了三个原则：降低人类成本、实现对成本降低的意识，以及最小化人类处理智能体行为所导致的整体努力。

实验结果

研究问题

• RQ1 在人类可能不期望帮助的部分可观察环境中，主动AI助手是否能有效降低人类任务成本？
• RQ2 清晰且能调节信念状态的行为在多大程度上提升了人类对主动协助的意识？
• RQ3 沟通行为的引入在多大程度上影响了人类的感知工作负荷和规划负担？
• RQ4 智能体的行为是否可以被合成，以同时优化任务成本降低与人类的认知负担？
• RQ5 战略性信息披露（如展示物品、标明已清理的房间）对人类任务表现和感知有何影响？

主要发现

• 在用户研究1中，31名参与者中有25名在包含清晰动作（展示手推车内容）的情况下识别出机器人的协助行为，而基线组中仅有6名参与者识别出。
• 在用户研究2中，27名参与者中有24名在包含清晰动作（宣布已清理的房间）的情况下识别出机器人的协助，而基线组中仅有6名参与者识别出。
• 主动助手（PA）条件下的平均工作负荷得分为5.96（7分制），显著高于基线的3.22（p < 0.0000001，Cohen's d = 1.89）。
• PA条件下的行为处理努力平均分为6.06，基线为3.45，p值 < 0.05，效应量为1.62。
• 在研究2中，PA将感知工作负荷降低至5.55（基线为2.74），p值 < 0.05，效应量为1.95。
• PA的平均处理努力为5.85，基线为3.55，p值 < 0.05，效应量为1.67，证实了清晰动作可降低认知负担。