[论文解读] Interactive Plan Explicability in Human-Robot Teaming

Mehrdad Zakershahrak, Yu Zhang|arXiv (Cornell University)|Jan 17, 2019

AI-based Problem Solving and Planning参考文献 15被引用 6

一句话总结

本文提出了一种名为交互式计划可解释性的新框架，通过在交互式、序列化任务中使机器人生成的计划与人类预期保持一致，从而提升人机协作效果。通过整合人类对机器人的预期模型，并利用条件随机场对动作进行可解释性标注，该方法生成的计划可解释性得分（0.820）几乎与人类计划（0.811）相当，显著优于标准前向规划器生成的计划（0.672），从而实现了更直观、高效的协作。

ABSTRACT

Human-robot teaming is one of the most important applications of artificial intelligence in the fast-growing field of robotics. For effective teaming, a robot must not only maintain a behavioral model of its human teammates to project the team status, but also be aware that its human teammates' expectation of itself. Being aware of the human teammates' expectation leads to robot behaviors that better align with human expectation, thus facilitating more efficient and potentially safer teams. Our work addresses the problem of human-robot cooperation with the consideration of such teammate models in sequential domains by leveraging the concept of plan explicability. In plan explicability, however, the human is considered solely as an observer. In this paper, we extend plan explicability to consider interactive settings where human and robot behaviors can influence each other. We term this new measure as Interactive Plan Explicability. We compare the joint plan generated with the consideration of this measure using the fast forward planner (FF) with the plan created by FF without such consideration, as well as the plan created with actual human subjects. Results indicate that the explicability score of plans generated by our algorithm is comparable to the human plan, and better than the plan created by FF without considering the measure, implying that the plans created by our algorithms align better with expected joint plans of the human during execution. This can lead to more efficient collaboration in practice.

研究动机与目标

• 为解决在人机协作中，人类与机器人对环境及彼此的理解存在差异，导致协作效率低下的挑战。
• 将传统计划可解释性（此前专为被动观察设计）扩展至交互式场景，其中人类与机器人的行为相互影响。
• 开发一种规划框架，生成与人类预期一致的联合计划，降低认知负荷并提升协作效率。
• 在模拟的第一响应任务领域中评估该方法，采用模拟人类实验与基于CRF的标注模型进行可解释性评分。
• 证明采用交互式可解释性的机器人计划比标准规划器生成的计划更接近人类预期的计划。

提出的方法

• 该方法使用近似的人类规划模型（$\widetilde{M_H}$）建模人类的预期行为，而机器人则使用自身的模型（$M_R$）生成复合计划。
• 采用条件随机场（CRFs）从人机交互轨迹中学习动作标注，将高层任务映射为动作，以进行可解释性评估。
• 可解释性通过非空标签动作数与总动作数的比值计算：$F_{\theta}(L_{\pi}) = \frac{\sum_{i \in [1,N]} 1_{L(a_i) \neq \emptyset}}{N}$，其中值越高表示可解释性越强。
• 机器人使用启发式搜索方法（公式4）生成计划，在联合的人类与机器人预期模型下，最大化可解释性并最小化成本。
• 系统在包含16个训练问题与4个测试问题的模拟第一响应任务领域中进行评估，涵盖可见与隐藏障碍物。
• 计划通过可解释性比率与各场景的详细评分进行评估，比较所提方法、FF规划器与实际人类计划的表现。

实验结果

研究问题

• RQ1 如何改进机器人规划，使其在交互式人机协作中与人类预期保持一致？
• RQ2 通过建模人类的预期行为与期望，机器人计划的可解释性可提升到何种程度？
• RQ3 在共享任务环境中，机器人生成计划的可解释性与人类生成计划及标准规划器输出相比如何？
• RQ4 结合成本与可解释性的混合规划方法是否能减少不一致并提升协作表现？
• RQ5 信息不对称（如隐藏障碍物）对计划可解释性与团队协作有何影响？

主要发现

• 所提方法生成计划的交互式可解释性得分为0.820，与人类计划得分0.811非常接近，表明与人类预期高度一致。
• FF规划器生成的计划可解释性比率为0.672，显著偏低，表明尽管成本较低，但与人类预期的对齐程度较差。
• 在单个测试场景中，所提方法的可解释性得分范围为0.714至0.800，优于FF规划器的得分范围（0.56至0.800）。
• 在场景1中，FF规划与交互式可解释性规划均达到完美的可解释性得分1.0，表明该情况下具有高度可标注性。
• 结果表明，所提方法生成的计划在视觉与定量上均与人类计划相似，如图4所示，表明协作可预测性得到提升。
• 研究证实，在规划过程中考虑人类预期可带来更直观、潜在更高效的协作，但实际性能仍需进一步通过人机协同实验验证。