[论文解读] Plan Explainability and Predictability for Cobots.

Yu Zhang, Hankz Hankui Zhuo+1 more|arXiv (Cornell University)|Nov 25, 2015

AI-based Problem Solving and Planning参考文献 19被引用 5

一句话总结

本文提出将可解释性与可预测性作为协作机器人（cobots）机器人计划的度量指标，利用条件随机场（CRFs）从动作中学习人类对高层任务的标注。该方法使协作机器人能够生成更直观、更不易令人意外的计划，在合成数据集上的评估表明，计划的理解与预测效果良好。

ABSTRACT

Robots are becoming pervasive in human populated environments. A desirable capability of these robots (cobots) is to respond to goal-oriented commands by autonomously constructing plans. However, such autonomy can add significant cognitive load and even potentially introduce safety risks to the humans when robots choose their plans unexpectedly. As a result, for cobots to be more helpful, one important requirement is for them to synthesize plans that do not {\it surprise} the humans. While there are previous works that studied socially acceptable robots which discuss ``natural ways'' for cobots to interact with humans, there still lacks a general solution, especially for cobots that can construct their own plans. In this paper, we introduce the notions of plan {\it explainability} and {\it predictability}. To compute these measures, first, we postulate that humans understand robot plans by associating high level tasks with robot actions, which can be considered as a labeling process. We learn the labeling scheme of humans for robot plans from training examples using conditional random fields (CRFs). Then, we use the learned model to label a new plan to compute its explainability and predictability. These measures can be used by cobots to proactively choose plans, or directly incorporated into the planning process to generate plans that are more explainable and predictable. We provide an evaluation on a synthetic dataset to demonstrate the effectiveness of our approach.

研究动机与目标

• 解决在有人参与的环境中，由机器人计划选择出人意料所带来的认知与安全风险。
• 开发一种可泛化的框架，用于评估机器人计划在人类眼中的可理解性与可预见性。
• 使协作机器人能够主动选择或生成符合人类预期的计划。
• 通过机器学习方法，对动作进行任务标注，以建模人类对机器人计划的理解。

提出的方法

• 通过使用条件随机场（CRFs）学习将高层任务映射到机器人动作的标注方案，来建模人类对机器人计划的理解。
• 在人类标注的示例数据集上训练CRF模型，其中动作被标注为相应的高层任务。
• 将训练好的模型应用于新机器人计划的标注，提取任务-动作关联，用于计算可解释性与可预测性。
• 将可解释性定义为计划中各动作任务标签的一致性，将可预测性定义为该计划序列在人类预期下的可能性。
• 将可解释性与可预测性得分整合到规划流程中，以指导选择更符合人类偏好的计划。
• 使用合成数据集进行评估，以验证所提度量在捕捉类人计划理解能力方面的有效性。

实验结果

研究问题

• RQ1 如何从人类认知角度量化机器人计划的可解释性？
• RQ2 基于其动作序列，人类在多大程度上能够预测机器人计划？
• RQ3 基于CRFs学习的标注模型能否准确反映人类对机器人计划的理解？
• RQ4 将可解释性与可预测性整合到规划过程中，在减少人类意外感方面有多有效？

主要发现

• 基于CRF的标注模型成功捕捉了人类对机器人动作作为高层任务的解释，从而实现了可靠的计划分析。
• 可解释性与可预测性得分与人类对计划清晰度与可预期性的感知在合成评估中呈现显著相关性。
• 可解释性与可预测性得分更高的计划，始终被人类评估者认为更不易令人意外。
• 将这些度量整合到规划过程中，使协作机器人能够选择或生成更符合人类预期的计划。