[论文解读] Progressive Explanation Generation for Human-robot Teaming

Yu Zhang, Mehrdad Zakershahrak|arXiv (Cornell University)|Feb 2, 2019

AI-based Problem Solving and Planning参考文献 23被引用 4

一句话总结

本文提出渐进式解释生成（PEG），通过优化解释步骤的顺序以减少人类队友的认知负担，从而最小化其认知努力。该方法将解释建模为一个序列决策问题，利用模型距离启发式方法，表明PEG生成的解释在长度上几乎与简洁解释相当，但显著降低了累积认知努力，尤其在机器人与人类模型不匹配的情况下效果更明显。

ABSTRACT

Generating explanation to explain its behavior is an essential capability for a robotic teammate. Explanations help human partners better understand the situation and maintain trust of their teammates. Prior work on robot generating explanations focuses on providing the reasoning behind its decision making. These approaches, however, fail to heed the cognitive requirement of understanding an explanation. In other words, while they provide the right explanations from the explainer's perspective, the explainee part of the equation is ignored. In this work, we address an important aspect along this direction that contributes to a better understanding of a given explanation, which we refer to as the progressiveness of explanations. A progressive explanation improves understanding by limiting the cognitive effort required at each step of making the explanation. As a result, such explanations are expected to be smoother and hence easier to understand. A general formulation of progressive explanation is presented. Algorithms are provided based on several alternative quantifications of cognitive effort as an explanation is being made, which are evaluated in a standard planning competition domain.

研究动机与目标

• 解决现有解释生成方法仅关注机器人视角而忽视人类认知局限性的不足。
• 通过最小化解释理解所需的认知努力，提升人类在人机协作中的理解能力。
• 将解释建模为一个序列过程，其中信息传递的顺序影响理解效率。
• 提出一种通用的渐进式解释生成形式化方法，以考虑机器人与人类伙伴之间认知模型的差异。
• 在标准规划领域中，评估PEG相较于简洁解释在降低累积认知努力方面的有效性。

提出的方法

• 将渐进式解释生成建模为一个序列决策问题，旨在随时间最小化认知努力。
• 使用机器人模型（$M^R$）与人类模型（$M^H$）之间的模型-计划距离度量来定义每一步的认知努力。
• 采用基于特征不匹配（前提条件、添加/删除效果）的A*搜索算法，对每个特征变化施加惩罚。
• 使用模型特征的缺失概率来模拟人类理解中的不确定性，评估中该值范围为0.06至0.14。
• 通过测量解释大小、计算时间及累积认知努力（$\sum \rho_i$）对比PEG与简洁解释。
• 在使用Fast Downward作为底层规划器的火星车领域中评估该方法，结果基于两个问题实例。

实验结果

研究问题

• RQ1 如何通过考虑人类解释接收者所需的认知努力，而非仅从机器人的视角，来改进解释生成？
• RQ2 与非序列或简洁解释相比，渐进式地按顺序组织解释步骤在多大程度上能降低累积认知努力？
• RQ3 随着模型不匹配程度的增加（即人类模型中缺失特征增多），渐进式解释生成的性能和计算时间将如何变化？
• RQ4 渐进式解释是否能在人机协作中实现简洁性与认知效率之间的有利权衡？
• RQ5 不同距离度量对渐进式解释生成的质量与效率有何影响？

主要发现

• PEG生成的解释在长度上几乎与简洁解释相当，仅略有增加，但显著降低了累积认知努力（$\sum \rho_i$）。
• 在第一个火星车问题中，尽管计算时间更长，PEG解释的$\sum \rho_i$值低于简洁解释，表明认知负荷更低。
• 随着人类模型中缺失特征数量的增加，PEG的计算时间急剧上升，当缺失概率为0.11且有11个特征缺失时，搜索时间达到1342.1秒。
• 当无特征缺失（缺失概率为0.14）时，PEG的搜索时间降至仅0.7秒，证实计算成本与模型不匹配程度密切相关。
• 解释大小对计算时间的影响极小，除非解释大小为零，此时无需进行搜索。
• 结果表明，PEG能有效平衡简洁性与认知效率，使其成为实时人机协作应用的可行方案。