[论文解读] Towards Empathetic Planning

Maayan Shvo, Sheila A. McIlraith|arXiv (Cornell University)|Jun 14, 2019

Multi-Agent Systems and Negotiation参考文献 23被引用 5

一句话总结

本文提出了共情规划（EmP），一种利用认识逻辑与认识规划使AI智能体能够根据人类信念和情感状态生成一致计划的框架。通过用户研究证明，参与者认为共情智能体比同理智能体更具有帮助性与共情能力，其中87%的人表示该智能体理解了他们的观点，82%的人认为其具有帮助性。

ABSTRACT

Critical to successful human interaction is a capacity for empathy - the ability to understand and share the thoughts and feelings of another. As Artificial Intelligence (AI) systems are increasingly required to interact with humans in a myriad of settings, it is important to enable AI to wield empathy as a tool to benefit those it interacts with. In this paper, we work towards this goal by bringing together a number of important concepts: empathy, AI planning, and reasoning in the presence of knowledge and belief. We formalize the notion of Empathetic Planning which is informed by the beliefs and affective state of the empathizee. We appeal to an epistemic logic framework to represent the beliefs of the empathizee and propose AI planning-based computational approaches to compute empathetic solutions. We illustrate the potential benefits of our approach by conducting a study where we evaluate participants' perceptions of the agent's empathetic abilities and assistive capabilities.

研究动机与目标

• 开发一种AI规划框架，使智能体能够推理并根据人类的信念和情感状态采取行动。
• 使用认识逻辑形式化共情规划，以表示被共情者心理状态。
• 利用认识规划工具开发一种计算方法，生成与人类自主生成的最优计划相当的计划。
• 评估共情智能体是否被感知为比非共情智能体更具帮助性与情感智能。
• 通过将认知共情融入规划系统，弥合AI助手与以人为本推理之间的差距。

提出的方法

• 本文使用丰富的认识逻辑框架形式化共情规划（EmP），以表示被共情者信念与情感状态。
• 将共情者的推理建模为认识规划，其中智能体根据对被共情者心理模型的理解来计算计划。
• 该方法使用现成的认识规划求解器，计算出的解决方案至少与被共情者独立生成的最佳计划一样好。
• 该框架支持对实际行为与预期目标之间差异的推理，使智能体能够推断未满足的需求。
• 通过用户研究评估该方法，将采用EmP的共情智能体与假设共享世界模型的同理智能体进行对比。
• 设计场景以测试共情感知与辅助能力，参与者对智能体在这两个维度上的表现进行评分。

实验结果

研究问题

• RQ1 AI智能体能否在自身模型与人类信念和情感状态不一致的情况下，生成与之对齐的计划？
• RQ2 用户如何感知能够推理人类心理状态的AI智能体的共情能力？
• RQ3 与非共情智能体相比，共情AI智能体是否能带来更高的感知辅助能力？
• RQ4 认识规划能否有效用于建模和计算人机交互中的共情行为？
• RQ5 共情规划在多大程度上能提升现实场景中的计划质量与用户满意度？

主要发现

• 87%的参与者表示强烈同意或同意该共情智能体理解了他们的观点，表明其共情能力感知强烈。
• 82%的参与者表示强烈同意或同意该智能体若作为其自身使用将具有帮助性，显示出高度的感知辅助能力。
• 参与者对共情智能体的共情评分显著高于同理智能体（共情智能体M = 4.21，同理智能体M = 1.72），差异具有统计学意义（t(39) = 12.48，p < 0.01）。
• 研究证实，共情智能体在区分预期目标与实际行为方面表现更优，例如纠正错误的公交路线或建议更隐蔽的沟通方式。
• 在涉及安全、恐惧或社交不适的情境中（如广场恐惧症、听力损失），共情智能体提出的计划更能尊重用户的情感与认知限制。
• 结果表明，将认识规划与共情建模相结合，可使AI行为更具社会智能性与用户可接受性。