[论文解读] Building Second-Order Mental Models for Human-Robot Interaction

Connor Brooks, Daniel Szafır|arXiv (Cornell University)|Jan 1, 2019

Social Robot Interaction and HRI参考文献 51被引用 13

一句话总结

本文提出了一种框架，使机器人能够通过观察网格世界交互中人类的低层次行为，推断人类的二级心理模型——即对机器人行为的信念。通过在行动选择上应用贝叶斯推断，该方法成功地从人类心理模型中泄露信息，尽管存在分类噪声，仍证明了其可行性，并表明通过基于行动的推断提升人机交互意识具有潜力。

ABSTRACT

The mental models that humans form of other agents---encapsulating human beliefs about agent goals, intentions, capabilities, and more---create an underlying basis for interaction. These mental models have the potential to affect both the human's decision making during the interaction and the human's subjective assessment of the interaction. In this paper, we surveyed existing methods for modeling how humans view robots, then identified a potential method for improving these estimates through inferring a human's model of a robot agent directly from their actions. Then, we conducted an online study to collect data in a grid-world environment involving humans moving an avatar past a virtual agent. Through our analysis, we demonstrated that participants' action choices leaked information about their mental models of a virtual agent. We conclude by discussing the implications of these findings and the potential for such a method to improve human-robot interactions.

研究动机与目标

• 探究在人机交互过程中，人类的低层次行为是否能揭示其对机器人的心理模型信息。
• 开发一种框架，使机器人能够基于观察到的人类行为，对二级心理模型执行贝叶斯推断。
• 评估推断出的心理模型是否能提升人机交互中的目标估计或交互意识。
• 探索通过引入人类行为，实现开环人类心理模型估计闭环的可行性。

提出的方法

• 作者设计了一个网格世界环境，参与者通过导航角色穿越具有预设行为的虚拟机器人代理。
• 定义了四种不同的代理模型（静止、固定目标、追击、随机），以代表人类对机器人行为的不同心理模型。
• 应用贝叶斯推断框架，基于观察到的动作序列更新对人类对机器人模型信念的推断。
• 该方法使用概率模型，从离散动作选择中推断人类潜在的心理模型，将动作视为独立观测。
• 通过一项包含40名参与者的在线研究评估该框架，利用动作序列对参与者对代理的真实心理模型进行分类。
• 该方法结合基于行动的推断与目标与心理模型联合估计模型，以评估其对目标推断准确率的影响。

实验结果

研究问题

• RQ1 在人机代理交互过程中，人类的低层次行动选择是否能泄露关于其对代理心理模型的信息？
• RQ2 机器人仅通过观察到的动作，能在多大程度上推断出人类的二级心理模型（即对代理行为的信念）？
• RQ3 将推断出的二级心理模型纳入考虑，是否能提升人机交互中目标推断的准确性？
• RQ4 基于行动的推断错误中是否存在系统性模式，反映心理模型之间的高级认知差异？

主要发现

• I-POMDP状态推断方法在分类参与者对代理的真实心理模型方面显著优于随机猜测，证明了行动选择确实会泄露关于人类心理模型的信息。
• 分类准确率约为50%，表明尽管存在信息，但仅从行动中推断仍存在噪声且具挑战性。
• 混淆矩阵分析显示，错误主要集中在“安全”模型（静止、固定目标）与“风险”模型（随机、追击）之间，表明行动可能编码了抽象的安全感知。
• 与将代理视为固定物体相比，该方法在目标推断准确率上表现出微弱提升，但差异未达统计显著性。
• 结果支持了即使在短暂、被动的交互中，仍可使用基于行动的推断实现二级心理建模的可行性。
• 本研究提供了证据，表明关于人类对机器人认知的信息，已嵌入到个体的动作选择中，且与代理的实际行为无关。