[论文解读] Modeling Human Inference of Others' Intentions in Complex Situations with Plan Predictability Bias

Ryo Nakahashi, Seiji Yamada|arXiv (Cornell University)|May 16, 2018

Child and Animal Learning Development参考文献 1被引用 3

一句话总结

本文提出了一种以计划可预测性为导向的模型，通过在贝叶斯逆向规划中引入对'可预测'计划的偏好，结合有限理性，提升了复杂任务中人类意图推理的性能。通过在贝叶斯逆向规划中引入简单的计划预测似然作为偏差，该模型与人类判断的相关性显著提高（0.738 vs. 0.513），并在任务复杂度增加时仍保持稳健。

ABSTRACT

A recent approach based on Bayesian inverse planning for the "theory of mind" has shown good performance in modeling human cognition. However, perfect inverse planning differs from human cognition during one kind of complex tasks due to human bounded rationality. One example is an environment in which there are many available plans for achieving a specific goal. We propose a "plan predictability oriented model" as a model of inferring other peoples' goals in complex environments. This model adds the bias that people prefer predictable plans. This bias is calculated with simple plan prediction. We tested this model with a behavioral experiment in which humans observed the partial path of goal-directed actions. Our model had a higher correlation with human inference. We also confirmed the robustness of our model with complex tasks and determined that it can be improved by taking account of individual differences in "bounded rationality".

研究动机与目标

• 解决在存在多种可行计划的复杂环境中，贝叶斯逆向规划模型在意图推理方面的不足。
• 通过在意图推理过程中引入对'可预测'计划的偏好，建模人类的有限理性。
• 提升计算模型在复杂、多计划场景中与人类行为推理匹配的准确性。
• 研究个体在有限理性方面的差异及其对意图推理性能的影响。
• 展示所提模型在任务复杂度增加时相比完整逆向规划的鲁棒性。

提出的方法

• 通过基于软最大似然的计划预测，引入计划可预测性偏差，对贝叶斯逆向规划进行改进。
• 使用玻尔兹曼噪声理性模型来模拟代理行为，其中动作概率由计划效用和噪声参数决定。
• 基于观察到的部分动作序列，计算未来计划的似然性，以量化计划的可预测性。
• 将可预测性偏差整合到目标后验推理中，修改标准逆向规划的似然函数。
• 通过温度参数（β₃）校准偏差强度，该参数在不同个体间可变，以反映有限理性的差异。
• 将该模型应用于受控的“物品创造”场景，参与者需根据部分动作序列推断目标。

实验结果

研究问题

• RQ1 在复杂、多计划环境中，引入计划可预测性偏差如何提升意图推理的准确性？
• RQ2 所提出的模型是否在匹配人类推理模式方面优于完整的贝叶斯逆向规划？
• RQ3 任务复杂度如何影响完整逆向规划模型与计划可预测性导向模型的性能？
• RQ4 个体在有限理性方面的差异在多大程度上影响意图推理？通过个性化偏差能否改进模型？
• RQ5 在任务复杂度不断增加的情况下，计划可预测性偏差模型是否仍能保持鲁棒性？

主要发现

• 计划可预测性导向模型与人类推理数据的平均皮尔逊相关系数达到0.738，显著高于完整逆向规划模型的0.513。
• 该模型在任务复杂度增加时保持了稳定的性能，而完整逆向规划模型的准确性显著下降。
• 采用个体化偏差参数（β₃）的模型相关系数达到0.738，高于使用单一共享β₃的模型（0.638），表明个性化有限理性的重要性。
• 相当大比例的参与者表现出强烈的可预测性偏差，而另一些人则表现出极弱或无偏差，证实了有限理性在个体间的差异性。
• 计划可预测性偏差有效捕捉了人类在模糊情境下的直觉——例如图1(b)中更倾向于选择橙色门——而完整逆向规划在此类情境中会失效。
• 该模型基于简单的计划预测与贝叶斯推理，具备良好的可扩展性，可进一步拓展至分层计划框架。