[论文解读] Modeling the Mistakes of Boundedly Rational Agents Within a Bayesian Theory of Mind

Arwa Alanqary, Gloria Z. Lin+4 more|arXiv (Cornell University)|Jun 24, 2021

Evolutionary Game Theory and Cooperation被引用 10

一句话总结

该论文通过建模在三个层次上出现错误的有限理性代理（目标错误（源于语义混淆）、计划错误（源于有限规划深度）和非意图行为（源于执行错误）），扩展了贝叶斯心智理论。通过使用概率程序表示这些错误，该模型在网格世界和积木堆叠任务中对人类目标推断的解释优于以往模型，尤其是在目标混淆或计划次优的情况下。

ABSTRACT

When inferring the goals that others are trying to achieve, people intuitively understand that others might make mistakes along the way. This is crucial for activities such as teaching, offering assistance, and deciding between blame or forgiveness. However, Bayesian models of theory of mind have generally not accounted for these mistakes, instead modeling agents as mostly optimal in achieving their goals. As a result, they are unable to explain phenomena like locking oneself out of one's house, or losing a game of chess. Here, we extend the Bayesian Theory of Mind framework to model boundedly rational agents who may have mistaken goals, plans, and actions. We formalize this by modeling agents as probabilistic programs, where goals may be confused with semantically similar states, plans may be misguided due to resource-bounded planning, and actions may be unintended due to execution errors. We present experiments eliciting human goal inferences in two domains: (i) a gridworld puzzle with gems locked behind doors, and (ii) a block-stacking domain. Our model better explains human inferences than alternatives, while generalizing across domains. These findings indicate the importance of modeling others as bounded agents, in order to account for the full richness of human intuitive psychology.

研究动机与目标

• 为填补贝叶斯心智理论模型中的空白，这些模型通常假设代理为最优行为者，无法解释目标混淆或计划错误等高层级错误。
• 通过在目标、计划和行为等多个认知层级上考虑次优行为，来建模人类的直觉心理学。
• 测试是否一个整合了目标、计划和行为错误的统一模型，相较于仅考虑行为噪声或计划错误的模型，能更好地解释人类的目标推断。
• 研究人们如何从次优行为中推断目标，特别是当代理因有限理性而犯错时。
• 证明在不同层级上建模不同类型的错误，可显著提升模型在多样化领域中对人类判断的拟合度。

提出的方法

• 将代理建模为概率程序，通过涉及目标转换、计划更新、动作选择和状态转换的生成过程来生成行为。
• 通过伯努利噪声过程引入目标混淆，以概率 εg 随机地将当前目标替换为语义相似的目标。
• 使用负二项分布对搜索预算进行采样，以建模资源受限的规划，从而在每一步实现部分规划和重新规划。
• 通过概率化动作选择机制表示动作错误，即使计划正确，也能允许非意图动作的发生。
• 使用逆向推理计算在观察到动作序列后对目标的后验信念，从而实现心智理论推理。
• 在概率编程框架（如 WebPPL）中实现该模型，以模拟并比较不同错误类型下的推断结果。

实验结果

研究问题

• RQ1 一个考虑目标、计划和行为错误的贝叶斯心智理论模型，是否能比仅假设行为噪声的模型更好地解释人类的目标推断？
• RQ2 当观察到次优行为时，人们如何区分目标错误、计划错误和行为错误？
• RQ3 在目标混淆可能成立的领域（如拼写错误的词语用于积木堆叠任务），是否包含目标混淆能提升模型的拟合度？
• RQ4 该模型在不同参数设置和错误类型下的表现有多稳健？
• RQ5 人类在推理他人意图时，在多大程度上依赖高层错误建模（如错误目标）而非低层噪声（如行为噪声）？

主要发现

• 在研究的全部16个刺激中，完整的GPA（目标、计划、动作）模型与人类推断的相关性最高（r = 0.86 ± 0.02）。
• 即使代理产生了错误序列'paer'，该模型在t=7时仍成功推断出正确目标'pear'，表明其对目标混淆具有鲁棒性。
• 仅考虑行为噪声的玻尔兹曼代理模型，因路径长度更短而错误地偏好'reap'而非'pear'，无法解释人类对真实目标的信心。
• 不包含行为错误的模型（A-lesioned）在所有条件下表现最差，表明在积木堆叠领域中，执行错误对准确推断至关重要。
• 敏感性分析显示，完整模型在所有参数设置下均优于删减变体，且在大多数配置中表现出性能的序数优势。
• 仅包含目标错误的模型（G-lesioned）在存在计划或行为错误时表现欠佳，凸显了同时建模多种错误类型的必要性。