[论文解读] LLMs achieve adult human performance on higher-order theory of mind tasks

Winnie Street, John Oliver Siy+8 more|arXiv (Cornell University)|May 29, 2024

EEG and Brain-Computer Interfaces被引用 16

一句话总结

该论文提出 MoToMQA 用于评估大模型在到达6阶的心智理论 ToM，并显示 GPT-4 与 Flan-PaLM 实现成年水平或接近成年水平的表现，GPT-4 在6阶推理中表现突出。它暗示模型规模和微调提升更高阶 ToM 能力，并讨论影响及风险。

ABSTRACT

This paper examines the extent to which large language models (LLMs) have developed higher-order theory of mind (ToM); the human ability to reason about multiple mental and emotional states in a recursive manner (e.g. I think that you believe that she knows). This paper builds on prior work by introducing a handwritten test suite -- Multi-Order Theory of Mind Q&A -- and using it to compare the performance of five LLMs to a newly gathered adult human benchmark. We find that GPT-4 and Flan-PaLM reach adult-level and near adult-level performance on ToM tasks overall, and that GPT-4 exceeds adult performance on 6th order inferences. Our results suggest that there is an interplay between model size and finetuning for the realisation of ToM abilities, and that the best-performing LLMs have developed a generalised capacity for ToM. Given the role that higher-order ToM plays in a wide range of cooperative and competitive human behaviours, these findings have significant implications for user-facing LLM applications.

研究动机与目标

• 评估大型语言模型（LLMs）在高达6阶的更高阶心智理论（ToM）。
• 使用手写测试集将LLM ToM 表现与成人基准进行比较。
• 考察 ToM 表现如何与同等复杂性的事实回忆任务相比差异。
• 探究模型规模、微调与提示对 ToM 能力的影响。
• 探讨具备高阶 ToM 的LLMs 的潜在伦理与实际影响。

提出的方法

• 引入基于 Imposing Memory Task (IMT) 的 MoToMQA 基准，面向成人。
• 创建7个简短的社交故事，包含20条判断对错的陈述；其中10条为 ToM（2-6 阶），10条为事实陈述。
• 在受控的故事/回答条件下收集成人类回答（n≈29,259），以便可比。
• 使用基于对数概率的评分，结合多个候选标记来推导True/False概率，评估5个LLM（GPT-3.5 Turbo Instruct、GPT-4、LaMDA、PaLM、Flan-PaLM）。
• 将人类与LLM的结果映射为二元回答；通过将人类回答折叠为每个陈述的单一 true/false 来对齐单位。
• 使用 Cochran’s Q、McNemar 的检验以及独立比例进行结果分析；测试提示/回答条件下的锚定效应。

Figure 1: Human, LaMDA, PaLM, Flan-PaLM, GPT-3.5 and GPT-4 performance on ToM tasks up to order 6

实验结果

研究问题

• RQ1 在多大程度上，LLMs 能实现更高阶的 ToM 推理（2-6 阶）相对于成人人类？
• RQ2 在当代LLM中，ToM 表现如何随模型规模和微调（指令微调、RLHF）而变化？
• RQ3 ToM 表现与同等复杂性的等效事实任务表现相比如何？
• RQ4 提示与回应顺序（锚定）效应是否会影响 LLM 与人类的 ToM 回应？
• RQ5 哪些因素（如多模态、训练数据）可能是观测到的最佳执行模型的 ToM 能力的基础？

主要发现

• GPT-4 和 Flan-PaLM 在各阶达到或接近成人水平的 ToM 表现，GPT-4 在6阶推理上超过人类。
• 在模型中，GPT-4 和 Flan-PaLM 总体优于其他模型；GPT-4 与人类在2-4阶和6阶的表现相当，GPT-4 在6阶上超越人类。
• GPT-4 实现了最高的综合 ToM 准确率（89%），GPT-4 在6阶达到93%，而人类在同一阶达到82%。
• 对于大多数模型，事实回忆任务通常比 ToM 任务更容易；一些模型（GPT-4、Flan-PaLM）在存在此差距的情况下仍保持强劲的 ToM 表现。
• 有证据表明，规模更大、经过指令微调、且具备多模态或基于反馈的训练的模型，较小的未微调模型更能实现 ToM 能力。
• 锚定（true-first 与 false-first 提示）影响某些模型（PaLM、GPT-3.5），但对 GPT-4、Flan-PaLM 或人类无显著影响。