[论文解读] Boosting Theory-of-Mind Performance in Large Language Models via Prompting

Shima Rahimi Moghaddam, Christopher J. Honey|arXiv (Cornell University)|Apr 22, 2023

Topic Modeling被引用 39

一句话总结

本文表明提示，特别是在使用两-shot chain-of-thought 或逐步提示的上下文学习中，在 RLHF 训练的LLM中提升理论心智（ToM）表现，GPT-4 在提示中达到 100% 的 ToM 准确率，零-shot GPT-4 接近 80%；人类准确率为 87%。

ABSTRACT

Large language models (LLMs) excel in many tasks in 2023, but they still face challenges in complex reasoning. Theory-of-mind (ToM) tasks, which require understanding agents' beliefs, goals, and mental states, are essential for common-sense reasoning involving humans, making it crucial to enhance LLM performance in this area. This study measures the ToM performance of GPT-4 and three GPT-3.5 variants (Davinci-2, Davinci-3, GPT-3.5-Turbo), and investigates the effectiveness of in-context learning in improving their ToM comprehension. We evaluated prompts featuring two-shot chain of thought reasoning and step-by-step thinking instructions. We found that LLMs trained with Reinforcement Learning from Human Feedback (RLHF) (all models excluding Davinci-2) improved their ToM accuracy via in-context learning. GPT-4 performed best in zero-shot settings, reaching nearly 80% ToM accuracy, but still fell short of the 87% human accuracy on the test set. However, when supplied with prompts for in-context learning, all RLHF-trained LLMs exceeded 80% ToM accuracy, with GPT-4 reaching 100%. These results demonstrate that appropriate prompting enhances LLM ToM reasoning, and they underscore the context-dependent nature of LLM cognitive capacities.

研究动机与目标

• 评估 GPT-4 与三种 GPT-3.5 变体在 ToM 任务上的理论心智表现。
• 评估上下文学习提示对 ToM 准确率的影响。
• 考察 RLHF 训练模型与非 RLHF 基线在 ToM 任务上的差异。

提出的方法

• 评估 GPT-4 与三种 GPT-3.5 变体（Davinci-2、Davinci-3、GPT-3.5-Turbo）的 ToM 表现。
• 测试零-shot 与上下文学习提示，包括两-shot chain-of-thought 和逐步推理指令。
• 比较 RLHF 训练的模型与非 RLHF 基线在 ToM 准确率方面的差异。
• 以人类表现作为基准衡量 ToM 准确率。

实验结果

研究问题

• RQ1 提示如何影响大型语言模型的理论心智（ToM）准确率？
• RQ2 RLHF 训练的 LLMs 是否比非 RLHF 模型更受益于上下文学习来提升 ToM 任务的准确率？
• RQ3 对于 LLM 的 ToM，最佳的提示配置是什么（零-shot 与上下文、chain-of-thought 与逐步思维）？
• RQ4 在测试集上，LLM 的 ToM 表现与人类准确度的接近程度如何？

主要发现

• GPT-4 在零-shot 设置下实现近 80% 的 ToM 准确率。
• RLHF 训练的模型（不包含 Davinci-2）通过上下文学习提升 ToM 准确率。
• 通过提示，所有 RLHF 训练的 LLM 的 ToM 准确率均超过 80%；在提示下，GPT-4 达到 100%。
• GPT-4 在零-shot 方式下接近但未达到 87% 的人类测试集准确率。