[论文解读] CogBench: a large language model walks into a psychology lab

Julian Coda-Forno, Marcel Binz+2 more|arXiv (Cornell University)|Feb 28, 2024

Innovative Teaching and Learning Methods被引用 5

一句话总结

CogBench 引入一个面向大型语言模型的行为基准，来自七个认知心理学实验的十个指标，对 35 个 LLM 进行评估，以勾勒出超越标准准确性的性能和类似认知行为的特征。

ABSTRACT

Large language models (LLMs) have significantly advanced the field of artificial intelligence. Yet, evaluating them comprehensively remains challenging. We argue that this is partly due to the predominant focus on performance metrics in most benchmarks. This paper introduces CogBench, a benchmark that includes ten behavioral metrics derived from seven cognitive psychology experiments. This novel approach offers a toolkit for phenotyping LLMs' behavior. We apply CogBench to 35 LLMs, yielding a rich and diverse dataset. We analyze this data using statistical multilevel modeling techniques, accounting for the nested dependencies among fine-tuned versions of specific LLMs. Our study highlights the crucial role of model size and reinforcement learning from human feedback (RLHF) in improving performance and aligning with human behavior. Interestingly, we find that open-source models are less risk-prone than proprietary models and that fine-tuning on code does not necessarily enhance LLMs' behavior. Finally, we explore the effects of prompt-engineering techniques. We discover that chain-of-thought prompting improves probabilistic reasoning, while take-a-step-back prompting fosters model-based behaviors.

研究动机与目标

• 推动超越仅关注性能的基准，使用认知心理学范式来理解潜在的 LLM 行为。
• 提供一个标准化、开放的基准，在多样化任务和行为中对 LLM 进行表型刻画。
• 评估模型规模、RLHF 以及其他训练选择如何与性能和认知样行为相关。
• 探究提示工程技术如何影响概率推理和基于模型的行为。

提出的方法

• 在上下文提示下对 35 个 LLM（专有和开源）进行评估，采用确定性设定（temperature=0）。
• 采用来自七个经典认知心理学实验的十个行为指标。
• 应用计算认知建模和多层回归分析来分析嵌套的模型层级（如微调版本）。
• 使用提示链收集过去行为并在不对模型进行微调的情况下诱导学习。
• 通过降维（UMAP）和回归分析比较 RLHF 与非 RLHF 模型。
• 检查思路链（CoT）和退一步（SB）提示对概率推理和基于模型的行为的影响。

实验结果

研究问题

• RQ1 在 CogBench 的测量下，LLM 在概率推理、探索、元认知、模型化倾向、时间折现、冒险倾向和学习策略方面有何差异？
• RQ2 模型规模、数据规模和代码训练在多大程度上影响性能和行为表型？
• RQ3 RLHF 是否使 LLM 与人类行为更加接近，并提升元认知？
• RQ4 提示技术（CoT、SB）对具体行为指标有何影响？
• RQ5 开源模型是否表现出与专有模型不同的风险特征？

主要发现

• 更大的模型通常表现更好，并呈现更多的基于模型的行为。
• RLHF 模型的行为更像人类，且对不确定性估计更准确。
• 在控制其他因素时，开源模型比专有模型更少冒险。
• 代码微调在 CogBench 任务中对行为提升的证据很少。
• CoT 提示提升概率推理；SB 提示增强基于模型的行为。