[论文解读] Mapping Brains with Language Models: A Survey

Antonia Karamolegkou, Mostafa Abdou+1 more|arXiv (Cornell University)|Jun 8, 2023

Topic Modeling被引用 4

一句话总结

本综述通过分析10个数据集和8种度量方法下的30项研究，调查了大脑活动（fMRI/MEG）与语言模型表征之间的结构相似性。研究发现中等程度的对齐证据，模型规模和质量与对齐程度呈正相关，但警告称当前度量方法不一致，部分度量可能反映的是浅层处理而非深层语义相似性，呼吁采用更保守的评估标准，如precision@1和RSA分数。

ABSTRACT

Over the years, many researchers have seemingly made the same observation: Brain and language model activations exhibit some structural similarities, enabling linear partial mappings between features extracted from neural recordings and computational language models. In an attempt to evaluate how much evidence has been accumulated for this observation, we survey over 30 studies spanning 10 datasets and 8 metrics. How much evidence has been accumulated, and what, if anything, is missing before we can draw conclusions? Our analysis of the evaluation methods used in the literature reveals that some of the metrics are less conservative. We also find that the accumulated evidence, for now, remains ambiguous, but correlations with model size and quality provide grounds for cautious optimism.

研究动机与目标

• 评估现有实证证据中语言模型表征与大脑反应之间结构相似性的累积证据。
• 识别并分析30项研究中用于评估大脑-语言模型对齐性的评估度量方法。
• 探究观察到的对齐性是否反映深层语义对应关系，还是仅是浅层统计相关性。
• 评估模型规模和质量在驱动与神经数据表征对齐中的作用。
• 倡导采用更保守、可解释的度量方法——如precision@1和RSA分数——以减少对齐声明中的假阳性结果。

提出的方法

• 对30项使用fMRI和MEG数据将语言模型表征映射到神经反应的研究进行系统性综述。
• 对文献中使用的8种不同评估度量方法进行分类与比较，包括基于相关性的度量、基于排序的度量以及基于类比的度量。
• 分析度量方法之间的相互关系，以评估其在检测真实表征相似性方面的保守性与可靠性。
• 聚焦于线性映射模型，以隔离结构同构性，避免非线性或复杂模型效应的干扰。
• 将precision@1和RSA（理性言语行为）分数作为提议的黄金标准度量，因其在同构性和语义保真度方面具有坚实的理论基础。
• 对数据集和模型之间的结果进行元分析，强调尽管方法学存在异质性，但发现具有一致性。

实验结果

研究问题

• RQ1 在多大程度上存在一致的实证证据，表明语言模型表征与神经大脑反应之间存在结构相似性？
• RQ2 不同评估度量方法在检测有意义的表征对齐与虚假相关性方面的能力如何比较？
• RQ3 观察到的对齐性是由模型规模、质量还是架构设计驱动的？能否将其与浅层统计伪影区分开来？
• RQ4 当前的度量方法是否足够保守，以避免高估表征相似性？
• RQ5 应优先采用哪些度量方法，以确保观察到的对齐性反映的是深层语义对应关系，而非表层处理模式？

主要发现

• 语言模型表征与大脑反应之间结构相似性的累积证据仍不明确，各项研究中仅观察到中等程度的对齐。
• 模型规模与对齐性能之间的正相关关系表明，更大的模型可能更准确地捕捉神经表征结构。
• 模型质量（例如下游任务性能）也与对齐程度相关，表明高性能模型更可能与神经数据对齐。
• 许多常用度量方法（如基于相关性的分数）保守性不足，可能将浅层处理特征与深层语义相似性混淆。
• precision@1和RSA分数被识别为更具保守性且理论基础更扎实的度量方法，因为这些度量的完美得分意味着同构性。
• 缺乏标准化的控制措施和不一致的评估协议，阻碍了可靠的元分析，并引发了对当前研究结果稳健性的担忧。