[论文解读] Joint processing of linguistic properties in brains and language models

Subba Reddy Oota, Manish Gupta+1 more|arXiv (Cornell University)|Dec 15, 2022

Topic Modeling被引用 12

一句话总结

本研究提出一种直接干预方法，用于隔离并移除 BERT 和 GPT-2 表征中的特定语言属性（表层、句法、语义），结果表明句法特征——尤其是顶层成分（Top Constituents）和树深度（Tree Depth）——在模型各层中对大脑对齐的影响最强。移除任何一种语言属性均会显著降低与 fMRI 记录的一致性，表明这些特征的联合处理是语言模型与人类大脑活动之间观察到对应关系的基础。

ABSTRACT

Language models have been shown to be very effective in predicting brain recordings of subjects experiencing complex language stimuli. For a deeper understanding of this alignment, it is important to understand the correspondence between the detailed processing of linguistic information by the human brain versus language models. We investigate this correspondence via a direct approach, in which we eliminate information related to specific linguistic properties in the language model representations and observe how this intervention affects the alignment with fMRI brain recordings obtained while participants listened to a story. We investigate a range of linguistic properties (surface, syntactic, and semantic) and find that the elimination of each one results in a significant decrease in brain alignment. Specifically, we find that syntactic properties (i.e. Top Constituents and Tree Depth) have the largest effect on the trend of brain alignment across model layers. These findings provide clear evidence for the role of specific linguistic information in the alignment between brain and language models, and open new avenues for mapping the joint information processing in both systems. We make the code publicly available [https://github.com/subbareddy248/linguistic-properties-brain-alignment].

研究动机与目标

• 探究特定语言属性如何共同促成大脑活动与预训练语言模型之间的对齐。
• 确定哪些语言特征最能解释 fMRI 记录与语言模型表征之间观察到的对应关系。
• 开发并验证一种直接干预方法，以隔离模型表征中的语言信息，评估其对大脑对齐的影响。
• 通过测试单个语言属性的功能角色，调和关于高层语言处理在模型层级中发生位置的矛盾观点。
• 通过识别支撑大脑-模型对齐的语言特征，实现更具可解释性和认知合理性的人工智能。

提出的方法

• 训练一个线性投影函数，将每种语言属性（如顶层成分、树深度）映射到 BERT/GPT-2 的隐藏状态，从而估计出不包含该属性的残差表征。
• 通过从原始模型表征中减去预测的语言贡献，获得残差表征，从而有效消除该属性的影响。
• 训练一个线性编码模型，从完整和残差的语言模型表征中预测 fMRI 活动，测量在移除前后的大脑对齐程度。
• 通过统计检验评估对齐差异的显著性，以确定移除特定语言属性是否显著影响大脑对齐。
• 在模型各层中对解码性能的变化与大脑对齐变化之间的相关性进行分析，以识别塑造整体对齐趋势的语言属性。
• 将该方法应用于多个语言区域（如 IFG、MFG、PCC、ATL、PTL）及其亚区，评估语言特征贡献的区域特异性。

实验结果

研究问题

• RQ1 哪些语言属性最能解释语言模型表征与 fMRI 大脑记录之间的对齐？
• RQ2 移除单个语言属性后，大脑对齐在 BERT 和 GPT-2 各层中的趋势如何变化？
• RQ3 句法、语义或表层属性是否在特定大脑区域中对大脑对齐产生不成比例的影响？
• RQ4 语言特征在多大程度上解释了语言模型中间层观察到的大脑对齐峰值现象？
• RQ5 这种基于干预的方法能否推广到其他语言模型和语言属性？

主要发现

• 移除任何语言属性——包括表层、句法或语义属性——均会在 BERT 和 GPT-2 的所有层中导致大脑对齐显著下降。
• 在 BERT 各层中，顶层成分（Top Constituents）对大脑对齐趋势的影响最大，尤其推动了所有语言区域在中间层的对齐峰值。
• 树深度（Tree Depth）在颞叶（ATL、PTL）和额叶（IFG、MFG）语言区域显著影响对齐，表明存在区域特异性的句法处理。
• 语义属性如时态（Tense）、主语数（Subject Number）和宾语数（Object Number）在与更侧重语义的区域（如 PCC）对齐中表现出强烈局部效应。
• 即使在移除所有测试的语言属性后，仍存在显著的大脑对齐，表明其他未测量的语言或非语言特征也对对齐有贡献。
• 在 GPT-2 中也复现了相同的模式，表明这些发现对不同模型架构和训练目标具有鲁棒性。