[论文解读] Human alignment of neural network representations

Lukas Muttenthaler, Jonas Dippel+3 more|arXiv (Cornell University)|Nov 2, 2022

Face Recognition and Perception被引用 15

一句话总结

本文通过行为相似性判断，研究神经网络表征与人类心理表征的对齐程度。研究发现，模型规模和架构对对齐程度影响甚微，而训练数据和目标函数则更为关键；对表征进行线性变换可显著提升跨数据集的零样本对齐效果；概念对齐程度因类别而异，其中食物和动物类概念表征良好，而皇室和体育相关概念在ImageNet模型中表征较弱。

ABSTRACT

Today's computer vision models achieve human or near-human level performance across a wide variety of vision tasks. However, their architectures, data, and learning algorithms differ in numerous ways from those that give rise to human vision. In this paper, we investigate the factors that affect the alignment between the representations learned by neural networks and human mental representations inferred from behavioral responses. We find that model scale and architecture have essentially no effect on the alignment with human behavioral responses, whereas the training dataset and objective function both have a much larger impact. These findings are consistent across three datasets of human similarity judgments collected using two different tasks. Linear transformations of neural network representations learned from behavioral responses from one dataset substantially improve alignment with human similarity judgments on the other two datasets. In addition, we find that some human concepts such as food and animals are well-represented by neural networks whereas others such as royal or sports-related objects are not. Overall, although models trained on larger, more diverse datasets achieve better alignment with humans than models trained on ImageNet alone, our results indicate that scaling alone is unlikely to be sufficient to train neural networks with conceptual representations that match those used by humans.

研究动机与目标

• 评估神经网络表征与从行为反应推断的人类心理表征之间的对齐程度。
• 确定扩大模型规模或改变架构是否能提升神经网络表征与人类相似性判断的一致性。
• 评估不同训练数据集和目标函数对学习类人表征的影响。
• 探究对表征进行线性变换是否能泛化到其他人类相似性判断数据集。
• 识别神经网络特征中哪些人类概念表征良好，哪些表征较差。

提出的方法

• 通过奇偶识别任务收集三组数据集的人类相似性判断，从成对图像选择中推断人类概念空间。
• 通过奇偶识别准确率评估神经网络表征的对齐程度，将模型预测与人类选择进行比较。
• 在一个数据集上训练线性变换以提升在保留数据集上的奇偶识别准确率，从而评估零样本泛化能力。
• 使用人类心理表征的稀疏贝叶斯模型（VICE）对三元组按区分奇偶者的概念维度进行分类。
• 通过CKA和R²分数比较来自不同模型（包括ImageNet、JFT-3B、图文模型及自监督模型）的表征与人类概念的对齐程度。
• 在45个VICE维度上计算零样本和探针奇偶识别准确率，以评估概念特定的对齐程度。

实验结果

研究问题

• RQ1 增加模型规模或改变架构是否能提升神经网络表征与人类相似性判断之间的对齐程度？
• RQ2 训练数据和目标函数的差异在多大程度上影响神经网络表征与人类行为反应的对齐程度？
• RQ3 在一个人类相似性数据集上训练的神经表征线性变换，能否泛化到其他数据集以提升对齐效果？
• RQ4 哪些人类概念在神经网络特征中表征良好，哪些表征较差？
• RQ5 与仅在ImageNet上训练的模型相比，基于更大、更多样化数据集训练的模型在类人概念表征方面表现如何？

主要发现

• 扩大ImageNet模型规模可提升其在ImageNet上的准确率，但并未一致提升与人类相似性判断的对齐程度；对齐差异主要由目标函数和超参数决定，而非架构或深度/宽度。
• 在更大、更多样化数据集（如JFT-3B或图文数据）上训练的模型，其与人类相似性判断的对齐程度显著优于仅在ImageNet上训练的模型。
• 在某一数据集上训练的神经表征线性变换，能显著提升在另外两个其他人类相似性判断数据集上的零样本奇偶识别准确率，表明其具有强大的泛化潜力。
• 食物和动物相关概念在神经网络特征中表征良好，而皇室和体育相关物体的表征较弱，尤其在ImageNet模型中表现明显。
• 尽管在ImageNet上表现更优，但最佳ImageNet模型在部分概念（如工具、科技、纸张、液体）上的表现仍不及更大的ViT-G/14 JFT模型，表明存在概念特定的偏差。
• 回归R²分数显示，ViT-G/14 JFT和图文模型在所有45个VICE类别中对人类概念维度的拟合程度优于ImageNet模型，其中皇室和体育相关概念的提升最为显著。