[论文解读] Language-Specific Representation of Emotion-Concept Knowledge Causally Supports Emotion Inference

Ming Li, Yu-Sheng Su+10 more|arXiv (Cornell University)|Feb 19, 2023

Misinformation and Its Impacts被引用 5

一句话总结

本研究证明，大型语言模型（LLMs）能够因果性地利用与语言相关的感情概念知识表征，在无感官运动基础的情况下，推断新情境下的情绪。通过识别并操控14种不同的感情属性神经元，作者表明，这些源自语言的表征对于准确的情绪推断至关重要，为仅凭语言知识即可支持人工智能中的复杂情绪推理提供了证据。

ABSTRACT

Humans no doubt use language to communicate about their emotional experiences, but does language in turn help humans understand emotions, or is language just a vehicle of communication? This study used a form of artificial intelligence (AI) known as large language models (LLMs) to assess whether language-based representations of emotion causally contribute to the AI's ability to generate inferences about the emotional meaning of novel situations. Fourteen attributes of human emotion concept representation were found to be represented by the LLM's distinct artificial neuron populations. By manipulating these attribute-related neurons, we in turn demonstrated the role of emotion concept knowledge in generative emotion inference. The attribute-specific performance deterioration was related to the importance of different attributes in human mental space. Our findings provide a proof-in-concept that even a LLM can learn about emotions in the absence of sensory-motor representations and highlight the contribution of language-derived emotion-concept knowledge for emotion inference.

研究动机与目标

• 探究基于语言的情绪概念表征是否在大型语言模型中因果性地支持情绪推断。
• 确定大型语言模型中编码的情绪概念知识是否围绕人类情绪的心理学属性组织。
• 通过操控特定属性的表征，评估单个神经元群体在情绪推断中的因果作用。
• 评估人类心理空间中不同情绪属性的重要性，与这些属性被扰动时性能下降的相关性。

提出的方法

• 研究人员在大型语言模型中识别出14个不同的人工神经元群体，代表人类情绪概念的特定属性，如效价、唤醒度和社会情境。
• 使用激活操控技术，选择性地关闭或改变这些属性特定神经元的活动，以测试其对情绪推断的因果影响。
• 向模型提供新颖的情绪情境提示，并在神经元操控前后评估其生成的情绪推断的准确性。
• 通过测量不同情绪属性的性能下降程度，评估其在模型推理过程中的相对重要性。
• 将模型对情绪意义的归因与人类标注的情绪概念结构进行比较，以验证所学表征的心理学合理性。
• 应用因果分析框架，分离每个情绪属性对最终推断输出的贡献。

实验结果

研究问题

• RQ1 大型语言模型中与语言相关的感情概念表征是否能因果性地支持在新情境下的情绪推断？
• RQ2 人类情绪概念的哪些具体属性被编码在LLM的内部表征中？
• RQ3 对单个情绪属性神经元的扰动如何影响模型推断情绪的能力？
• RQ4 模型推理中情绪属性的相对重要性在多大程度上与人类认知中的心理重要性一致？
• RQ5 LLMs 是否能够在不依赖感官运动或感知表征的情况下实现准确的情绪推断？

主要发现

• 在LLM中发现了14个不同的、人工神经元群体，代表人类情绪概念的特定属性，如效价、唤醒度和社会情境。
• 对这些属性特定神经元的选择性操控导致情绪推断性能出现可测量且可预测的下降，证实了其因果作用。
• 性能下降的程度与各属性在人类情绪表征中的心理重要性高度相关，表明与人类心智模型一致。
• 该模型仅基于语言知识，在无任何感官运动基础的情况下，即可在新情境中实现准确的情绪推断。
• 本研究提供了概念验证，证明仅凭语言衍生的情绪概念知识就足以支持人工智能中的复杂情绪推理。
• 结果表明，LLMs 能够以内化并利用结构化的情绪概念知识，其方式与人类认知组织方式相似。