[论文解读] Contextualized moral inference

Jing Xie, Graeme Hirst+1 more|arXiv (Cornell University)|Aug 25, 2020

Psychology of Moral and Emotional Judgment参考文献 25被引用 6

一句话总结

本文提出了一种基于上下文的预训练语言模型方法，用于从文本片段中推断人类的道德判断，表明上下文嵌入（如 SBERT）显著优于非上下文表示方法（如词嵌入和情感分数）。该方法在三个独立的道德心理学数据集上均达到最先进性能，其中逻辑回归在上下文嵌入上的准确率最高可达 Clifford 数据集的 65.79%，凸显了上下文语义在细粒度道德推理中的强大能力。

ABSTRACT

Developing moral awareness in intelligent systems has shifted from a topic of philosophical inquiry to a critical and practical issue in artificial intelligence over the past decades. However, automated inference of everyday moral situations remains an under-explored problem. We present a text-based approach that predicts people's intuitive judgment of moral vignettes. Our methodology builds on recent work in contextualized language models and textual inference of moral sentiment. We show that a contextualized representation offers a substantial advantage over alternative representations based on word embeddings and emotion sentiment in inferring human moral judgment, evaluated and reflected in three independent datasets from moral psychology. We discuss the promise and limitations of our approach toward automated textual moral reasoning.

研究动机与目标

• 探究上下文语言模型是否能有效从简短的道德情境文本中推断人类的道德判断。
• 比较上下文表示方法与非上下文表示方法（如词嵌入、情绪和道德情感）在道德判断预测中的性能表现。
• 在标注样本有限的低资源学习设置下，评估这些模型的泛化能力。
• 识别当前 NLP 模型在捕捉二元对错判断之外的细微道德类别时的局限性。

提出的方法

• 作者使用 SBERT（Sentence-BERT）生成的上下文句子嵌入作为道德情境文本的主要表示方法。
• 将 SBERT 嵌入与以下替代表示方法进行比较：平均词嵌入（GloVe）、动词特异性嵌入、道德情感分数和情绪标签。
• 在三个独立的道德心理学数据集上采用五折交叉验证：Chadwick（500 个情境）、McCurrie（69 个情境）和 Clifford（132 个情境）。
• 在每种表示方法上评估四种分类模型：朴素贝叶斯、k-最近邻、逻辑回归（LR）和支持向量分类器（SVC）。
• 通过宏平均准确率衡量性能，并对误分类样本进行错误分析，以识别模型的失效模式。
• 使用 t-SNE 可视化将上下文嵌入投影至二维空间，展示按道德类别聚类的模式。

实验结果

研究问题

• RQ1 上下文语言模型是否能在从简短文本片段中推断人类道德判断方面优于非上下文表示方法？
• RQ2 不同表示方法在训练数据有限的情况下，对细粒度道德类别（如公平、忠诚、关怀）的泛化能力如何？
• RQ3 上下文模型在道德推理中的主要失效模式是什么，特别是针对词义歧义和否定句的理解？
• RQ4 上下文嵌入在多大程度上能够捕捉道德基础理论中的细微类别区分？

主要发现

• 上下文嵌入（SBERT）在所有三个数据集上均取得最高准确率，逻辑回归下分别达到 Chadwick 数据集的 51.80%、Clifford 数据集的 65.79% 和 McCurrie 数据集的 49.23%。
• SBERT 的性能在所有情况下均显著优于平均词嵌入（GloVe）、动词嵌入、道德情感和基于情绪的表示方法。
• 在大多数情况下，逻辑回归在四种分类器中表现最佳，尤其在 Clifford 和 Chadwick 数据集上。
• 错误分析显示，'cheating' 和 'loyalty' 等词语常因语义歧义而被误分类，且否定句的理解常出错。
• t-SNE 可视化显示道德类别呈现清晰聚类，尤其在 Chadwick 和 McCurrie 数据集中，表明模型具备有效的表征学习能力。
• 模型在细微区分上表现不佳——例如，常将 'cheating' 误分类为 'loyalty' 而非 'fairness'，凸显未来工作需增强世界知识与推理能力。