[论文解读] Explainable Patterns for Distinction and Prediction of Moral Judgement on Reddit

Ion Stagkos Efstathiadis, Guilherme Paulino-Passos+1 more|arXiv (Cornell University)|Jan 26, 2022

Hate Speech and Cyberbullying Detection被引用 4

一句话总结

本文提出一个包含600K条来自r/AmITheAsshole的Reddit评论的新数据集，并提出基于BERT的分类器，用于预测帖子（准确率62%）和评论（准确率86%）中的道德判断。通过GrASP识别可解释的文本模式，将语言与道德立场及模型决策关联，提升社交媒体中AI驱动的道德判断预测的可解释性与可信度。

ABSTRACT

The forum r/AmITheAsshole in Reddit hosts discussion on moral issues based on concrete narratives presented by users. Existing analysis of the forum focuses on its comments, and does not make the underlying data publicly available. In this paper we build a new dataset of comments and also investigate the classification of the posts in the forum. Further, we identify textual patterns associated with the provocation of moral judgement by posts, with the expression of moral stance in comments, and with the decisions of trained classifiers of posts and comments.

研究动机与目标

• 为解决在社交媒体中预测道德判断的挑战，特别是针对来自Reddit的非结构化、主观且长篇叙事内容。
• 构建一个公开可用的600K条标注Reddit评论的数据集，来自r/AmITheAsshole，以支持道德判断分类的可复现研究。
• 通过GrASP识别与道德立场和模型预测相关的文本模式，提升道德判断分类器的可解释性。
• 调查BERT在分类帖子时的局限性，包括长上下文、类别不平衡和主观标注问题，并提出改进方案。

提出的方法

• 微调BERT-base-cased模型，对帖子和评论进行二元分类，划分为'混蛋'（YTA/ESH）和'非混蛋'（NTA/NAH）判决。
• 通过Pushshift API抓取r/AmITheAsshole的600K条原始评论，筛选高质量内容并保留判决标签，随后移除标签以防止数据泄露。
• 应用GrASP（全局基于规则的模式搜索）提取与实际标签和BERT预测标签相关联的高信息增益文本模式。
• 使用信息增益对模式进行排序，从而识别与道德立场表达及分类器决策相关的语言线索。
• 进行超参数调优，并在类别不平衡的测试集上使用准确率、精确率、召回率和F1分数评估性能。
• 将BERT性能与基线模型（如多项式朴素贝叶斯、逻辑回归）进行比较，并分析因类别不平衡和模型偏差导致的差异。

实验结果

研究问题

• RQ1 BERT在分类Reddit帖子中的道德判断时表现如何？哪些挑战限制了其准确率？
• RQ2 文本模式如何与评论和帖子中的实际道德立场及BERT预测标签相关联？这些模式提供了哪些社会学洞见？
• RQ3 通过GrASP提取的可解释模式在多大程度上提升了社交媒体中道德判断分类器的透明度与可信度？
• RQ4 为何分类器在帖子上的表现显著劣于评论？哪些因素导致了这一差距？
• RQ5 从BERT预测标签中提取的模式能否揭示实际标签中未体现的模型偏差或不一致性？

主要发现

• BERT分类器在预测Reddit帖子的道德判断时达到62%的准确率，未能超越多数类基线，凸显了该任务的难度，原因包括长文本、主观性以及类别不平衡。
• 对于评论，BERT分类器达到86%的准确率，优于多数类基线，表明评论层面的道德判断比帖子层面更具可预测性。
• GrASP识别出高信息增益的文本模式，将特定语言与道德立场关联，例如'我刚刚'或'我没想到'等表达与'甜心'（NTA/NAH）判决相关。
• 从BERT预测标签中提取的模式信息增益显著高于从实际标签中提取的模式，表明模型决策比人工标注数据更具一致性。
• 词语'edit'被BERT错误分类为'甜心'的指示词，尽管在实践中它更多与'混蛋'相关，揭示了BERT对中性词语上下文理解的局限性。
• 人工校正GrASP模式后发现，部分最初与'甜心'关联的模式实际上指示的是'混蛋'，强调了在可解释性工具中引入人工干预验证的必要性。