Skip to main content
QUICK REVIEW

[论文解读] Simple Open Stance Classification for Rumour Analysis

Ahmet Aker, Leon Derczynski|White Rose Research Online (University of Leeds, The University of Sheffield, University of York)|Aug 17, 2017
Misinformation and Its Impacts参考文献 21被引用 11
一句话总结

本文提出了一种针对推特谣言分析的简单但极为有效的立场分类方法,结合了标准特征与新颖的问题特定AF特征(惊讶、确定性、疑问检测),显著提升了准确率。该方法在RumourEval和PHEME数据集上均优于最先进系统,表明有洞察力的特征工程可超越LSTM和高斯过程等复杂模型。

ABSTRACT

Stance classification determines the attitude, or stance, in a (typically short) text. The task has powerful applications, such as the detection of fake news or the automatic extraction of attitudes toward entities or events in the media. This paper describes a surprisingly simple and efficient classification approach to open stance classification in Twitter, for rumour and veracity classification. The approach profits from a novel set of automatically identifiable problem-specific features, which significantly boost classifier accuracy and achieve above state-of-the-art results on recent benchmark datasets. This calls into question the value of using complex sophisticated models for stance classification without first doing informed feature extraction.

研究动机与目标

  • 通过开发一种简单而有效的分类方法,提升推特中谣言分析的开放立场分类性能。
  • 识别并整合能够捕捉用户对谣言反应及信心水平的问题特定特征。
  • 挑战复杂模型在立场分类中实现高准确率是必要的假设。
  • 证明特征工程可在立场检测任务中超越复杂模型。

提出的方法

  • 该方法结合了标准特征(词袋、命名实体、用户活动、URL存在性)与专为谣言情境设计的新颖AF特征。
  • AF特征包括惊讶(SS)、确定性(NDS)和疑问检测(IQ),其基于推文内容中的语言线索提取。
  • 在两个基准数据集RumourEval和PHEME上评估了多种分类器(J48、随机森林、IBk、GP、HP)。
  • 性能通过准确率和F1值衡量,并使用配对t检验进行显著性检验。
  • 通过系统性地移除AF特征,开展特征消融研究以评估其贡献。
  • 该方法已通过PHEME软件仓库实现并公开发布。

实验结果

研究问题

  • RQ1简单的分类模型是否能在谣言分析的开放立场分类中超越复杂最先进模型?
  • RQ2问题特定特征(AF特征)在多大程度上提升了谣言相关推文的立场分类准确率?
  • RQ3AF特征带来的性能提升在不同数据集和事件类型中是否具有统计显著性?
  • RQ4仅靠特征工程是否能超越如LSTM等先进深度学习模型在此任务中的表现?

主要发现

  • 在RumourEval数据集上,随机森林分类器达到79.02%的准确率,优于SemEval-2017任务中所有其他系统。
  • 在PHEME数据集上,J48决策树分类器达到最高准确率,显著优于基线模型(GP和HP)。
  • 移除所有AF特征后性能显著下降,准确率甚至低于SemEval优胜系统在RumourEval上的表现。
  • 每个单独的AF特征均对准确率提升有贡献,其中惊讶(SS)和确定性(NDS)得分影响最大。
  • AF特征带来的性能增益在两个数据集中均保持一致,证明其对立场分类具有稳健贡献。
  • 当结合AF特征后,更简单的模型(如J48和随机森林)优于更复杂的模型(GPs、HPs、LSTMs),凸显了特征工程的价值。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。