[论文解读] TexTrolls: Identifying Russian Trolls on Twitter from a Textual Perspective

Bilal Ghanem, Davide Buscaldi+1 more|arXiv (Cornell University)|Oct 3, 2019

Misinformation and Its Impacts被引用 11

一句话总结

本文提出了一种基于文本的机器学习模型，通过从推文内容中提取的主题特征和画像特征，检测Twitter上的俄罗斯互联网研究机构（IRA）网络水军。通过应用无监督主题建模和自然语言蕴涵（NLI）特征，该模型在宏平均F1分数上达到0.94，表明仅凭文本线索，语言风格和主题模式在识别有组织的虚假信息传播活动方面极为有效。

ABSTRACT

The online new emerging suspicious users, that usually are called trolls, are one of the main sources of hate, fake, and deceptive online messages. Some agendas are utilizing these harmful users to spread incitement tweets, and as a consequence, the audience get deceived. The challenge in detecting such accounts is that they conceal their identities which make them disguised in social media, adding more difficulty to identify them using just their social network information. Therefore, in this paper, we propose a text-based approach to detect the online trolls such as those that were discovered during the US 2016 presidential elections. Our approach is mainly based on textual features which utilize thematic information, and profiling features to identify the accounts from their way of writing tweets. We deduced the thematic information in a unsupervised way and we show that coupling them with the textual features enhanced the performance of the proposed model. In addition, we find that the proposed profiling features perform the best comparing to the textual features.

研究动机与目标

• 仅使用文本特征，不依赖社交网络元数据，检测Twitter上的俄罗斯网络水军。
• 探究通过无监督主题建模提取的主题信息是否能提升检测性能。
• 分析IRA网络水军如何利用情绪化语言和语言风格来操纵公众舆论。
• 评估画像特征（如情感、断言强度和反讽标记）在区分网络水军账户与真实用户方面的有效性。

提出的方法

• 作者应用基于LDA的无监督主题建模，从推文中提取主题特征，捕捉潜在的意识形态主题。
• 提取了一套全面的画像特征，包括情感（如愤怒、恐惧）、断言强度以及语言标记（如模糊表达、确定性、否定）。
• 使用自然语言蕴涵（NLI）特征来建模推文中的修辞和逻辑结构，如矛盾和蕴涵，以检测操纵性写作模式。
• 在包含2,023个IRA网络水军账户和94,643个真实账户的数据集上，训练一个结合主题特征和画像特征的机器学习分类器。
• 使用交叉验证评估性能，以宏平均F1作为主要指标，评估两类样本的平衡检测效果。
• 对误报案例进行人工分析，识别出常见故障模式，如仅含链接的帖子、模糊问题以及已删除链接的内容。

实验结果

研究问题

• RQ1 RQ1：通过无监督主题建模提取的主题信息是否能提升IRA网络水军的检测性能？
• RQ2 RQ2：是否可以仅依靠文本特征有效识别IRA网络水军，而无需依赖网络或元数据信号？
• RQ3 RQ3：IRA网络水军如何利用情绪化语言和语言策略来影响公众舆论？

主要发现

• 所提出的模型在交叉验证中实现了0.94的宏平均F1分数，表明其在区分IRA网络水军与真实用户方面具有高度有效性。
• 通过无监督主题建模提取的主题特征，与表面级文本特征结合后，显著提升了模型性能。
• 画像特征——尤其是与情感、断言和确定性相关的特征——在识别网络水军账户方面优于仅使用主题特征的表现。
• 该模型在检测反讽和操纵性修辞策略方面表现优异，而这些策略在IRA网络水军中频繁使用。
• 误报主要由仅含链接的推文、模糊问题以及指向已删除内容的链接引起，表明未来检测流程中需引入链接内容分析。
• 人工分析显示，反讽在水军中被频繁使用，表明反讽检测可作为未来检测系统的重要补充。