[论文解读] Characterizing Twitter Users Who Engage in Adversarial Interactions against Political Candidates

Yiqing Hua, Mor Naaman+1 more|arXiv (Cornell University)|May 9, 2020

Hate Speech and Cyberbullying Detection参考文献 50被引用 14

一句话总结

本研究采用混合方法，基于180万条来自40万名用户的回复数据，分析了2018年中期选举期间针对美国众议院候选人的Twitter上的对抗性互动。研究发现，高度对抗性用户在政治讨论网络中中心性较低，更关注对立政党候选人，在个人资料中表达更多负面情绪，且被自动化工具识别率较低，表明需要有针对性的平台干预措施。

ABSTRACT

Social media provides a critical communication platform for political figures, but also makes them easy targets for harassment. In this paper, we characterize users who adversarially interact with political figures on Twitter using mixed-method techniques. The analysis is based on a dataset of 400~thousand users' 1.2~million replies to 756 candidates for the U.S. House of Representatives in the two months leading up to the 2018 midterm elections. We show that among moderately active users, adversarial activity is associated with decreased centrality in the social graph and increased attention to candidates from the opposing party. When compared to users who are similarly active, highly adversarial users tend to engage in fewer supportive interactions with their own party's candidates and express negativity in their user profiles. Our results can inform the design of platform moderation mechanisms to support political figures countering online harassment.

研究动机与目标

• 理解在Twitter上与政治候选人发生对抗性互动的用户的行为特征与网络特征。
• 识别用户个人资料和互动网络中与对抗性行为相关的模式。
• 评估自动化毒性检测工具（如Perspective API）在识别高度对抗性用户方面的有效性。
• 为平台内容审核机制的设计提供依据，以保护政治人物免受网络骚扰。
• 提供美国政治话语中对抗性行为的情境化特征描述。

提出的方法

• 在2018年中期选举前两个月，收集了756名美国众议院候选人推文的180万条回复，涉及40万名独立用户。
• 使用Perspective API自动根据毒性评分将回复分类为对抗性。
• 对高度对抗性用户（发布超过10条对抗性回复）进行定性编码，分析其内容与个人资料特征。
• 构建用户与候选人互动的社会网络图，以衡量中心性与政党参与度。
• 比较不同活跃度用户在支持性与对抗性互动之间的差异。
• 将自动化检测结果与人工标注标签进行对比，评估精确度并识别低估情况。

Figure 1 : (a) CDF of $\tau$ -adversarial tweets contributed by users. (b) Breakdown of replies by users with different overall activity (top row), with the fraction of adversarial tweets made by each user group, for various $\tau$ (following rows). The legend specifies user overall activity level f

实验结果

研究问题

• RQ1 有多少比例的对抗性回复由少数高度活跃用户生成？
• RQ2 用户在政治讨论网络中的中心性如何与其对抗性参与程度相关？
• RQ3 高度对抗性用户在与本党及对立党候选人互动时的行为模式有何差异？
• RQ4 哪些个人资料特征与对抗性行为相关，尤其是对政治对手的负面情绪？
• RQ5 Perspective API在多大程度上能准确识别高度对抗性用户？其局限性是什么？

主要发现

• 超过35%的对抗性回复由仅10%的用户生成，表明对抗性活动分布极不均衡。
• 高度对抗性用户在与候选人互动的社交网络中中心性较低，表明其在政治话语网络中的整合程度较低。
• 与活跃度相当的其他用户相比，这些用户向对立党候选人发送了更多回复，而向本党候选人发送的回复更少。
• 高度对抗性用户更可能发布人身攻击和无关内容的回复，显示出有针对性的、无关的敌意行为模式。
• 用户的个人资料更可能包含党派性与对抗性语言，预示其在Twitter上的负面行为。
• Perspective API低估了对抗性活动，尤其在高度对抗性用户中更为明显；仅有15%的此类用户被Twitter封禁，表明平台执行存在明显缺口。

Figure 2 : Users with higher adversarial follower ratio are generally more likely to have been suspended.