[论文解读] Women, politics and Twitter: Using machine learning to change the discourse

Lana Cuthbertson, Alex Kearney+5 more|arXiv (Cornell University)|Nov 25, 2019

Hate Speech and Cyberbullying Detection参考文献 16被引用 13

一句话总结

本文提出 ParityBOT，一种基于人工智能的 Twitter 机器人，利用机器学习技术检测针对女性政治人物的仇恨言论，并自动发送关于女性领导人的支持性‘positivitweets’作为回应。该系统在公开的骚扰数据集上进行了验证，并在2019年阿尔伯塔省省级选举和加拿大联邦选举期间实际部署，通过提升女性在政治中的可见度，减轻了网络暴力的影响，最终在 TOXICITY 阈值为 0.8 的条件下，分类出 1,468 条仇恨言论后，发送了 973 条 positivitweets。

ABSTRACT

Including diverse voices in political decision-making strengthens our democratic institutions. Within the Canadian political system, there is gender inequality across all levels of elected government. Online abuse, such as hateful tweets, leveled at women engaged in politics contributes to this inequity, particularly tweets focusing on their gender. In this paper, we present ParityBOT: a Twitter bot which counters abusive tweets aimed at women in politics by sending supportive tweets about influential female leaders and facts about women in public life. ParityBOT is the first artificial intelligence-based intervention aimed at affecting online discourse for women in politics for the better. The goal of this project is to: $1$) raise awareness of issues relating to gender inequity in politics, and $2$) positively influence public discourse in politics. The main contribution of this paper is a scalable model to classify and respond to hateful tweets with quantitative and qualitative assessments. The ParityBOT abusive classification system was validated on public online harassment datasets. We conclude with analysis of the impact of ParityBOT, drawing from data gathered during interventions in both the $2019$ Alberta provincial and $2019$ Canadian federal elections.

研究动机与目标

• 解决因 Twitter 上的在线骚扰而加剧的加拿大政治中的系统性性别不平等问题。
• 设计并部署一种基于人工智能的干预措施，主动重塑针对女性政治人物的网络话语。
• 开发一种可扩展、透明且符合伦理指导原则的系统，用于分类和响应仇恨言论。
• 评估自动化积极互动对女性政治参与度和网络安全性的影响。
• 探索人工智能机器人在促进包容性、减少女性政治参与障碍方面的潜力。

提出的方法

• 系统通过 Tweepy 使用 Twitter 的实时流媒体 API 收集提及女性政治候选人的英文推文。
• 文本经过基于规则的清洗以符合模型预期，随后使用三种自然语言处理模型进行评分：Perspective API（TOXICITY）、HateSonar 和 VADER 情感分析。
• 从模型输出生成特征向量，选择 TOXICITY 得分作为主要分类器，因其具备透明性和预测能力。
• 采用动态阈值策略——初始为 0.5，随后提升至 0.8 和 0.9——以在响应频率与 Twitter API 速率限制之间取得平衡，并减少误报。
• 对高于阈值的推文，机器人自动发送预先策划的‘positivitweets’，内容为关于政治领域中具有影响力的女性，选自一个多样化的内容库。
• 系统避免直接提及用户，并通过明确标识自身为机器人来保持透明度，从而降低欺骗带来的伦理风险。

实验结果

研究问题

• RQ1 基于人工智能的机器人能否有效检测并回应针对女性政治人物的性别化网络暴力？
• RQ2 自动化积极互动在多大程度上影响了女性候选人对政治话语的感知与体验？
• RQ3 可扩展、透明的机器人系统对 Twitter 上政治话语的语气与包容性产生了何种影响？
• RQ4 仇恨言论检测中的决策阈值如何影响响应速度与资源限制之间的平衡？
• RQ5 此类系统在多大程度上能够减少女性政治参与的障碍？

主要发现

• 在 2019 年阿尔伯塔省省级选举期间，ParityBOT 从总共 12,726 条推文中识别出 1,468 条仇恨言论，TOXICITY 阈值为 0.8。
• 在阿尔伯塔省选举期间，该机器人共发送了 973 条 positivitweets，表明其响应频率受到 API 限制和内容库规模的控制。
• Perspective API 的 TOXICITY 得分是分类仇恨言论最具预测力的特征，因此被选为主要分类器。
• 参与者表示，ParityBOT 的存在表明网络暴力正在被监控，且支持性声音正在出现，从而增强了女性的可见感与被鼓励感。
• 女性候选人承认，网络暴力是一种持续存在的障碍，许多人为避免负面情绪而选择退出社交媒体，凸显了此类干预措施的必要性。
• 本项目表明，基于人工智能、符合伦理设计的机器人能够推动话语转变，支持政治参与中的性别平等。