[論文レビュー] Women, politics and Twitter: Using machine learning to change the discourse

Lana Cuthbertson, Alex Kearney+5 more|arXiv (Cornell University)|Nov 25, 2019

Hate Speech and Cyberbullying Detection参考文献 16被引用数 13

ひとこと要約

本論文では、女性政治家を標的にする嫌がらせツイートを機械学習を用いて検出するとともに、支援的な「ポジティビットゥイート」を自動で返信するAI駆動型Twitterボット、ParityBOTを提案する。このシステムは、公開の嫌がらせデータセットを検証し、2019年のアーサルバ・プロヴィンシャル選挙およびカナダ連邦選挙中に展開された。TOXICITY閾値0.8で1,468件の嫌がらせツイートを分類した後、973件のポジティビットゥイートを送信し、女性政治家へのオンラインでの注目度を高めることで、嫌がらせの影響を軽減した。

ABSTRACT

Including diverse voices in political decision-making strengthens our democratic institutions. Within the Canadian political system, there is gender inequality across all levels of elected government. Online abuse, such as hateful tweets, leveled at women engaged in politics contributes to this inequity, particularly tweets focusing on their gender. In this paper, we present ParityBOT: a Twitter bot which counters abusive tweets aimed at women in politics by sending supportive tweets about influential female leaders and facts about women in public life. ParityBOT is the first artificial intelligence-based intervention aimed at affecting online discourse for women in politics for the better. The goal of this project is to: $1$) raise awareness of issues relating to gender inequity in politics, and $2$) positively influence public discourse in politics. The main contribution of this paper is a scalable model to classify and respond to hateful tweets with quantitative and qualitative assessments. The ParityBOT abusive classification system was validated on public online harassment datasets. We conclude with analysis of the impact of ParityBOT, drawing from data gathered during interventions in both the $2019$ Alberta provincial and $2019$ Canadian federal elections.

研究の動機と目的

• Twitterにおけるオンライン嫌がらせが深刻化する中で、カナダの政治における構造的ジェンダーギャップを是正すること。
• 女性政治家に対するオンラインディスcourseを積極的に再構築するAIベースの干渉を設計・展開すること。
• 分類および嫌がらせツイートへの対応に関して、スケーラブルで透明性があり、倫理的にガイドされたシステムを開発すること。
• 自動化されたポジティブな関与が、女性の政治参加およびオンラインでの安全性に与える影響を評価すること。
• AIボットが、女性の政治的参加への障壁を低減し、包摂的であることを促進する可能性を検討すること。

提案手法

• システムは、Tweepyを介してTwitterのリアルタイムストリーミングAPIを用い、英語で女性政治家を言及するツイートを収集する。
• テキストはルールベースのクリーニングを用いてモデルの期待に合わせて前処理され、その後、3つのNLPモデル（Perspective API（TOXICITY）、HateSonar、VADERセンチメント）でスコア付けされる。
• モデル出力から特徴ベクトルが作成され、透明性と予測力の両面で優れていることから、TOXICITYスコアが主な分類器として選択された。
• 動的閾値戦略が適用され、初期は0.5、その後0.8および0.9に引き上げられ、応答頻度とTwitter APIレート制限、誤検出の低減のバランスを取った。
• 閾値を超えたツイートに対しては、多様なライブラリから選ばれた、インパクトのある女性政治家に関する事前にキュレートされた「ポジティビットゥイート」が返信される。
• 直接メンションを避けるとともに、明確にボットとして自己識別することで透明性を保ち、偽装の倫理的リスクを低減した。

実験結果

リサーチクエスチョン

• RQ1 AI駆動型ボットは、女性政治家を標的にしたジェンダーに基づくオンライン嫌がらせを効果的に検出し、対応できるか？
• RQ2 自動化されたポジティブな関与は、女性候補者の政治的ディスコースにおける認識と体験にどのような影響を与えるか？
• RQ3 スケーラブルで透明性のあるボットシステムは、Twitter上の政治的ディスコースのトーンと包摂性にどのような影響を与えるか？
• RQ4 嫌がらせ検出における意思決定閾値は、反応性とリソース制限のバランスにどのように影響するか？
• RQ5 このようなシステムは、女性の政治的参加への障壁を軽減するのにどの程度貢献できるか？

主な発見

• 2019年アーサルバ・プロヴィンシャル選挙中、ParityBOTは全12,726件のツイートのうち1,468件の嫌がらせツイートを分類し、TOXICITY閾値0.8を設定した。
• アーサルバ選挙中、ボットは973件のポジティビットゥイートを送信し、API制限およびコンテンツライブラリの制限に起因する制御された応答頻度を示した。
• Perspective APIのTOXICITYスコアは、嫌がらせ発言を分類する上で予測力が最も高く、主分類器としての使用が正当化された。
• 参加者らは、ParityBOTの存在が、嫌がらせが監視されていることと、支援的な声が存在することを示しており、可視性と励ましの感覚に貢献していると報告した。
• 女性候補者たちは、オンライン嫌がらせが継続的な障壁であると認識しており、多くの場合、ネガティブな雰囲気に起因してソーシャルメディアから離脱していることが明らかになった。これにより、このような干渉の必要性が強調された。
• 本プロジェクトは、倫理的に設計されたAIベースのボットが、ディスコースの転換と政治的参加におけるジェンダーエクイティの支援に貢献できることを示した。