[論文レビュー] On Analyzing Antisocial Behaviors Amid COVID-19 Pandemic

Md. Rabiul Awal, Rui Cao+2 more|arXiv (Cornell University)|Jul 21, 2020

Hate Speech and Cyberbullying Detection参考文献 32被引用数 6

ひとこと要約

本稿では、語彙ベースの検出とGoogleのPerspective APIを組み合わせた自動アノテーションフレームワークを提案し、4000万件を超えるCOVID-19関連ツイートからなる大規模データセットにおける反社会的行動をラベル付けする。研究では、新たな攻撃的語彙、脆弱な標的、および出来事に起因する有毒コンテンツの急増を同定し、パンデミック期のオンラインの攻撃的行動に関する研究を進めるために公に提供されたデータセットを貢献する。

ABSTRACT

The COVID-19 pandemic has developed to be more than a bio-crisis as global news has reported a sharp rise in xenophobia and discrimination in both online and offline communities. Such toxic behaviors take a heavy toll on society, especially during these daunting times. Despite the gravity of the issue, very few studies have studied online antisocial behaviors amid the COVID-19 pandemic. In this paper, we fill the research gap by collecting and annotating a large dataset of over 40 million COVID-19 related tweets. Specially, we propose an annotation framework to annotate the antisocial behavior tweets automatically. We also conduct an empirical analysis of our annotated dataset and found that new abusive lexicons are introduced amid the COVID-19 pandemic. Our study also identified the vulnerable targets of antisocial behaviors and the factors that influence the spreading of online antisocial content.

研究の動機と目的

• パンデミック期におけるオンラインの反社会的行動を研究する上で重要な研究ギャップを埋めるため、特にアノテート済みデータセットの不足が著しい状況を踏まえて。
• ハラスメントや攻撃的言語などの反社会的行動を、大規模なソーシャルメディアコンテンツに対してラベル付けできる、自動的かつスケーラブルなアノテーションフレームワークを開発するため。
• パンデミック期のオンラインディス course における反社会的行動の性質、標的、および拡散様式を実証的に分析するため。
• 今後の研究を支援するため、パンデミック期における反社会的行動に関する大規模で公開可能で、きめ細やかなアノテーションが施されたデータセットを公開するため。

提案手法

• キーワードベースのクローリングと時系列フィルタリングを用いて、COVID-19パンデミック関連の4000万件を超えるツイートを収集する。
• 語彙ベースの手法で既知の反社会的スラングやフレーズを照合し、事前学習済みの毒性分類器（GoogleのPerspective API）を統合した自動アノテーションフレームワークを提案する。
• 両手法の出力を統合して、データセット内の反社会的コンテンツについて、最終的なコンSENSUSベースのアノテーションを生成する。
• 語彙的パターン、標的のデモグラフィック要因、および反社会的コンテンツの時間的ダイナミクスに焦点を当てた実証的分析に、アノテート済みデータセットを用いる。
• 統計的および時間的分析を実施し、反社会的行動の急増を同定し、現実世界の出来事と関連付ける。

実験結果

リサーチクエスチョン

• RQ1 パンデミック期のオンラインディス course において、どのような語彙的パターンが見られ、新たな攻撃的語彙が導入されたか？
• RQ2 パンデミック期のソーシャルメディアにおける反社会的行動の主な標的は誰か？
• RQ3 現実世界の出来事が、ソーシャルメディア上の反社会的コンテンツの時間的拡散と強度にどのように影響を与えるか？
• RQ4 リツイートや政治的発言などの要因は、どのようにして有毒コンテンツの急速な拡散を促進するか？

主な発見

• 研究では、パンデミック期のオンラインディス course において、特定の民族や政治的指導者を標的にした新たな攻撃的語彙が出現したことが同定された。
• 中国系コミュニティは、パンデミック初期段階において、人種差別的・差別的なコンテンツの主な標的であった。
• 反社会的コンテンツには顕著な時間的ピークが見られ、ドナルド・トランプ氏によるヒドロキシクロロキンの推奨や、インドにおける宗教行事に関する発言など、主要な政治的出来事と関連する著しい急増が確認された。
• Twitterのリツイート機能は、特に影響力のあるアカウントから出た場合に、反社会的コンテンツの拡大と拡散を促進する上で顕著な役割を果たした。
• データセットの分析から、反社会的ツイートの割合は1日あたり4％から9％の間で推移し、影響力のある出来事の際にはこの範囲を超えるピークが観察された。