[論文レビュー] How does Twitter account moderation work? Dynamics of account creation and suspension on Twitter during major geopolitical events

Francesco Pierri, Luca Luceri+2 more|arXiv (Cornell University)|Sep 15, 2022

Hate Speech and Cyberbullying Detection参考文献 60被引用数 6

ひとこと要約

本研究は、ロシア＝ウクライナ戦争と2022年フランス大統領選挙という主要な地理政治的出来事の間、2億7000万件のツイートを含むデータセットを用いて、Twitterのアカウントモデレーションを分析している。新規に作成されたアカウントのスパム的行動（過剰な返信やメンションの送信など）が急速に停止され、協働的乱用のパターンが特定され、プラットフォームの対応介入のメカニズムが明らかになり、モデレーションの透明性が向上した。

ABSTRACT

Social media moderation policies are often at the center of public debate, and their implementation and enactment are sometimes surrounded by a veil of mystery. Unsurprisingly, due to limited platform transparency and data access, relatively little research has been devoted to characterizing moderation dynamics, especially in the context of controversial events and the platform activity associated with them. Here, we study the dynamics of account creation and suspension on Twitter during two global political events: Russia's invasion of Ukraine and the 2022 French Presidential election. Leveraging a large-scale dataset of 270M tweets shared by 16M users in multiple languages over several months, we identify peaks of suspicious account creation and suspension, and we characterize behaviours that more frequently lead to account suspension. We show how large numbers of accounts get suspended within days from their creation. Suspended accounts tend to mostly interact with legitimate users, as opposed to other suspicious accounts, often making unwarranted and excessive use of reply and mention features, and predominantly sharing spam and harmful content. While we are only able to speculate about the specific causes leading to a given account suspension, our findings shed light on patterns of platform abuse and subsequent moderation during major events.

研究の動機と目的

• 地理政治的出来事の影響で不審な活動が急増する状況において、Twitterのアカウントモデレーションシステムがどのように反応するかを調査すること。
• 特に新規に作成されたアカウントにおいて、アカウント停止に関連する行動パターンを特定すること。
• 過去のAPIベースの研究とは異なり、作成・停止のダイナミクスを即時的・ほぼリアルタイムで分析すること。
• 高水準のオンライン活動が見られる時期における乱用パターンと停止のトリガーを特徴づけることで、プラットフォームモデレーションの透明性を高めること。
• 今後の研究における悪意ある行動の早期検出を支援し、民主的ディスコースにおけるプラットフォーム介入の理解を深めること。

提案手法

• 主な出来事の期間中に、複数の言語で1600万人のユーザーから2億7000万件の公開ツイートを含む大規模データセットを収集した。
• モデレーション行動のほぼリアルタイム分析を可能にするために、アカウント作成および停止のタイムラインを最小限の遅延で追跡した。
• 返信やメンションの大量送信、急速なコンテンツ共有といった行動の異常を根拠に、不審なアカウントを同定した。
• アカウントの年齢に応じた相互作用パターン、コンテンツタイプ、時間的ダイナミクスを分析することで、停止されたアカウントの特徴を明らかにした。
• 再現可能性を確保しつつ、プラットフォームの利用規約を尊重するため、公開のTwitter APIエンドポイントを用いてツイートIDを取得した。
• 出来事のタイムラインと照合可能な、アカウント作成および停止のピークを特定するための時系列分析を実施した。

実験結果

リサーチクエスチョン

• RQ1 ロシア＝ウクライナ戦争やフランス大統領選挙といった主要な地理政治的出来事の間、Twitterにおけるアカウント作成および停止の割合はどのように変化するか？
• RQ2 プラットフォーム活動が活発な時期に、停止されたアカウントと正当なユーザーを区別する行動パターンは何か？
• RQ3 不審なアカウントは作成後、どの程度の速さで停止されるのか。早期の停止に関連する要因は何か？
• RQ4 停止されたアカウントは、正当なユーザーと比べて、他の不審なアカウントとどれほど頻繁に相互作用しているか？
• RQ5 同様の行動を示すが停止されないアクティブなユーザーと比較して、停止されたアカウントの特徴は何か？

主な発見

• 停止されたアカウントは、主に作成後数日以内に作成され、停止されており、Twitterのモデレーションシステムによる迅速な検出を示している。
• 停止は、返信およびメンション機能の過剰使用と強く関連しており、自動化またはボットに類似した行動を示している可能性がある。
• 停止されたアカウントは、しばしば大量のスパムおよび有害コンテンツを共有しており、他の不審なアカウントではなく、正当なユーザーを標的にしていることが多かった。
• アカウント作成および停止のピークは、主要な出来事の節目と一致しており、注目度の高い時期に協働的乱用キャンペーンが発生していたことを示している。
• 本研究では、停止されたアカウントの多くが協働的行動を示していることが観察されたが、正確な検出メカニズムは依然として不明のままだ。
• プラットフォームの透明性が限られている中でも、本研究は、グローバルな危機期における協働的不正行為への体系的モデレーション反応の実証的証拠を提供した。