[論文レビュー] Identifying and characterizing superspreaders of low-credibility content on Twitter

Matthew DeVerna, Rachith Aiyappa+3 more|arXiv (Cornell University)|Jul 19, 2022

Misinformation and Its Impacts被引用数 13

ひとこと要約

本研究では、$h$-index や Influence といった予測指標を用いて、Twitter における低信頼性コンテンツのスーパースプレッダーを特定・特徴づける。その結果、わずか 0.25% のアカウント（1,000 個）がその内容の 70% 以上を生成していることが判明。$h$-index は他の指標よりもトップスーパースプレッダーを予測する上で優れている。スーパースプレッダーは主に政治的性質のもので、しばしば公式認証済みであり、より毒舌的な言語を用いる。これは、高影響力の誤情報拡散者を効果的に監視・管理できていないプラットフォームの構造的欠陥を示している。

ABSTRACT

The world's digital information ecosystem continues to struggle with the spread of misinformation. Prior work has suggested that users who consistently disseminate a disproportionate amount of low-credibility content -- so-called superspreaders -- are at the center of this problem. We quantitatively confirm this hypothesis and introduce simple metrics to predict the top superspreaders several months into the future. We then conduct a qualitative review to characterize the most prolific superspreaders and analyze their sharing behaviors. Superspreaders include pundits with large followings, low-credibility media outlets, personal accounts affiliated with those media outlets, and a range of influencers. They are primarily political in nature and use more toxic language than the typical user sharing misinformation. We also find concerning evidence that suggests Twitter may be overlooking prominent superspreaders. We hope this work will further public understanding of bad actors and promote steps to mitigate their negative impacts on healthy digital discourse.

研究の動機と目的

• Twitter における低信頼性コンテンツを著しく広めているユーザーを体系的に特定・特徴づけること。
• 将来のスーパースプレッダーを高精度に予測できる、プラットフォームに依存しない指標の評価。
• スーパースプレッダーの行動的・人口統計的プロファイル（動機やプラットフォームでの取り扱いなど）を理解すること。
• Twitter などのソーシャルメディアプラットフォームが、高影響力の誤情報拡散者を効果的に管理しているかどうかを評価すること。
• コンテンツモデレーションにおける構造的脆弱性を明らかにすることで、政策立案およびプラットフォーム設計に貢献すること。

提案手法

• 低信頼性情報源からのコンテンツ拡散を追跡するため、10か月間の Twitter Decahose データを収集。
• スーパースプレッダーを、低信頼性コンテンツを発信し、広く拡散するアカウントとして定義。
• 将来のスーパースプレッダー状態を予測するための4つの指標（Bot Score、Popularity、Influence、$h$-index）を評価。
• 時系列的評価を実施：初期期間にアカウントをランク付けし、その後の期間における実際のスーパースプレッダー状態と照らし合わせて予測精度を測定。
• 最も活発なスーパースプレッダーの定性的分析を実施。アカウントタイプや行動の手動分類を含む。
• 解体分析を実施し、上位スーパースプレッダーの削除が、全体の低信頼性コンテンツ拡散に与える影響を評価。

実験結果

リサーチクエスチョン

• RQ1 シンプルでプラットフォームに依存しない指標は、将来にわたり低信頼性コンテンツのスーパースプレッダーとなるユーザーを信頼性高く予測できるか？
• RQ2 最も一般的にスーパースプレッダーとして特定されるユーザーの種類は何か？ その行動様式は？
• RQ3 スーパースプレッダーの影響力は、Twitter 全体における低信頼性コンテンツ拡散においてどれほど集中しているか？
• RQ4 特に公式認証済みまたはフォロワー数の多いアカウントである著名なスーパースプレッダーは、プラットフォームのモデレーションシステムで見過ごされているのか？
• RQ5 平均的な誤情報拡散者と比較して、スーパースプレッダーはどれほど毒舌的な言語を多く用いているか？

主な発見

• $h$-index および Influence という指標が、数か月も前からトップスーパースプレッダーをほぼ最適な精度で予測できた。
• わずか 10 個のスーパースプレッダー（アカウント全体の 0.003%）が、その後 8 ヶ月間にわたり 34% 以上の低信頼性コンテンツを発信した。
• 合計で 1,000 個のアカウント（全アカウントの 0.25%）が、低信頼性コンテンツ拡散の 70% 以上を占めた。
• スーパースプレッダーの 52% が政治的性質のものであり、コメンテーター、マスコミ機関、米国主要両大政党の公式党アカウントを含む。
• スーパースプレッダーは、平均的な誤情報拡散者と比較して、顕著に毒舌的な言語を多く用いていた。
• 本研究では、特に公式認証済みまたはフォロワー数の多いアカウントである著名なスーパースプレッダーに対して、Twitter が寛大であった可能性の証拠が得られた。