[論文レビュー] Propaganda and Misinformation on Facebook and Twitter during the Russian Invasion of Ukraine

Francesco Pierri, Luca Luceri+2 more|arXiv (Cornell University)|Dec 1, 2022

Misinformation and Its Impacts被引用数 12

ひとこと要約

本研究は、2022年ロシア・ウクライナ戦争の最初の4か月間におけるフェイスブックとツイッターにおけるロシアプロパガンダおよび信頼性の低いコンテンツの拡散を、2000万件のフェイスブック投稿および2億5000万件のツイートという大規模データセットを用いて分析した。研究では、問題のあるコンテンツのうちわずか8–15％しか削除されておらず、主に公式認証済みの右寄りアカウントであるスーパースプレッダーが、60–80％の相互作用を引き起こしていた。また、プラットフォームの対策や禁止措置にもかかわらず、誤情報は継続して存在していた。

ABSTRACT

Online social media represent an oftentimes unique source of information, and having access to reliable and unbiased content is crucial, especially during crises and contentious events. We study the spread of propaganda and misinformation that circulated on Facebook and Twitter during the first few months of the Russia-Ukraine conflict. By leveraging two large datasets of millions of social media posts, we estimate the prevalence of Russian propaganda and low-credibility content on the two platforms, describing temporal patterns and highlighting the disproportionate role played by superspreaders in amplifying unreliable content. We infer the political leaning of Facebook pages and Twitter users sharing propaganda and misinformation, and observe they tend to be more right-leaning than the average. By estimating the amount of content moderated by the two platforms, we show that only about 8-15% of the posts and tweets sharing links to Russian propaganda or untrustworthy sources were removed. Overall, our findings show that Facebook and Twitter are still vulnerable to abuse, especially during crises: we highlight the need to urgently address this issue to preserve the integrity of online conversations.

研究の動機と目的

• ロシア・ウクライナ戦争の初期段階におけるフェイスブックとツイッターにおけるロシアプロパガンダおよび信頼性の低いコンテンツの広がりを評価すること。
• 誤情報やプロパガンダを拡散するスーパースプレッダーの特定とその役割の分析すること。
• 信頼性の低いコンテンツを共有するアカウントの政治的傾向を推定すること。
• プラットフォームが問題のあるリンクに対してどの程度の内容モデレーションを実施したかを推定すること。
• グローバルな危機発生時におけるソーシャルメディアプラットフォームの構造的脆弱性を浮き彫りにすること。

提案手法

• 2022年2月から5月にかけて、公開APIを介して2000万件のフェイスブック投稿および2億5000万件以上のツイートを含む大規模データセットを収集した。
• 既存のマスコミ信頼性ランキングと遠隔教師付き技術を用いて、コンテンツの出典の信頼性に基づいて分類した。
• 既知のマスコミ機関リストおよび評判データベースを用いて、ロシア国家関連および信頼性の低い情報源を特定した。
• 時間経過に伴うリシェア（フェイスブック）およびリツイート（ツイッター）の数を測定することで、コンテンツの拡散を追跡した。
• 自然言語処理（NLP）ベースのモデルとプラットフォーム全体の平均ユーザーとの比較分析を用いて、ユーザーおよびページの政治的傾向を推定した。
• プラットフォームのポリシー記録およびデータアクセスを活用して、削除されたコンテンツと問題のあるリンク全体の比較を行い、プラットフォームのモデレーションを推定した。

実験結果

リサーチクエスチョン

• RQ1 ロシアのウクライナ侵攻期におけるフェイスブックとツイッターにおける信頼性の低いコンテンツおよびロシアプロパガンダの割合はどの程度か？
• RQ2 ロシアプロパガンダおよび信頼性の低いコンテンツを拡散しているスーパースプレッダーは誰か？
• RQ3 ロシアプロパガンダおよび信頼性の低いコンテンツを共有するアカウントの政治的傾向は、どのように推定されるか？
• RQ4 プラットフォームは、ロシアプロパガンダおよび信頼性の低いコンテンツのどの程度を削除しているか？

主な発見

• フェイスブック投稿およびツイートのうち、ロシアプロパガンダまたは信頼性の低い情報源へのリンクを共有したコンテンツのうち、プラットフォームによって削除されたのはわずか8–15％にとどまり、モデレーションの効果が弱いことが示された。
• ロシアプロパガンダの出現頻度は、侵攻後、プラットフォームの禁止措置や制裁措置により低下したが、完全に消滅したわけではない。
• 信頼性の低いコンテンツのエンゲージメントは安定した水準を維持しており、研究期間を通じてリシェア数およびリツイート数に一貫性が見られた。
• 公式認証済みで影響力のあるフェイスブックのページおよびツイッターのユーザーの少数が、問題のあるコンテンツに対するすべての相互作用の60–80％を占めていた（スーパースプレッダーと呼ばれる）。
• プロパガンダや誤情報を共有するアカウントは、両プラットフォームの平均ユーザーと比較して、顕著に右寄りの政治的傾向を示していた。
• 本研究は、フェイスブックとツイッターにおける構造的脆弱性を浮き彫りにした。対策が講じられても、グローバルな危機発生時にはプラットフォームが依然として悪用の対象となり得ることを示している。