[論文レビュー] The spread of fake news by social bots

Chengcheng Shao, Giovanni Luca Ciampaglia+3 more|arXiv (Cornell University)|Jul 24, 2017

Misinformation and Its Impacts参考文献 24被引用数 242

ひとこと要約

本研究では、2016年米国大統領選挙期に40万件の主張をめぐる1400万件のTwitterメッセージを分析し、ソーシャルボットがフェイクニュースの拡散を顕著に拡大させることを明らかにした。特に初期拡散段階およびインフルエンサーを標的にした場合に顕著である。研究は、自動化されたアカウントがウイルス的誤情報拡散の主な要因であることを示しており、オンラインの誤情報削減のための鍵となる戦略としてボットの抑制が有効であると示唆している。

ABSTRACT

The massive spread of fake news has been identified as a major global risk and has been alleged to influence elections and threaten democracies. Communication, cognitive, social, and computer scientists are engaged in efforts to study the complex causes for the viral diffusion of digital misinformation and to develop solutions, while search and social media platforms are beginning to deploy countermeasures. However, to date, these efforts have been mainly informed by anecdotal evidence rather than systematic data. Here we analyze 14 million messages spreading 400 thousand claims on Twitter during and following the 2016 U.S. presidential campaign and election. We find evidence that social bots play a key role in the spread of fake news. Accounts that actively spread misinformation are significantly more likely to be bots. Automated accounts are particularly active in the early spreading phases of viral claims, and tend to target influential users. Humans are vulnerable to this manipulation, retweeting bots who post false news. Successful sources of false and biased claims are heavily supported by social bots. These results suggests that curbing social bots may be an effective strategy for mitigating the spread of online misinformation.

研究の動機と目的

• 2016年米国大統領選挙期におけるフェイクニュースのウイルス的拡散におけるソーシャルボットの役割を調査すること。
• 人間のユーザーと比較して、自動化されたアカウントがフェイクまたはバイアスのかかった主張をより多く拡散するかどうかを特定すること。
• 特に拡散のタイミングとボットの標的行動を含む、誤情報拡散の時間的およびネットワーク的パターンを分析すること。
• 人間のユーザーがボットが拡散したコンテンツをどれほどリツイートしているかを評価し、操作への脆弱性を示すこと。
• ソーシャルボットの抑制がオンライン誤情報の拡散を効果的に減らせるかどうかを評価すること。

提案手法

• 2016年米国大統領選挙キャンペーン中および以降に、Twitter上で40万件の主張を拡散する1400万件のメッセージを収集・分析した。
• 高いツイート量、低い相互作用の多様性、ネットワーク中心性指標を含む、行動的およびネットワークベースのヒューリスティックを用いてボットアカウントを同定した。
• ボット活動がウイルス的拡散パターンと重複するか、それ以前に発生したかを特定するために、主張の時間的拡散を追跡した。
• リツイートネットワークを分析し、自動化されたアカウントが頻繁に接触する高インパクトユーザーを特定することで、ボットの標的行動をマッピングした。
• 統計的モデリングを用いて、ボットが拡散した主張と人間が拡散した主張を比較することで、誤情報拡散の可能性を定量化した。
• 人間のリツイート行動をボットが拡散したコンテンツに対して評価し、自動化された操作への感受性を評価した。

実験結果

リサーチクエスチョン

• RQ1 2016年米国大統領選挙期に、ソーシャルボットはフェイクニュースの拡散において顕著に責任を負っているか？
• RQ2 人間のユーザーと比較して、ボットは誤情報拡散の初期段階でより早く開始または拡大させているか？
• RQ3 インフルエンサーを標的にする頻度が、非インフルエンサーを標的にする頻度よりも高いか？
• RQ4 人間のユーザーはボットが拡散したコンテンツにどれほど影響を受けており、リツイートしているか？
• RQ5 ボットが拡散する誤情報の構造的および行動的パターンは、人間が拡散する主張とどのように異なるか？

主な発見

• 誤情報拡散を積極的に行っているアカウントは、行動的およびネットワーク指標に基づき、ソーシャルボットとして分類される可能性が顕著に高かった。
• ソーシャルボットは、主張拡散の初期段階で特に活発で、ウイルス的拡散を開始する戦略的役割を果たしていると考えられる。
• ボットアカウントは頻繁にインフルエンサーを標的にし、高可視性のリツイートを通じて誤った主張を拡大していた。
• 人間はボットがフェイクニュースを投稿したコンテンツをリツイートしていることが判明し、自動化された操作への感受性が示された。
• フェイクおよびバイアスのかかった主張の成功要因は、協調的なボット活動に強く支えられており、誤情報エコシステムにおける中心的役割が確認された。
• 研究結果は、ソーシャルボットの存在と活動を抑制することで、オンライン誤情報の拡散を効果的に減らせる可能性があると示唆している。