[論文レビュー] The spread of misinformation by social bots

Chengcheng Shao, Giovanni Luca Ciampaglia+3 more|arXiv (Cornell University)|Jul 24, 2017

Misinformation and Its Impacts参考文献 34被引用数 16

ひとこと要約

本研究では、2016年米国大統領選挙期に40万件の記事から1400万件のTwitter投稿を分析し、ソーシャルボットが信ぴょう性の低いコンテンツを特に拡散段階のはじめに顕著に拡散していることを明らかにした。自動化されたアカウントはフォロワー数の多いユーザーを標的にし、誤情報の拡散確率が著しく高いことが示された。これにより、ボット活動の制御はオンラインでの誤情報拡散を緩和する可能性がある。

ABSTRACT

The massive spread of digital misinformation has been identified as a major global risk and has been alleged to influence elections and threaten democracies. Communication, cognitive, social, and computer scientists are engaged in efforts to study the complex causes for the viral diffusion of misinformation online and to develop solutions, while search and social media platforms are beginning to deploy countermeasures. With few exceptions, these efforts have been mainly informed by anecdotal evidence rather than systematic data. Here we analyze 14 million messages spreading 400 thousand articles on Twitter during and following the 2016 U.S. presidential campaign and election. We find evidence that social bots played a disproportionate role in amplifying low-credibility content. Accounts that actively spread articles from low-credibility sources are significantly more likely to be bots. Automated accounts are particularly active in amplifying content in the very early spreading moments, before an article goes viral. Bots also target users with many followers through replies and mentions. Humans are vulnerable to this manipulation, retweeting bots who post links to low-credibility content. Successful low-credibility sources are heavily supported by social bots. These results suggest that curbing social bots may be an effective strategy for mitigating the spread of online misinformation.

研究の動機と目的

• 2016年米国大統領選挙期における信ぴょう性の低いコンテンツの拡散におけるソーシャルボットの役割を調査すること。
• 自動化されたアカウントがTwitter上で誤情報の拡散を著しく担っているかどうかを特定すること。
• 記事の拡散におけるボット活動のタイミングと標的パターンを分析すること。
• 人間のユーザーがボットが共有した誤情報のリツイートにどれほど影響を受けやすいかを評価すること。
• 信ぴょう性の低い情報源が体制的なボットネットワークによって一貫して支援されているかどうかを評価すること。

提案手法

• 本研究は、2016年米国大統領選挙期にTwitter上で共有された40万件の記事から1400万件の投稿を分析した。
• 行動的およびネットワーク的特徴に基づいて、Twitterアカウントを自動活動に関連するものとしてボットと分類した。
• 研究者は、記事共有の時間的ダイナミクスを追跡し、ボットによる初期段階の拡散を同定した。
• フォロワー数の多いユーザーを標的にするパターンを測定することで、標的化のパターンを分析した。
• 信ぴょう性の異なる情報源におけるボットアカウントと人間アカウントの共有行動を比較した。
• 統計モデルを用いて、情報源の信ぴょう性とリツイートパターンを考慮した場合のボット状態の確率を評価した。

実験結果

リサーチクエスチョン

• RQ1 2016年米国大統領選挙期に、ソーシャルボットはどれほど信ぴょう性の低いコンテンツの拡散を担っているか？
• RQ2 ボットはフォロワー数の多いユーザーを著しく標的にすることで、誤情報の拡散範囲を拡大しているか？
• RQ3 ボット活動は、記事がウイルス的拡散に達するまでの初期段階に集中しているか？
• RQ4 ボットが共有したコンテンツがリツイートされると、人間のユーザーがそれに影響を受けやすいか？
• RQ5 信ぴょう性の低いニュース情報源は、体制的なボットネットワークによって一貫して支援されているか？

主な発見

• 信ぴょう性の低い情報源からのコンテンツを積極的に拡散しているアカウントは、著しくボットと分類される可能性が高い。
• ソーシャルボットは、記事がウイルス的拡散に達する前、特に拡散の初期段階で誤情報の拡散に特に活発に関与している。
• ボットは、フォロワー数の多いユーザーに対して返信やメンションを頻繁に送り、信ぴょう性の低いコンテンツの拡散範囲を拡大している。
• 人間のユーザーは操作に脆弱であり、信ぴょう性の低い情報源にリンクするボットが最初に投稿したコンテンツを頻繁にリツイートしている。
• 成功した信ぴょう性の低い情報源は、体制的なボットネットワークに強く支えられており、自動化の体系的特徴が示された。
• ボットによる拡散の著しい偏りは、ボット活動の制御がオンライン誤情報拡散の抑制に効果的な戦略である可能性を示唆している。