[論文レビュー] Social Bots and Social Media Manipulation in 2020: The Year in Review

Ho-Chun Herbert Chang, Emily Chen+3 more|arXiv (Cornell University)|Feb 16, 2021

Misinformation and Its Impacts参考文献 57被引用数 10

ひとこと要約

本論文は、2020年のCOVID-19パンデミックおよび米国大統領選挙期におけるSNS操作を、大規模なTwitterデータを用いて分析し、計算手法と社会科学的知見を統合している。その結果、ボットは依然として政治的および健康関連の誤情報拡散に寄与しているが、外国政府支援のキャンペーンに代わり、国内の自己組織的ネットワークとしての過激派ユーザーが歪みを引き起こす主要因となっていることが判明した。特に、政治的アイデンティティは公衆衛生に関する誤情報と強く関連している。

ABSTRACT

The year 2020 will be remembered for two events of global significance: the COVID-19 pandemic and 2020 U.S. Presidential Election. In this chapter, we summarize recent studies using large public Twitter data sets on these issues. We have three primary objectives. First, we delineate epistemological and practical considerations when combining the traditions of computational research and social science research. A sensible balance should be struck when the stakes are high between advancing social theory and concrete, timely reporting of ongoing events. We additionally comment on the computational challenges of gleaning insight from large amounts of social media data. Second, we characterize the role of social bots in social media manipulation around the discourse on the COVID-19 pandemic and 2020 U.S. Presidential Election. Third, we compare results from 2020 to prior years to note that, although bot accounts still contribute to the emergence of echo-chambers, there is a transition from state-sponsored campaigns to domestically emergent sources of distortion. Furthermore, issues of public health can be confounded by political orientation, especially from localized communities of actors who spread misinformation. We conclude that automation and social media manipulation pose issues to a healthy and democratic discourse, precisely because they distort representation of pluralism within the public sphere.

研究の動機と目的

• 2020年の米国大統領選挙およびCOVID-19パンデミックの時期に、ソーシャルボットや自動化アカウントが誤情報をどのように拡散したかを調査すること。
• リアルタイムで高リスクな出来事に直面する計算科学研究と社会科学研究の統合に伴う認識論的・方法論的課題を分析すること。
• 2020年のSNS操作のパターンを過去の年と比較し、誤情報キャンペーンの発信源と構造の変化を特定すること。
• 政治的アイデンティティと公衆衛生の物語（マスク着用、投票用切手入り郵送投票、ロックダウンなど）の交差を検討すること。
• 自動化システムと人間の共有行動が、陰謀説や誤情報の拡散に与える影響を評価すること。

提案手法

• 2020年のパンデミックおよび選挙に関する議論を追跡するため、数十億件に及ぶ公開Twitterデータセットを活用した。
• 行動パターンとネットワーク構造に基づいてボットアカウントを検出・分類する、最先端の機械学習技術を適用した。
• 郵送投票、マスク着用、ロックダウン、パンデミック関連の誤情報など、関連する物語を特定・分類するコンテンツ分析を実施した。
• エコーチャンバーの形成と政治的コミュニティの自己組織化、特に右派ユーザーのクラスタ内において、ネットワーク分析を実施した。
• リツイートのパターンとボリューム分布を追跡し、主に政党ごとの境界を越えたボット活動とその拡散効果を定量的に評価した。
• 2016年の研究と照らし合わせ、SNS操作の発信源とメカニズムの変化を特定した。

実験結果

リサーチクエスチョン

• RQ1 2020年の米国大統領選挙およびCOVID-19パンデミック期に、ソーシャルボットは誤情報の拡散にどのように寄与したか？
• RQ2 2020年において、SNS操作の発信源が外国政府支援のキャンペーンから国内に根を下ろした自己組織的ネットワークへとどの程度シフトしたか？
• RQ3 政治的アイデンティティは、マスク着用や郵送投票といった公衆衛生問題に関する物語と、どの程度一致しているか？
• RQ4 人間の共有行動は、ボット駆動の拡散と比較して、誤情報の拡散に果たす役割は何か？
• RQ5 陰謀説の構造的・物語的特徴は、事実ニュースと比較して、なぜより速く拡散されるのか？

主な発見

• 2020年のボットは、1人あたりの選挙関連ツイート発信量が著しく高く、主に自らの政治的コミュニティ内でのリツイートに集中しており、80％以上が左派または右派のネットワーク内に限定されていた。
• 継続的なボット活動にもかかわらず、2020年の誤情報拡散の主因は外国干渉ではなく、陰謀論や分極化を推進する過激派ユーザーによる国内の自己組織的ネットワークであった。
• 政治的アイデンティティは公衆衛生の物語と強く関連しており、マスク着用や郵送投票に反対するユーザーは、特に右派ユーザーのクラスタ内で、主流とは明確に分離した濃密なコミュニティを形成していた。
• 誤情報、特に陰謀説は、ボット活動を除いても、より高い新奇性と感情的インパクトのおかげで真実の情報よりも速く拡散された。これは、人間による拡散の強さを示している。
• 予備選挙や主要イベントの時期に、パンデミック、郵送投票、ロックダウンに関する物語の発信が急増した。これは、政治的マイルストーンに連動した調整的または反応的な議論パターンを示している。
• 本研究は、真実の物語が進化する証拠を必要とする構造的不安定性のため、自己完結的かつ一貫性のある陰謀論の物語に比べて、拡散に劣位に立つことが確認された。陰謀論は、より効果的に拡散された。