[論文レビュー] Conspiracy Machines -- The Role of Social Bots during the COVID-19 Infodemic

Julian Marx, Felix Brünker+2 more|arXiv (Cornell University)|Dec 17, 2020

Misinformation and Its Impacts被引用数 6

ひとこと要約

本研究では、COVID-19のインフォデミック期におけるTwitter上での誤情報拡散におけるソーシャルボットの役割を、ボット検出とコンテンツ分析を用いて調査している。542,345人のユーザーのうち78体の懸念されるボットが特定され、これらのボットが同時に陰謀説と信頼できるニュースを共有していることが明らかになった。これは、公衆衛生のコミュニケーションを損なう二重戦略であり、ボット検出と危機対応メカニズムの改善が求められる。

ABSTRACT

The omnipresent COVID-19 pandemic gave rise to a parallel spreading of misinformation, also referred to as an Infodemic. Consequently, social media have become targets for the application of social bots, that is, algorithms that mimic human behaviour. Their ability to exert influence on social media can be exploited by amplifying misinformation, rumours, or conspiracy theories which might be harmful to society and the mastery of the pandemic. By applying social bot detection and content analysis techniques, this study aims to determine the extent to which social bots interfere with COVID- 19 discussions on Twitter. A total of 78 presumptive bots were detected within a sample of 542,345 users. The analysis revealed that bot-like users who disseminate misinformation, at the same time, intersperse news from renowned sources. The findings of this research provide implications for improved bot detection and managing potential threats through social bots during ongoing and future crises.

研究の動機と目的

• COVID-19パンデミック期におけるソーシャルボットが誤情報拡散にどの程度寄与したかを調査すること。
• 自動化された検出手法を用いて、COVID-19を議論するユーザーのアカウントにおけるボットに似た行動を同定すること。
• 検出されたボットのコンテンツパターンを分析し、とりわけ誤情報と信頼できるニュースソースの両方の使用を特定すること。
• ボット活動が公衆衛生のコミュニケーションおよび危機管理に与える影響を評価すること。
• 今後の公衆衛生危機における、より優れたボット検出システムの開発を支援すること。

提案手法

• COVID-19を議論する542,345人のTwitterユーザーのサンプルに対して、応用的なソーシャルボット検出アルゴリズムを適用し、ボットに似た行動を同定した。
• 投稿頻度、相互作用パターン、アカウントメタデータを含む、行動的およびネットワークベースの特徴を用いて、アカウントをボットに似たものと分類した。
• 検出されたボットアカウントに対してコンテンツ分析を実施し、ツイートの性質を検討した。これには、陰謀説の使用や信頼できるニュースソースへの言及が含まれた。
• 定量的ボット検出と定性的コンテンツ分類を統合し、二重拡散戦略を評価した。
• ボット行動とリアルタイムのソーシャルメディアディスコースにおける特定のコンテンツパターンを結びつけるため、混合手法を採用した。
• 再現性と透明性を確保するため、Twitterの公開データとオープンソースのボット検出フレームワークを活用した。

実験結果

リサーチクエスチョン

• RQ1 COVID-19パンデミックの初期段階において、ソーシャルボットはどの程度誤情報を拡散に関与していたか？
• RQ2 ボットに似たアカウントは、信頼できるニュースソースや陰謀説とどのようにコンテンツを構成しているか？
• RQ3 パンデミック関連の議論の文脈において、ボットと人間ユーザーを区別する行動的およびネットワーク的特徴は何か？
• RQ4 ボットはどのようにして誤情報と正当なニュースを同時に拡散しており、その二重的行動にどのような意味があるか？
• RQ5 公衆衛生危機の際、有害な影響をより効果的に同定・緩和できるように、ボット検出システムはどのように改善できるか？

主な発見

• COVID-19を議論する542,345人のユーザーのサンプル内から、合計78体の懸念されるソーシャルボットが同定された。
• ボットに似たユーザーは、信頼できるニュースソースのコンテンツと誤情報や陰謀説を交互に投稿しており、信ぴょう性を装う戦略的行動が示唆された。
• 誤情報と正当なニュースを共有するボットの存在は、事実の報道と虚偽情報の境界を曇らせる一貫した動きを示している。
• 本研究は、ボットが確立されたメディアの信ぴょう性を悪用して誤った物語を拡散することで、その説得力を高められることを示している。
• 研究結果は、危機状況におけるハイブリッドコンテンツ戦略を同定できる、強化されたボット検出システムの必要性を強調している。
• 本研究は、今後の健康緊急事態におけるボット駆除を支援するための実用的知見を、ソーシャルメディアプラットフォームおよび公衆衛生当局に提供している。