[論文レビュー] A Survey on Computational Propaganda Detection

Giovanni Da San Martino, Stefano Cresci+4 more|arXiv (Cornell University)|Jul 15, 2020

Misinformation and Its Impacts参考文献 14被引用数 6

ひとこと要約

本調査では、自然言語処理（NLP）およびネットワーク分析を用いた計算的プロパガンダの検出に関する最先端の手法をレビューし、学際的連携の必要性を強調している。本調査は、SNS上での一貫した、意図的な虚偽情報キャンペーンを検出するうえでの主な課題を特定し、今後の研究の方向性を提示している。

ABSTRACT

Propaganda campaigns aim at influencing people's mindset with the purpose of advancing a specific agenda. They exploit the anonymity of the Internet, the micro-profiling ability of social networks, and the ease of automatically creating and managing coordinated networks of accounts, to reach millions of social network users with persuasive messages, specifically targeted to topics each individual user is sensitive to, and ultimately influencing the outcome on a targeted issue. In this survey, we review the state of the art on computational propaganda detection from the perspective of Natural Language Processing and Network Analysis, arguing about the need for combined efforts between these communities. We further discuss current challenges and future research directions.

研究の動機と目的

• SNSにおける計算的プロパガンダ検出の現状を分析すること。
• NLPやネットワーク分析に依存する既存のアプローチに見られるギャップを特定すること。
• NLPとネットワーク分析を統合した手法を提唱し、検出精度の向上を図ること。
• 一貫したプロパガンダキャンペーンを検出するうえでの主な課題と今後の研究方向性を提示すること。

提案手法

• NLPおよびネットワーク分析の視点から、計算的プロパガンダ検出手法の体系的レビュー。
• 一貫したアカウントネットワークがマイクロターゲティングと説得的メッセージを使用する仕組みの分析。
• ボットのような行動やメッセージの調整を特定するための技術の評価。
• 感情的な言語やフレーミングを含む、プロパガンダコンテンツで用いられる言語的特徴の検討。
• ネットワーク構造分析とテキストコンテンツ分析を統合し、一貫したキャンペーンを検出する手法。
• 現在の検出システムにおけるメソドロジカルな制限の特定。

実験結果

リサーチクエスチョン

• RQ1 計算的プロパガンダキャンペーンは、ソーシャルメディアプラットフォームとユーザーパロットをどのように利用しているか？
• RQ2 現在のNLP単体またはネットワーク分析単体のアプローチには、どのような限界があるか？
• RQ3 NLPとネットワーク分析を効果的に統合することで、検出精度をどのように向上させられるか？
• RQ4 一貫したプロパガンダ運用を検出するうえでの主な技術的および倫理的課題は何か？
• RQ5 進化を続けるプロパガンダ戦術に対応するため、今後の研究でどのような方向性が求められるか？

主な発見

• 計算的プロパガンダは、ソーシャルメディアの匿名性とマイクロターゲティングを活用して、大規模に世論に影響を与える。
• 現在の検出手法は、言語的特徴やネットワーク特徴にのみ依存する場合、一貫したキャンペーンを検出できないことが多い。
• NLPとネットワーク分析を統合したアプローチは、不正な行動や一貫したメッセージ配信を特定する上で、より大きな可能性を示している。
• 現代のプロパガンダの複雑さは、NLPとネットワーク分析の研究者が協働する学際的連携を必要としている。
• 進化を続ける戦術、例えば適応的メッセージや動的ネットワーク構造を考慮した今後の検出システムの構築が不可欠である。
• 監視とプライバシーに関する倫理的懸念は、検出システムの導入に際して依然として大きな課題のままである。