[論文レビュー] (Mis)Information Operations: An Integrated Perspective

Matteo Cinelli, Mauro Conti+7 more|arXiv (Cornell University)|Dec 23, 2019

Misinformation and Its Impacts参考文献 47被引用数 5

ひとこと要約

本論文は、認知バイアス、社会的ダイナミクス、ソーシャルメディアエコシステムの技術的インfraストラクチャーを分析することで、(誤)情報操作を統合的に理解するフレームワークを提示している。特にイタリアの文脈に焦点を当て、確認バイアスとグルーピング極端化が誤情報拡散の中心的要因であると特定し、将来の技術的・政策的対策のための多分野的研究ロードマップを提唱している。

ABSTRACT

The massive diffusion of social media fosters disintermediation and changes the way users are informed, the way they process reality, and the way they engage in public debate. The cognitive layer of users and the related social dynamics define the nature and the dimension of informational threats. Users show the tendency to interact with information adhering to their preferred narrative and to ignore dissenting information. Confirmation bias seems to account for users decisions about consuming and spreading content; and, at the same time, aggregation of favored information within those communities reinforces group polarization. In this work, the authors address the problem of (mis)information operations with a holistic and integrated approach. Cognitive weakness induced by this new information environment are considered. Moreover, (mis)information operations, with particular reference to the Italian context, are considered; and the fact that the phenomenon is more complex than expected is highlighted. The paper concludes by providing an integrated research roadmap accounting for the possible future technological developments.

研究の動機と目的

• ソーシャルメディアにおける誤情報へのユーザー行動に影響を与える認知バイアス（例：確認バイアス）の役割を分析すること。
• エコ・チェンバーとグルーピング極端化などの社会的ダイナミクスが、誤情報の拡散をどのように拡大させるかを調査すること。
• 複雑で多層的な誤情報キャンペーンを示す事例として、イタリアの文脈における(誤)情報操作を検討すること。
• 認知的、社会的、技術的視点を統合した包括的かつ多分野的な誤情報研究フレームワークを構築すること。
• 将来の技術的発展と情報エコシステム内のシステム的脆弱性に対処するための、技術的および政策的関連の研究方向性を提示すること。

提案手法

• 著者らは、コンピュータサイエンス、社会科学、認知心理学の知見を統合する多分野的アプローチを採用している。
• 既存のナラティブに一致するコンテンツの消費および共有に注目し、ソーシャルメディアプラットフォームからのデータを用いてユーザー行動のパターンを分析している。
• 個人の認知的傾向（例：確認バイアス）と集団的な社会的ダイナミクス（例：グルーピング極端化）の相互作用が、情報エコシステムにどのように影響を与えるかをモデル化している。
• 実世界の複雑さとシステム的性質を示すために、イタリアにおける(誤)情報操作の事例研究が用いられている。
• 情報の流れとユーザー参加パターンをマッピングするために、ソーシャルメディアデータの定性的および定量的分析を統合したフレームワークが構築されている。
• 既存の文献と実証的発見の統合を通じて、将来の技術的および政策的関連の方向性を強調した研究ロードマップが開発されている。

実験結果

リサーチクエスチョン

• RQ1 確認バイアスなどの認知バイアスは、ソーシャルメディアにおける(誤)情報へのユーザー参加にどのように影響を与えるか？
• RQ2 グルーピング極端化やエコ・チェンバーなどの社会的ダイナミクスは、誤情報の拡散にどの程度寄与しているか？
• RQ3 イタリアのソーシャルメディア文脈における(誤)情報操作の構造的および行動的特徴は何か？
• RQ4 認知的要因、社会的要因、技術的要因を統合的に統合するフレームワークは、どのように構築できるか？
• RQ5 将来の(誤)情報操作を緩和するにあたり、技術的および政策的関連の研究方向性として重要なものは何か？

主な発見

• 確認バイアスは、ユーザーが事前に持つ信念と一致する情報の消費および共有意思決定に顕著に影響を与える。
• オンラインコミュニティ内での好まれる情報の集積は、グルーピング極端化を強化し、閉鎖的ネットワーク内での誤情報のレジリエンスを高めている。
• (誤)情報操作の現象は、従来の認識をはるかに超えて複雑であり、認知的・社会的・技術的層にまたがる調整された活動を含んでいる。
• イタリアの文脈は、公共議論を操作するためにソーシャルメディアを戦略的に使用する、特徴的な誤情報キャンペーンのパターンを示している。
• 本研究は、デジタル環境におけるユーザーの認知的脆弱性に十分に応えていない、現在の研究と政策対応の重要なギャップを特定した。
• 誤情報への対処をスケールアップするにあたり、将来の技術的および多分野的取り組みを導く統合的研究ロードマップが提言された。