[論文レビュー] A Survey on Echo Chambers on Social Media: Description, Detection and Mitigation

Faisal Alatawi, Lu Cheng+5 more|arXiv (Cornell University)|Dec 9, 2021

Misinformation and Its Impacts被引用数 14

ひとこと要約

本サーベイは、アルゴリズム的レコメンデーションシステムと確認バイアス、同質性バイアスなどの心理的バイアスといった要因によって生じるソーシャルメディアのエコーチェンバーの形成を包括的に計算的分析している。エコーチェンバーの検出および緩和戦略、特に改善されたレコメンデーションシステム設計によるもの——を提案し、パンデミック時 such as COVID-19 のような状況において、誤情報の拡散を低減する。

ABSTRACT

Echo chambers on social media are a significant problem that can elicit a number of negative consequences, most recently affecting the response to COVID-19. Echo chambers promote conspiracy theories about the virus and are found to be linked to vaccine hesitancy, less compliance with mask mandates, and the practice of social distancing. Moreover, the problem of echo chambers is connected to other pertinent issues like political polarization and the spread of misinformation. An echo chamber is defined as a network of users in which users only interact with opinions that support their pre-existing beliefs and opinions, and they exclude and discredit other viewpoints. This survey aims to examine the echo chamber phenomenon on social media from a social computing perspective and provide a blueprint for possible solutions. We survey the related literature to understand the attributes of echo chambers and how they affect the individual and society at large. Additionally, we show the mechanisms, both algorithmic and psychological, that lead to the formation of echo chambers. These mechanisms could be manifested in two forms: (1) the bias of social media's recommender systems and (2) internal biases such as confirmation bias and homophily. While it is immensely challenging to mitigate internal biases, there has been great efforts seeking to mitigate the bias of recommender systems. These recommender systems take advantage of our own biases to personalize content recommendations to keep us engaged in order to watch more ads. Therefore, we further investigate different computational approaches for echo chamber detection and prevention, mainly based around recommender systems.

研究の動機と目的

• ソーシャルコンピューティングの視点から、ソーシャルメディア上におけるエコーチェンバーの構造的・行動的特徴を理解すること。
• フィルターバブルや政治的極化といった関連概念とエコーチェンバーを区別すること。
• エコーチェンバー形成の二重的要因（アルゴリズム的レコメンデーションシステムと心理的バイアス（確認バイアス、認知的不協和、同質性））を特定すること。
• 特にレコメンデーションシステムの干渉に焦点を当て、エコーチェンバーの検出および緩和のための計算的手法を調査すること。
• 研究者および実務家がよりレジilィエントな情報エコシステムを設計するためのロードマップを提示すること。

提案手法

• エコーチェンバーを、ユーザーが支持的な意見のみとやり取りし、反対意見を積極的に排除するユーザーネットワークとして定義する。
• エコーチェンバーのメカニズムを二つの主要な経路を通じて分析する：(1) エンゲージメントを強化するために偏りのあるソーシャルメディアのレコメンデーションシステム、(2) 確認バイアスや同質性といった内部的心理的バイアス。
• ネットワーク構造、コンテンツ類似性、ステーク・ディテクションに基づく計算的手法を調査し、エコーチェンバー・ネットワークを同定する。
• コンテンツ露出の多様化とエコーチェンバー強化の低減を目的とした、レコメンデーションシステムの再設計による緩和戦略を評価する。
• COVID-19誤情報、ワクチン接種への抵抗、政治的極化に関する研究から得た実証的証拠を、検出および緩和の提案を根拠づけるために用いる。
• レコメンデーションシステム、心理的バイアス、ネットワークの同質性を結びつけるフィードバックループモデルを提唱し、エコーチェンバーの持続性を説明する。

実験結果

リサーチクエスチョン

• RQ1 フィルターバブルや政治的極化と比較して、エコーチェンバーを特徴付ける核心的な構造的・行動的特徴は何か？
• RQ2 アルゴリズム的レコメンデーションシステムと心理的バイアスが、エコーチェンバーの形成および強化にどのように共同で寄与しているか？
• RQ3 ソーシャルメディア・ネットワークにおけるエコーチェンバーの存在を効果的に検出する計算的手法は何か？
• RQ4 レコメンデーションシステムの再設計によって、エコーチェンバーの影響をどの程度軽減でき、誤情報の拡散を減少させられるか？
• RQ5 エコーチェンバーは、COVID-19パンデミックのような危機時における公衆衛生措置への順守行動に、どのように影響を及ぼすか？

主な発見

• エコーチェンバーは、ユーザーが支持的な意見にのみ関与し、反対意見を積極的に否定するネットワークとして定義され、フィルターバブルや極化とは明確に区別される。
• ユーザーのエンゲージメントを最適化するためにパーソナライズド・コンテンツを提供するレコメンデーションシステムは、エコーチェンバー形成の主な要因であり、ユーザーの確認バイアスと同質性バイアスを悪用している。
• COVID-19パンデミック期には、エコーチェンバーが5G陰謀説、ワクチン接種への抵抗、公衆衛生措置への順守率の低下といった広範な誤情報と関連していた。
• 研究では、61%の保守的メディア利用者が、CDCがトランプ大統領の評判を傷つけるためにCOVID-19の脅威を誇張していると信じていたことが判明し、深刻なエコーチェンバーの影響を示している。
• エコーチェンバー内では、一方的主張が中立的または二面的主張よりもより強く強化されるため、バランスの取れた情報は極化の緩和に効果が薄い。
• エコーチェンバーは設計されたシステムの産物であるため、計算的干渉によって解体可能であり、レコメンデーションシステムの再設計によって緩和が可能である。