[論文レビュー] The Paradox of Information Access: On Modeling Social-Media-Induced Polarization

Chao Xu, Jinyang Li+4 more|arXiv (Cornell University)|Apr 2, 2020

Opinion Dynamics and Social Influence参考文献 33被引用数 7

ひとこと要約

本稿は、民主的コンテンツ生産と確認バイアスによって駆動される情報アクセスの増加が、必然的に社会的極化を引き起こすのを説明するため、K次元の信念空間における拡散・漂流モデルを提案する。モデルは、意図的な悪意がなくても、情報過多に加え極端なコンテンツへの傾向が、信念の乖離を引き起こすことを示しており、情報アクセスの増加が逆にイデオロギー的分断を悪化させるという逆説を明らかにする。

ABSTRACT

The paper develops a stochastic model of drift in human beliefs that shows that today's sheer volume of accessible information, combined with consumers' confirmation bias and natural preference to more outlying content, necessarily lead to increased polarization. The model explains the paradox of growing ideological fragmentation in the age of increased sharing. As social media, search engines, and other real-time information sharing outlets purport to facilitate access to information, a need for content filtering arises due to the ensuing information overload. In general, consumers select information that matches their individual views and values. The bias inherent in such selection is echoed by today's information curation services that maximize user engagement by filtering new content in accordance with observed consumer preferences. Consequently, individuals get exposed to increasingly narrower bands of the ideology spectrum, thus fragmenting society into increasingly ideologically isolated enclaves. We call this dynamic the paradox of information access. The model also suggests the disproportionate damage attainable with a small infusion of well-positioned misinformation. The paper describes the modeling methodology, and evaluates modeling results for different population sizes and parameter settings.

研究の動機と目的

• ソーシャルメディアを通じた情報アクセスの増加が、社会的極化の上行傾向と相関することの理由を調査すること。
• 情報過多、確認バイアス、外縁的コンテンツへの傾向の下での信念進化のダイナミクスをモデル化すること。
• 民主的コンテンツ生産とアルゴリズムによるキュレーションが、イデオロギー的分断をどのように拡大させるかを分析すること。
• 極化が、ユーザー行動の結果ではなく、情報量そのものの構造的結果として生じることを示すこと。
• 民主的社会における情報アクセスの逆説的理解の理論的基盤を提供すること。

提案手法

• モデルは、位置がイデオロギー的傾向を、大きさが極端さを示すK次元の信念空間内の粒子として個人を表現する。
• 信念の進化は、局所的な信念密度によって駆動される漂流と、ランダムな露出を表すノイズを組み合わせた確率的運動方程式によって支配される。
• 時間による信念分布の進化を記述するため、拡散と漂流の両効果を捉えるために、フォッカー・プランク方程式を用いてシステムを形式化する。
• 信念の更新を類似した見解に傾ける確認バイアスを組み込み、極端なコンテンツへの好みをパラメータとして含める。
• 集団のサイズ、情報量、バイアスパラメータを変化させたシミュレーションを通じて、極化の閾値と分岐点を評価する。
• アルゴリズムによるキュレーションをユーザーのバイアスの反映とみなすことで、特定のシステムへの責めを避ける。

実験結果

リサーチクエスチョン

• RQ1 ソーシャルメディアプラットフォームを通じた情報アクセスの増加は、必然的にイデオロギー的極化を引き起こすのか？
• RQ2 確認バイアスと外縁的コンテンツへの傾向が、情報量とどのように作用して信念分布を形作るのか？
• RQ3 悪意のある意図が存在しない状況下で、民主的コンテンツ生産は極化をどの程度拡大させるのか？
• RQ4 信念空間における拡散・漂流モデルは、イデオロギー的エコーチャンバーと分断の発生を説明できるか？
• RQ5 情報過多は、中立的な初期条件のもとでも、信念分布の分岐にどの程度寄与するのか？

主な発見

• モデルは、情報量の増加に加え確認バイアスと極端なコンテンツへの傾向が、外部からの干渉がなくても、信念の極化を避けがたいものにすることを示している。
• 情報過多の下で信念空間に人口密度の分岐が生じ、明確なイデオロギー的クラスタの出現を示している。
• 情報量が認知的容量を超えると、個々の人はますます均質なコンテンツを消費するようになり、極化が顕著になる。
• モデルは、わずかな場所に配置された誤情報でさえ、信念漂流の構造のおかげで、不釣り合いな損害を引き起こす可能性があることを示している。
• 情報アクセスの逆説が裏付けられた：アクセスの増加は、共有の現実や民主的議論を損なう分断を悪化させる。
• フォッカー・プランクフレームワークは、選択的露出（漂流）とランダム露出（拡散）の相互作用をうまく捉えており、両者の極化における統合的役割を示している。