[論文レビュー] Understanding Filter Bubbles and Polarization in Social Networks

Uthsav Chitra, Christopher Musco|arXiv (Cornell University)|Jun 20, 2019

Opinion Dynamics and Social Influence参考文献 52被引用数 7

ひとこと要約

本稿は、Friedkin-Johnsenの意見動態モデルを拡張する数学的枠組みを提案する。この枠組みでは、ネットワーク管理者がエッジ重みの変更を通じてコンテンツをフィルタリングすることで、ユーザー間の不一致を低減する。実証的に、わずかな、局所的なネットワーク構造の変更ですら、著しく極端化を引き起こし、『フィルターバブル』を生成することを示している。一方で、管理者の目的関数に対するL2正則化を導入することで、この影響を最小限に抑えつつ、主たる目的を維持できることを示している。

ABSTRACT

Recent studies suggest that social media usage -- while linked to an increased diversity of information and perspectives for users -- has exacerbated user polarization on many issues. A popular theory for this phenomenon centers on the concept of "filter bubbles": by automatically recommending content that a user is likely to agree with, social network algorithms create echo chambers of similarly-minded users that would not have arisen otherwise. However, while echo chambers have been observed in real-world networks, the evidence for filter bubbles is largely post-hoc. In this work, we develop a mathematical framework to study the filter bubble theory. We modify the classic Friedkin-Johnsen opinion dynamics model by introducing another actor, the network administrator, who filters content for users by making small changes to the edge weights of a social network (for example, adjusting a news feed algorithm to change the level of interaction between users). On real-world networks from Reddit and Twitter, we show that when the network administrator is incentivized to reduce disagreement among users, even relatively small edge changes can result in the formation of echo chambers in the network and increase user polarization. We theoretically support this observed sensitivity of social networks to outside intervention by analyzing synthetic graphs generated from the stochastic block model. Finally, we show that a slight modification to the incentives of the network administrator can mitigate the filter bubble effect while minimally affecting the administrator's target objective, user disagreement.

研究の動機と目的

• ソーシャルメディアのアルゴリズムがどのようにフィルターバブルを生成し、極端化を助長するかのメカニズムを調査すること。
• 推薦システムを、ユーザー間の不一致を低減するためにエッジ重みを変更するネットワーク管理者としてモデル化すること。
• 社会的ネットワークの微小な構造的介入に対する感受性を理論的および実験的に分析すること。
• 管理者の目的関数に対する正則化が、極端化を低減しつつ、不一致の低減という主たる目的を著しく損なわずに維持できるかを検討すること。
• フィルターバブルの形成と緩和を理解するための形式的かつ数学的に根拠のある枠組みを提供すること。

提案手法

• Friedkin-Johnsenの意見動態モデルを拡張し、社会的ネットワークグラフにおけるエッジ重みを変更するネットワーク管理者を導入する。
• 管理者の目的を、ユーザー間の不一致（DG,z）を最小化することとし、エッジ重み変更に制約を課す。
• 管理者の最適化にL2正則化（γ∥W∥2F）を導入し、集中した変更を避けて分散的な変更を促進する。
• RedditおよびTwitterの実世界ネットワークに正則化された動的モデルを適用し、各介入後の均衡的意見分布をシミュレートする。
• ストークスティックブロックモデルからの合成グラフを用いて、ネットワーク構造が管理者の行動に対してどれほど感受性を示すかを理論的に分析する。
• 均衡的意見を計算するために、ラプラシアン行列（L）と意見更新式 z(r) = (L(r–1) + I)–1s を使用する。

実験結果

リサーチクエスチョン

• RQ1 社会的ネットワークにおけるエッジ重みに対する微小で局所的な変更が、顕著な極端化を引き起こし、フィルターバブルの形成を模倣できるか？
• RQ2 不一致の低減を目的とするネットワーク管理者による介入に対して、実世界のソーシャルネットワークはどの程度感受性を示すか？
• RQ3 外部のアクターによる微小な構造的変更に対して、社会的ネットワークが著しく感受性を示す理論的根拠は何か？
• RQ4 管理者の目的関数に対する正則化が、フィルターバブルの影響を緩和しつつ、その根幹的な目的（不一致の低減）を維持できるか？
• RQ5 提案された枠組みは、均一に影響を受けるのではなく、初期意見に多様性を持つユーザーが存在するネットワークにおける極端化を説明できるか？

主な発見

• RedditおよびTwitterの実世界ネットワークにおいて、正則化を行わないネットワーク管理者は、わずかなエッジ重みの変更で極端化を最大4000％まで増加させた。
• L2正則化（γ = 0.2）を適用した場合、極端化は最大4％までに抑えられ、フィルターバブル効果の著しい低減が確認された。
• 正則化下では、管理者の主たる目的である不一致の増加が5％未満に抑えられ、最小限のトレードオフが確認された。
• ストークスティックブロックモデルグラフを用いた理論的分析により、ネットワークが微小な構造的変更に対して感受性を示すことが裏付けられた。
• 正則化項は、集中的な変更を避けて多数のエッジにわたる分散的変更を促進するため、極端化リスクの低減に寄与する。
• 結果として、フィルターバブルはユーザー行動によるものだけでなく、微小で意図の良いアルゴリズム的介入からも生じ得ることが検証された。