[論文レビュー] Population polarization dynamics and next-generation social media algorithms

Neil F. Johnson, Pedro D. Manrique+9 more|arXiv (Cornell University)|Dec 16, 2017

Opinion Dynamics and Social Influence参考文献 1被引用数 4

ひとこと要約

本論文は、ソーシャルメディアにおける集団的極端化を説明する多体理論的モデルを構築し、極端化が誤情報やエコチェンバーではなく、競争的ダイナミクスに起因することを示している。また、極端化を軽減することを目的とした次世代のアルゴリズムが、ユーザー参加度システム内のフィードバックループにより、逆に爆発的パーコレーションを引き起こし、新たな極端派閥を急速に形成する可能性があると予測している。

ABSTRACT

We present a many-body theory that explains and reproduces recent observations of population polarization dynamics, is supported by controlled human experiments, and addresses the controversy surrounding the Internet's impact. It predicts that whether and how a population becomes polarized is dictated by the nature of the underlying competition, rather than the validity of the information that individuals receive or their online bubbles. Building on this framework, we show that next-generation social media algorithms aimed at pulling people together, will instead likely lead to an explosive percolation process that generates new pockets of extremes.

研究の動機と目的

• オンラインソーシャルネットワークにおける観察された集団的極端化の背後にあるメカニズムを説明すること。
• 極端化が情報の質、エコチェンバー、あるいは根本的な競争的ダイナミクスに起因するかを調査すること。
• 極端化の軽減を目的とした次世代ソーシャルメディアアルゴリズムの意図しない副作用を評価すること。
• 相互作用ダイナミクスに基づいて極端化の結果を予測する理論的枠組みを構築すること。
• 参加度駆動型プラットフォームにおけるシステム的リスクを特定することで、将来のアルゴリズム設計を支援すること。

提案手法

• 著者らは、大規模集団における集団的意見形成ダイナミクスをシミュレートする多体統計力学モデルを開発した。
• モデルは意見グループ間の競争的相互作用を組み込み、極端化を発現的相転移として扱った。
• 個人の意見の変化を仲間の影響とネットワーク構造に基づいてシミュレートするため、確率的相互作用を用いたエージェントベースモデリングを採用した。
• 相互作用強度、ネットワークトポロジー、コンテンツ推薦におけるフィードバックループのパラメータをフレームワークに組み込んだ。
• 制御された人間実験を用いて、モデルの予測を現実の行動データと照合して妥当性を検証した。
• 意見グループ間の相互作用を促進することで極端化を軽減することを目的とした次世代アルゴリズムのシミュレーションを、モデルに拡張した。

実験結果

リサーチクエスチョン

• RQ1 オンラインソーシャルネットワークにおける集団的極端化を引き起こす背後的なメカニズムは何であるか？
• RQ2 情報の妥当性かオンラインバブルの存在が、極端化の主な要因であるか？
• RQ3 参加度駆動型ソーシャルメディアアルゴリズムは、極端な意見クラスタの形成にどのように影響するか？
• RQ4 極端化を軽減することを目的としたアルゴリズムが、フィードバック効果によって逆にそれを拡大する可能性はあるか？
• RQ5 意見グループ間の競争の性質が、集団的ダイナミクスをどのように規定するか？

主な発見

• 集団的極端化は、主に意見グループ間の競争的ダイナミクスに起因し、誤情報やエコチェンバーとは無関係である。
• モデルは、制御された人間実験で観察された極端化パターンをうまく再現した。
• 極端化を軽減することを目的とした次世代アルゴリズムが、逆に爆発的パーコレーションを引き起こし、急速に新たな極端派閥を形成する可能性がある。
• 極端化への遷移は相転移に類似しており、相互作用強度に臨界閾値が存在する。
• 参加度ベースの推薦システムにおけるフィードバックループは、アルゴリズムがユーザーを接続することを意図しても、極端化を強化する。
• 本研究は、意見の交差的露出を増やすことが極端化の軽減を保証するわけではないことを明らかにした。競争の構造がより決定的である。