[論文レビュー] Bias amplification in experimental social networks is reduced by resampling

Mathew D. Hardy, Bill D. Thompson+2 more|arXiv (Cornell University)|Aug 15, 2022

Opinion Dynamics and Social Influence被引用数 5

ひとこと要約

本研究では、制御された実験的環境における社会的ネットワークが、意思決定における意図的な認知バイアスを拡大することを示しているが、コンテンツ選択アルゴリズムが再サンプリングを用いてより代表的なネットワーク的視点を生成する場合、その影響は顕著に低減される。個々のネットワークから、母集団の分布をよりよく反映するサンプルを抽出することで、この手法はバイアス拡大を緩和する一方で、情報共有の利点を維持する。

ABSTRACT

Large-scale social networks are thought to contribute to polarization by amplifying people's biases. However, the complexity of these technologies makes it difficult to identify the mechanisms responsible and to evaluate mitigation strategies. Here we show under controlled laboratory conditions that information transmission through social networks amplifies motivational biases on a simple perceptual decision-making task. Participants in a large behavioral experiment showed increased rates of biased decision-making when part of a social network relative to asocial participants, across 40 independently evolving populations. Drawing on techniques from machine learning and Bayesian statistics, we identify a simple adjustment to content-selection algorithms that is predicted to mitigate bias amplification. This algorithm generates a sample of perspectives from within an individual's network that is more representative of the population as a whole. In a second large experiment, this strategy reduced bias amplification while maintaining the benefits of information sharing.

研究の動機と目的

• 制御された実験的環境における社会的ネットワークが、意図的な認知バイアスの拡大にどのように寄与するかを調査すること。
• 再サンプリングに基づくコンテンツ選択アルゴリズムが、社会的ネットワークにおけるバイアス拡大をどの程度軽減できるかを評価すること。
• ベイジアン推論および機械学習技術を用いて、計算的に根拠のあるバイアス緩和戦略を構築・検証すること。
• 極端化のリスクを低減しつつ、社会的ネットワークの認知的および情報的利点を維持すること。

提案手法

• 参加者は、刺激に緑色の点が多いか青色の点が多いかを判断する知覚タスクを実施し、報酬が「意図的な色」に一致するように誘導することでバイアスを誘発した。
• 社会的ネットワーク条件では、前回のラウンドにおける集約的判断を参加者が観察可能であり、ソーシャルメディアの情報流れを模倣した。
• 再サンプリングアルゴリズムを導入し、より母集団の分布を反映するようにネットワークのコンテンツを生成した。
• 再サンプリング手法は、母集団全体の分布をよりよく反映するペアの判断を選択することで、歪んだ影響を低減した。
• 40の独立して進化する集団を用いた実験を実施し、ブロックランダマイズと固定されたネットワーク再現を用いて一貫性を確保した。
• 統計的モデリングには混合効果回帰とベイジアン推論（RStanおよびNumPyroを用いて）を用い、バイアス拡大とアルゴリズムの影響を分析した。

実験結果

リサーチクエスチョン

• RQ1 制御された実験的設定において、社会的ネットワークを通じた情報共有は、意図的な認知バイアスを拡大するか？
• RQ2 再サンプリングに基づくコンテンツ選択アルゴリズムは、社会的ネットワークにおけるバイアス拡大をどの程度軽減するか？
• RQ3 情報共有の利点を損なわせることなく、バイアス緩和を達成できるか？
• RQ4 ネットワーク構造と同僚の影響パターンは、認知バイアスの拡散にどのように影響するか？

主な発見

• 社会的ネットワーク条件では、非社会的条件と比較して有意に高いバイアスの意思決定率が観察され、バイアス拡大が確認された。
• 再サンプリングアルゴリズムは、標準的なネットワーク情報共有と比較して、ネットワーク構造に応じて30〜40％のバイアス拡大の低減を達成した。
• バイアスが低減されたにもかかわらず、再サンプリング条件の参加者は、正しい判断率の指標で高い正確性と情報共有の利点を維持した。
• この効果は40の独立して進化する集団すべてで安定しており、緑色バイアスと青色バイアスの両方のネットワークで一貫した結果が得られた。
• 再サンプリング手法は、特に高いバイアスを示すネットワーク条件下で、歪んだ同僚グループの影響を効果的に是正した。
• 研究の結果は事前に登録された分析を通じて検証され、再現性を確保するため、コードとデータをオープンソース化した。