[论文解读] Bias amplification in experimental social networks is reduced by resampling

Mathew D. Hardy, Bill D. Thompson+2 more|arXiv (Cornell University)|Aug 15, 2022

Opinion Dynamics and Social Influence被引用 5

一句话总结

本研究表明，在受控实验环境中，社交网络会放大决策中的动机性知觉偏见，但当内容选择算法采用重采样技术生成更具代表性的网络视角时，这种效应显著减弱。通过从个体网络中抽取更能反映总体分布的样本，该方法在保留信息共享优势的同时减轻了偏见放大问题。

ABSTRACT

Large-scale social networks are thought to contribute to polarization by amplifying people's biases. However, the complexity of these technologies makes it difficult to identify the mechanisms responsible and to evaluate mitigation strategies. Here we show under controlled laboratory conditions that information transmission through social networks amplifies motivational biases on a simple perceptual decision-making task. Participants in a large behavioral experiment showed increased rates of biased decision-making when part of a social network relative to asocial participants, across 40 independently evolving populations. Drawing on techniques from machine learning and Bayesian statistics, we identify a simple adjustment to content-selection algorithms that is predicted to mitigate bias amplification. This algorithm generates a sample of perspectives from within an individual's network that is more representative of the population as a whole. In a second large experiment, this strategy reduced bias amplification while maintaining the benefits of information sharing.

研究动机与目标

• 研究受控实验中社交网络如何放大动机性知觉偏见。
• 评估基于重采样的内容选择算法是否能减少社交网络中的偏见放大现象。
• 利用贝叶斯与机器学习技术，开发并测试一种计算基础的缓解策略。
• 在降低极化风险的同时，保持社交网络的认知与信息优势。

提出的方法

• 参与者完成一项知觉任务，判断刺激中绿色或蓝色圆点更多，且与‘动机性颜色’挂钩的经济激励促使产生偏见。
• 社交网络条件允许参与者观察前一轮的聚合判断结果，模拟社交媒体的信息流动。
• 实施了一种重采样算法，以生成更能反映判断总体分布的网络内容。
• 重采样方法选取一组其判断更符合总体人群分布的网络同伴，从而减少偏差影响。
• 实验在40个独立演化的群体中进行，采用区块随机化与固定网络复刻，以确保一致性。
• 统计建模采用混合效应回归与贝叶斯推断（通过RStan和NumPyro实现），分析偏见放大效应及算法影响。

实验结果

研究问题

• RQ1 在受控实验环境中，通过社交网络进行信息共享是否会放大动机性知觉偏见？
• RQ2 基于重采样的内容选择算法在多大程度上能减少社交网络中的偏见放大？
• RQ3 能否在不牺牲社会信息共享信息优势的前提下实现偏见缓解？
• RQ4 网络结构与同伴影响模式如何影响认知偏见的传播？

主要发现

• 与非社交条件相比，社交网络条件下的偏见决策率显著更高，证实了偏见的放大效应。
• 与标准网络信息共享相比，重采样算法使偏见放大减少了30%–40%，具体程度取决于网络结构。
• 尽管偏见减少，但重采样条件下的参与者仍保持高准确率与信息共享优势，正确判断率保持较高水平。
• 该效应在40个独立演化的群体中均表现稳健，且在绿色偏见与蓝色偏见网络中结果一致。
• 重采样方法有效抵消了偏差同伴群体的负面影响，尤其在高偏见网络条件下效果显著。
• 研究结果通过预注册分析验证，并公开了代码与数据以供复制。