[논문 리뷰] Bias amplification in experimental social networks is reduced by resampling

Mathew D. Hardy, Bill D. Thompson외 2명|arXiv (Cornell University)|2022. 08. 15.

Opinion Dynamics and Social Influence인용 수 5

한 줄 요약

이 연구는 통제된 실험 환경에서 사회적 네트워크가 결정 과정에서 동기 부여된 인식 편향을 강화하지만, 콘텐츠 선택 알고리즘이 재표본 추출을 사용해 더 균형 잡힌 네트워크 시각을 생성할 경우 이 효과가 크게 감소함을 보여준다. 개인의 네트워크에서 인구 분포를 더 잘 반영하는 표본을 추출함으로써, 이 방법은 편향 강화를 완화하면서도 정보 공유의 이점을 유지한다.

ABSTRACT

Large-scale social networks are thought to contribute to polarization by amplifying people's biases. However, the complexity of these technologies makes it difficult to identify the mechanisms responsible and to evaluate mitigation strategies. Here we show under controlled laboratory conditions that information transmission through social networks amplifies motivational biases on a simple perceptual decision-making task. Participants in a large behavioral experiment showed increased rates of biased decision-making when part of a social network relative to asocial participants, across 40 independently evolving populations. Drawing on techniques from machine learning and Bayesian statistics, we identify a simple adjustment to content-selection algorithms that is predicted to mitigate bias amplification. This algorithm generates a sample of perspectives from within an individual's network that is more representative of the population as a whole. In a second large experiment, this strategy reduced bias amplification while maintaining the benefits of information sharing.

연구 동기 및 목표

• 통제된 실험에서 사회적 네트워크가 동기 부여된 인식 편향을 어떻게 강화하는지 조사하기 위해.
• 재표본 추출 기반 콘텐츠 선택 알고리즘이 사회적 네트워크에서 편향 강화를 줄일 수 있는지 평가하기 위해.
• 베이지안 및 기계 학습 기법을 활용해 계산적으로 기반을 둔 완화 전략을 개발하고 테스트하기 위해.
• 분열 위험을 줄이면서도 사회적 네트워크의 인지적 및 정보적 이점을 유지하기 위해.

제안 방법

• 참가자들은 자극에 더 많은 초록색 또는 파란색 점이 있는지 판단하는 인지 과제를 수행했으며, 이는 동기 부여된 색상과 연결된 재정적 인centive를 통해 편향을 유도했다.
• 사회적 네트워크 조건은 이전 라운드의 집계된 판단을 참가자가 관찰할 수 있도록 하여 소셜 미디어 정보 흐름을 시뮬레이션했다.
• 재표본 추출 알고리즘을 구현하여 네트워크 콘텐츠를 더 잘 반영하는 인구 분포를 생성했다.
• 재표본 추출 방법은 전체 인구의 판단 분포를 더 잘 반영하는 네트워크 동료의 판단을 선택하여 편향된 영향력을 감소시켰다.
• 블록 무작위화와 고정된 네트워크 복제를 통해 일관성을 확보하기 위해 40개의 독립적으로 진화하는 인구 집단에서 실험을 수행했다.
• 통계 모델링은 혼합 효과 회귀와 베이지안 추론(RStan 및 NumPyro를 통해)을 사용하여 편향 강화와 알고리즘 영향을 분석했다.

실험 결과

연구 질문

• RQ1 통제된 실험 환경에서 사회적 네트워크를 통한 정보 공유가 동기 부여된 인식 편향을 강화하는가?
• RQ2 재표본 추출 기반 콘텐츠 선택 알고리즘이 사회적 네트워크에서 편향 강화를 어느 정도 줄이는가?
• RQ3 정보 공유의 정보적 이점을 포기하지 않고도 편향 완화를 달성할 수 있는가?
• RQ4 네트워크 구조와 동료 영향 패턴은 인지적 편향의 확산에 어떻게 영향을 미치는가?

주요 결과

• 사회적 네트워크 조건에서 비사회적 조건에 비해 편향된 의사결정 비율이 유의미하게 높아졌으며, 이는 편향 강화를 확인한다.
• 재표본 추출 알고리즘은 표준 네트워크 정보 공유 대비 편향 강화를 30-40% 감소시켰으며, 네트워크 구조에 따라 달라졌다.
• 편향 감소에도 불구하고 재표본 추출 조건의 참가자들은 높은 정확도와 정보 공유의 이점을 유지했으며, 정확한 판단 비율로 측정되었다.
• 이 효과는 40개의 독립적으로 진화하는 인구 집단 전반에서 유사하게 유지되었으며, 초록색과 파란색 편향 네트워크 모두에서 일관된 결과를 보였다.
• 재표본 추출 방법은 특히 높은 편향 네트워크 조건에서 편향된 동료 그룹의 영향을 효과적으로 상쇄했다.
• 연구 결과는 사전 등록된 분석과 함께 검증되었으며, 복제 가능하도록 오픈소스 코드와 데이터를 공개했다.