[논문 리뷰] Understanding Filter Bubbles and Polarization in Social Networks

Uthsav Chitra, Christopher Musco|arXiv (Cornell University)|2019. 06. 20.

Opinion Dynamics and Social Influence참고 문헌 52인용 수 7

한 줄 요약

이 논문은 Friedkin-Johnsen 의견 동적 모델을 확장하는 수학적 프레임워크를 제안한다. 여기서 네트워크 관리자가 엣지 가중치를 수정함으로써 콘텐츠를 필터링함으로써 사용자 간의 이견을 줄이려 한다. 이는 조그만, 정확한 변화가 네트워크의 구조에 미치는 영향을 통해 극단화를 크게 증가시켜 '필터 버블'을 생성할 수 있음을 보여주지만, 관리자의 목표에 L2 정규화를 적용함으로써 이 효과를 최소화하면서도 주요 목표를 유지할 수 있음을 보여준다.

ABSTRACT

Recent studies suggest that social media usage -- while linked to an increased diversity of information and perspectives for users -- has exacerbated user polarization on many issues. A popular theory for this phenomenon centers on the concept of "filter bubbles": by automatically recommending content that a user is likely to agree with, social network algorithms create echo chambers of similarly-minded users that would not have arisen otherwise. However, while echo chambers have been observed in real-world networks, the evidence for filter bubbles is largely post-hoc. In this work, we develop a mathematical framework to study the filter bubble theory. We modify the classic Friedkin-Johnsen opinion dynamics model by introducing another actor, the network administrator, who filters content for users by making small changes to the edge weights of a social network (for example, adjusting a news feed algorithm to change the level of interaction between users). On real-world networks from Reddit and Twitter, we show that when the network administrator is incentivized to reduce disagreement among users, even relatively small edge changes can result in the formation of echo chambers in the network and increase user polarization. We theoretically support this observed sensitivity of social networks to outside intervention by analyzing synthetic graphs generated from the stochastic block model. Finally, we show that a slight modification to the incentives of the network administrator can mitigate the filter bubble effect while minimally affecting the administrator's target objective, user disagreement.

연구 동기 및 목표

• 소셜 미디어 알고리즘이 어떻게 필터 버블을 생성하고 극단화를 증가시킬 수 있는지의 메커니즘을 조사하기 위해.
• 추천 시스템을 네트워크 관리자로 모델링하여 사용자 간 이견을 줄이기 위해 엣지 가중치를 수정하는 역할을 분석하기 위해.
• 소셜 네트워크의 구조적 변화에 대한 민감도를 이론적으로 및 실증적으로 분석하기 위해.
• 관리자의 목표에 정규화를 적용하면 극단화를 줄일 수 있는지, 동시에 이견을 최소화하는 핵심 목표를 크게 훼손하지 않을지 탐색하기 위해.
• 필터 버블 형성과 완화를 이해하기 위한 공식적이고 수학적으로 기반을 둔 프레임워크를 제공하기 위해.

제안 방법

• 소셜 네트워크 그래프에서 엣지 가중치를 수정하는 네트워크 관리자를 도입함으로써 Friedkin-Johnsen 의견 동적 모델을 확장한다.
• 관리자의 목표를 사용자 간 이견(DG,z)을 최소화하는 것으로 모델링하며, 엣지 가중치 변화에 대한 제약 조건을 포함한다.
• 관리자의 최적화에 L2 정규화(γ∥W∥2F)를 도입하여 농축된 변화를 막고 분산된 수정을 장려한다.
• 실제 Reddit 및 Twitter 네트워크에 정규화된 동적 모델을 적용하여 각 간섭 후 평형 상태의 의견 분포를 시뮬레이션한다.
• 스토하스틱 블록 모델에서 생성한 합성 그래프를 사용하여 네트워크의 구조적 민감도를 이론적으로 분석한다.
• 평형 의견을 계산하기 위해 라플라시안 행렬(L)과 의견 업데이트 식 z(r) = (L(r–1) + I)–1s를 적용한다.

실험 결과

연구 질문

• RQ1 소셜 네트워크의 엣지 가중치에 대한 작은, 정확한 변화가 극단화를 크게 증가시켜 필터 버블 형성과 유사하게 만들 수 있는가?
• RQ2 실제 소셜 네트워크는 이견을 줄이려는 동기를 가진 네트워크 관리자의 간섭에 얼마나 민감한가?
• RQ3 외부 주체가 소수의 구조적 변화를 가할 때 소셜 네트워크가 높은 민감도를 보이는 이론적 기반은 무엇인가?
• RQ4 관리자의 목표에 정규화를 적용하면 필터 버블 효과를 완화시킬 수 있는가, 동시에 이견 최소화라는 핵심 목표를 유지할 수 있는가?
• RQ5 제안된 프레임워크는 사용자가 균일하게 영향을 받지 않고, 이질적인 초기 의견을 가진 네트워크에서의 극단화를 설명할 수 있는가?

주요 결과

• 실제 Reddit 및 Twitter 네트워크에서, 정규화되지 않은 네트워크 관리자는 극단적으로 작은 엣지 가중치 변화로도 극단화를 최대 4000% 증가시켰다.
• L2 정규화(γ = 0.2)를 적용한 결과, 극단화는 최대 4% 증가에 그쳐 필터 버블 효과가 극적으로 감소함을 보였다.
• 정규화 조건 하에서 이견(관리자의 주요 목표)은 최대 5% 증가에 그쳐 최소한의 트레이드오프를 보였다.
• 스토하스틱 블록 모델 그래프에 대한 이론적 분석은 네트워크가 소수의 구조적 변화에 민감한 것으로 관찰된 현상과 일치함을 지지한다.
• 정규화 항은 농축된 변화를 피하고 많은 엣지에 걸쳐 분산된 수정을 장려함으로써 극단화 위험을 줄인다.
• 결과는 필터 버블이 사용자 행동 외에도, 조그만 변화와 양호한 의도를 가진 알고리즘적 간섭으로도 발생할 수 있음을 검증한다.