[논문 리뷰] Is radicalization reinforced by social media censorship?

Justin E. Lane, Kevin McCaffree외 1명|arXiv (Cornell University)|2021. 03. 23.

Social Media and Politics참고 문헌 33인용 수 5

한 줄 요약

이 연구는 에이전트 기반 모델을 사용하여 디센서리(비판적 의견)의 억압 방식인 분산형(연결 끊기) 및 중앙집중형(금지) 사회 미디어 검열이 급진화에 어떤 영향을 미치는지 분석한다. 연구 결과, 검열은 반대 의견에 대한 노출을 줄여 신념의 확신도를 높이며, 중앙집중형 금지가 가장 강한 급진화 효과를 보인다.

ABSTRACT

Radicalized beliefs, such as those tied to QAnon, Russiagate, and other political conspiracy theories, can lead some individuals and groups to engage in violent behavior, as evidenced in recent months. Understanding the mechanisms by which such beliefs are accepted, spread, and intensified is critical for any attempt to mitigate radicalization and avoid increased political polarization. This article presents and agent-based model of a social media network that enables investigation of the effects of censorship on the amount of dissenting information to which agents become exposed and the certainty of their radicalized views. The model explores two forms of censorship: 1) decentralized censorship-in which individuals can choose to break an online social network tie (unfriend or unfollow) with another individual who transmits conflicting beliefs and 2) centralized censorship-in which a single authority can ban an individual from the social media network for spreading a certain type of belief. This model suggests that both forms of censorship increase certainty in radicalized views by decreasing the amount of dissent to which an agent is exposed, but centralized "banning" of individuals has the strongest effect on radicalization.

연구 동기 및 목표

• 사회 미디어 검열 메커니즘이 급진화된 신념의 확산과 강화에 어떤 영향을 미치는지 조사하기 위해.
• 분산형(개인의 친구 해제)과 중앙집중형(권한 기관의 금지)이라는 두 가지 검열 형태가 신념 확신에 어떤 영향을 미치는지 모델링하기 위해.
• 검열이 반대 의견에 대한 노출을 줄여 급진화를 악화시킬 수 있는지 평가하기 위해.
• 정치적 극단화와 폭력적 극단주의를 완화하는 데 도움이 되는 사회 미디어 정책 설계에 통찰을 제공하기 위해.

제안 방법

• 에이전트들이 신념을 가지고 있으며, 유사성과 반대 의견에 기반해 상호작용하는 사회 미디어 네트워크를 시뮬레이션하는 에이전트 기반 모델을 개발하였다.
• 분산형(에이전트가 반대 의견을 가진 이들과 관계를 끊을 수 있음)과 중앙집중형(중앙 기관이 특정 신념을 퍼뜨리는 에이전트를 금지함)이라는 두 가지 검열 메커니즘을 구현하였다.
• 다양한 검열 체제 하에서 시간이 지남에 따라 신념 확신도와 반대 의견에 대한 노출 변화를 추적하였다.
• 사회적 지지와 반대 의견 노출에 기반해 신념 수용 및 강화를 모델링하기 위해 확률적 임계값을 사용하였다.
• 결과의 탄력성을 평가하기 위해 다수의 네트워크 구성과 파라미터 변형을 시뮬레이션하였다.
• 평균 신념 확신도와 반대 의견에 노출된 에이전트 비율과 같은 지표를 사용해 결과를 측정하였다.

실험 결과

연구 질문

• RQ1 분산형 검열(친구 해제)은 사회 미디어 네트워크에서 급진화된 신념의 확신도에 어떤 영향을 미치는가?
• RQ2 중앙집중형 검열(금지)은 검열이 없는 상황과 비교해 급진화된 신념의 확산과 강도에 어떤 영향을 미치는가?
• RQ3 검열이 반대 의견에 대한 노출을 얼마나 줄여 급진화를 강화하는가?
• RQ4 분산형 검열과 중앙집중형 검열 중 어느 것이 신념 확신도를 더 강하게 증가시키는가?
• RQ5 검열을 통해 반대 의견에 대한 노출을 줄이면 온라인 커뮤니티에서 정치적 극단화가 더 심화되는가?

주요 결과

• 두 형태의 검열 모두 반대 의견에 대한 노출을 줄여 급진화된 신념의 확신도를 높였다.
• 중앙집중형 금지가 분산형 친구 해제보다 더 강한 급진화 효과를 보였으며, 네트워크 전반에 걸쳐 신념 확신도가 크게 증가시켰다.
• 중간 수준의 중앙집중형 검열이라도 신념 확신도가 유의미하게 상승했으며, 시간이 지날수록 효과가 악화되었다.
• 모델은 검열이 반대 의견에 대한 노출을 제한함으로써 에코 챔버를 만들고, 이로 인해 극단적인 신념이 강화된다는 것을 보여주었다.
• 분산형 검열도 급진화를 증가시켰지만, 중앙집중형 금지에 비해 그 정도가 더 약했다.
• 결과는 검열 정책가가 의도하지 않게 온라인 환경에서 정치적 극단화와 급진화를 악화시킬 수 있음을 시사한다.