[논문 리뷰] A Survey on Echo Chambers on Social Media: Description, Detection and Mitigation

Faisal Alatawi, Lu Cheng외 5명|arXiv (Cornell University)|2021. 12. 09.

Misinformation and Its Impacts인용 수 14

한 줄 요약

이 종합적 서베이는 사회적 미디어의 에코 캐빈 형성 원인을 알고리즘 기반 추천 시스템과 확인 편향, 동질성 등 심리적 편향을 통해 규명하며, 특히 추천 시스템 설계 개선을 통한 검출 및 완화 전략을 제안한다. 이는 특히 코로나19와 같은 위기 상황에서 오락성 정보 확산을 줄이기 위해 중요하다.

ABSTRACT

Echo chambers on social media are a significant problem that can elicit a number of negative consequences, most recently affecting the response to COVID-19. Echo chambers promote conspiracy theories about the virus and are found to be linked to vaccine hesitancy, less compliance with mask mandates, and the practice of social distancing. Moreover, the problem of echo chambers is connected to other pertinent issues like political polarization and the spread of misinformation. An echo chamber is defined as a network of users in which users only interact with opinions that support their pre-existing beliefs and opinions, and they exclude and discredit other viewpoints. This survey aims to examine the echo chamber phenomenon on social media from a social computing perspective and provide a blueprint for possible solutions. We survey the related literature to understand the attributes of echo chambers and how they affect the individual and society at large. Additionally, we show the mechanisms, both algorithmic and psychological, that lead to the formation of echo chambers. These mechanisms could be manifested in two forms: (1) the bias of social media's recommender systems and (2) internal biases such as confirmation bias and homophily. While it is immensely challenging to mitigate internal biases, there has been great efforts seeking to mitigate the bias of recommender systems. These recommender systems take advantage of our own biases to personalize content recommendations to keep us engaged in order to watch more ads. Therefore, we further investigate different computational approaches for echo chamber detection and prevention, mainly based around recommender systems.

연구 동기 및 목표

• 소셜 컴퓨팅 관점에서 소셜 미디어의 에코 캐빈의 구조적 및 행동적 특성 이해.
• 에코 캐빈과 유사 개념인 필터 버블 및 정치적 극단화를 구분하는 것.
• 에코 캐빈 형성의 双중 원동력인 알고리즘 기반 추천 시스템과 심리적 편향(확인 편향, 인지적 불일치, 동질성)을 특정하는 것.
• 특히 추천 시스템 간섭을 중심으로 에코 캐빈 검출 및 완화를 위한 계산 기반 기법을 조사하는 것.
• 연구자 및 전문가가 더 탄력적인 정보 생태계를 설계할 수 있도록 길라임을 제공하는 것.

제안 방법

• 에코 캐빈을 사용자 네트워크로 정의하며, 사용자들이 반복적인 의견에만 상호작용하고 반대 의견을 적극적으로 배제하는 특징을 가진다.
• 에코 캐빈 메커니즘을 두 가지 주요 경로로 분석한다: (1) 참여도를 극대화하기 위해 개인화된 콘텐츠를 강조하는 편향된 소셜 미디어 추천 시스템, (2) 확인 편향 및 동질성과 같은 내재된 심리적 편향.
• 네트워크 구조, 콘텐츠 유사도, 입장 탐지 기반의 계산 기반 검출 기법을 조사하여 에코 캐빈 네트워크를 식별한다.
• 콘텐츠 노출의 다양성을 높이고 에코 캐빈 강화를 줄이기 위해 추천 시스템을 재구성하는 완화 전략을 평가한다.
• 코로나19 오락성 정보, 백신 접종 기피, 정치적 극단화 연구의 실증적 증거를 활용하여 검출 및 완화 제안의 기반을 마련한다.
• 추천 시스템, 심리적 편향, 네트워크 동질성 간의 피드백 루프 모델을 제안하여 에코 캐빈 지속성의 원인을 설명한다.

실험 결과

연구 질문

• RQ1 에코 캐빈을 필터 버블 및 정치적 극단화와 구별하는 핵심적인 구조적 및 행동적 특성은 무엇인가?
• RQ2 알고리즘 기반 추천 시스템과 심리적 편향이 에코 캐빈 형성 및 강화에 어떻게 공동 기여하는가?
• RQ3 소셜 미디어 네트워크에서 에코 캐빈 존재를 효과적으로 검출할 수 있는 계산 기반 기법은 무엇인가?
• RQ4 추천 시스템 재설계가 에코 캐빈 영향을 어느 정도 완화하고 오락성 정보 확산을 줄일 수 있는가?
• RQ5 에코 캐빈은 코로나19 패an드믹과 같은 위기 상황에서 공중 보건 조치 이행과 같은 실제 행동에 어떤 영향을 미치는가?

주요 결과

• 에코 캐빈은 사용자들이 반복적인 의견에만 참여하고 반대 의견을 적극적으로 무시하는 네트워크로 정의되며, 이는 필터 버블이나 극단화와의 차이를 명확히 한다.
• 사용자 참여를 극대화하기 위해 개인화된 콘텐츠를 추천하는 추천 시스템은 에코 캐빈 형성의 주요 원동력이며, 사용자들의 확인 편향과 동질성을 악용한다.
• 코로나19 기간 동안 에코 캐빈은 5G 음모 이론, 백신 기피, 공중 보건 조치 이행 감소와 같은 광범위한 오락성 정보와 연결되었다.
• 연구에 따르면 보수 미디어 사용자 중 61%가 CDC가 도널드 트럼프 행정부를 손상시키기 위해 코로나19 위협을 과장했다고 믿었으며, 이는 깊이 뿌리내린 에코 캐빈 영향을 반영한다.
• 에코 캐빈 내에서 일방적인 주장은 중립적 또는 이원적 주장보다 더 강력하게 강화되며, 이는 균형 잡힌 정보가 극단화를 줄이는 데 효과가 떨어지는 이유를 설명한다.
• 에코 캐빈은 설계된 시스템의 산물이므로 계산적 간섭을 통해 탈구할 수 있으며, 이는 추천 시스템 재설계를 통한 완화가 가능함을 시사한다.