[논문 리뷰] Subscriptions and external links help drive resentful users to alternative and extremist YouTube videos

Annie Y. Chen, Brendan Nyhan외 3명|arXiv (Cornell University)|2022. 04. 22.

Hate Speech and Cyberbullying Detection인용 수 16

한 줄 요약

이 연구는 미국 참가자 1,181명의 쌍방향 행동 및 설문 조사 데이터를 사용하여, 대안적이고 극단주의적인 유튜브 콘텐츠에 노출되는 것은 주로 알고리즘 추천이 아니라, 성별 및 인종에 대한 분노를 가진 사용자가 이러한 채널에 적극적으로 구독하고 외부 링크를 따라가는 행동에 의해 주로 이뤄진다는 것을 보여준다. 2019년 유튜브의 알고리즘 변경 이후 경계선 콘텐츠 추천이 감소했음에도 불구하고, 플랫폼은 여전히 사용자 주도적 행동을 통해 표적적 노출을 가능하게 하고 있다.

ABSTRACT

Do online platforms facilitate the consumption of potentially harmful content? Using paired behavioral and survey data provided by participants recruited from a representative sample in 2020 (n=1,181), we show that exposure to alternative and extremist channel videos on YouTube is heavily concentrated among a small group of people with high prior levels of gender and racial resentment. These viewers often subscribe to these channels (prompting recommendations to their videos) and follow external links to them. In contrast, non-subscribers rarely see or follow recommendations to videos from these channels. Our findings suggest YouTube's algorithms were not sending people down "rabbit holes" during our observation window in 2020, possibly due to changes that the company made to its recommender system in 2019. However, the platform continues to play a key role in facilitating exposure to content from alternative and extremist channels among dedicated audiences.

연구 동기 및 목표

• 유튜브의 추천 시스템과 사용자 행동이 극단적이고 대안적 콘텐츠에의 노출에 어떻게 기여하는지 조사하기 위해.
• 특히 2019년 이후의 변화를 고려할 때, 알고리즘적 추천—특히 '알고리즘 라우팅' 노출에 대한 주요 원인이 되는지 평가하기 위해.
• 고도의 분노를 가진 사용자들이 극단주의 채널에 접근하는 데에 있어 사용자 구독과 외부 링크의 역할을 분석하기 위해.
• 실제 행동 데이터를 활용하여 잠재적으로 해로운 콘텐츠를 소비하는 청중의 구성과 행동을 규명하기 위해.
• 실제 사용자 브라우징 및 추천 로그와 설문 조사 데이터를 융합하여 이전의 알고리즘적 극단화 주장의 생태학적 타당성을 평가하기 위해.

제안 방법

• 실시간 브라우저 확장 프로그램을 통해 미국 참가자 1,181명으로부터 브라우징 이력, 영상 시청 기록, 임bedded URL 노출, 유튜브 및 기타 플랫폼과의 상호작용 데이터를 수집하였다.
• 유튜브가 표시한 영상 추천에 대한 메타데이터(시간 태그 및 콘텐츠 유형 포함)를 수집·분석하여 사용자 노출 경로를 매핑하였다.
• 브라우징 행동에서 유저의 채널 구독을 유추하고, 추천 노출 및 콘텐츠 소비에 대한 분석을 계층화하기 위해 활용하였다.
• 인구통계, 정치적 태도, 미디어 선호도에 관한 설문 조사 데이터를 통합하여 사용자 분노(성별 및 인종)와 콘텐츠 소비 패턴 간의 상관관계를 분석하였다.
• 이전 연구를 바탕으로 정의된 '알고리즘 라우팅' 이벤트 기준을 적용하여 알고리즘 기반 극단화 경로의 빈도를 측정하였다.
• 미국 성인 인구집단의 주요 인구통계 및 태도 변수에서의 대표성을 확보하기 위해 가중치가 적용된 설문 조사 데이터를 사용하였다.

실험 결과

연구 질문

• RQ1 성별 및 인종에 대한 분노 수준이 높은 사용자가 대안적이고 극단주의적인 유튜브 콘텐츠에 얼마나 많이 노출되는가?
• RQ2 알고리즘 추천과 비교할 때, 구독과 외부 링크가 극단주의 콘텐츠 접근에 어떤 영향을 미치는가?
• RQ3 유튜브의 2019년 알고리즘 변경으로 인해 경계선 또는 해로운 콘텐츠로 이어지는 추천의 빈도가 감소했는가?
• RQ4 구독, 링크 따라가기 등의 사용자 주도 행동이 피indre 추천보다 극단주의 콘텐츠에의 노출에 어떤 역할을 하는가?
• RQ5 2019년 이후 미국 유튜브 사용자들 사이에서 '알고리즘 라우팅' 이벤트—즉, 극단주의 콘텐츠로 이어지는 추천 연속성—는 일반적인가?

주요 결과

• 대안적이고 극단주의적인 유튜브 콘텐츠에의 노출은 성별 및 인종에 대한 분노 수준이 높은 소수의 사용자들에 의해 집중적으로 이루어진다.
• 극단주의 채널에 구독한 사용자는 그 채널의 추천을 더 많이 받고 참여할 가능성이 높은 반면, 비구독자는 거의 그런 추천을 보지 못한다.
• 메인스트림 또는 관련 콘텐츠에서 오는 외부 링크는 특히 분노적인 이데올로기에 기반한 사용자들에게 극단주의 채널로 이어지는 주요 경로이다.
• 유튜브의 2019년 알고리즘 변경으로 경계선 콘텐츠 추천이 감소했음에도 불구하고, 플랫폼은 여전히 알고리즘적 강제보다는 사용자 주도 행동을 통해 노출을 가능하게 하고 있다.
• 2020년 기준으로 알고리즘적 '알고리즘 라우팅'에 대한 강력한 증거는 발견되지 않았으며, 이는 이 기간 동안 추천 시스템이 극단화의 주요 원인이 아니었음을 시사한다.
• 구독과 외부 링크의 조합은 알고리즘 증폭이 없더라도 표적적 극단주의 콘텐츠 노출을 가능하게 하는 상호 강화적 생태계를 창출한다.