[논문 리뷰] The Interconnected Nature of Online Harm and Moderation: Investigating the Cross-Platform Spread of Harmful Content between YouTube and Twitter

Valerio La Gatta, Luca Luceri외 2명|arXiv (Cornell University)|2023. 04. 03.

Hate Speech and Cyberbullying Detection인용 수 6

한 줄 요약

이 연구는 정책 위반으로 삭제된 유튜브 영상이 어떻게 체계적으로 트위터로 확산되는지를 조사하며, 이러한 콘텐츠를 홍보하는 사용자들은 주로 극우 및 음모론적 이데올로기를 가진 일반 사용자들임을 드러내며, 이들은 나중에 정지당하는 경향이 있음을 보여준다. 연구 결과는 플랫폼 간 콘텐츠 확산을 강조하며, 유해 콘텐츠의 확산을 방지하기 위해 플랫폼 간 협력된 모더레이션 전략이 필요하다고 주장한다.

ABSTRACT

The proliferation of harmful content shared online poses a threat to online information integrity and the integrity of discussion across platforms. Despite various moderation interventions adopted by social media platforms, researchers and policymakers are calling for holistic solutions. This study explores how a target platform could leverage content that has been deemed harmful on a source platform by investigating the behavior and characteristics of Twitter users responsible for sharing moderated YouTube videos. Using a large-scale dataset of 600M tweets related to the 2020 U.S. election, we find that moderated Youtube videos are extensively shared on Twitter and that users who share these videos also endorse extreme and conspiratorial ideologies. A fraction of these users are eventually suspended by Twitter, but they do not appear to be involved in state-backed information operations. The findings of this study highlight the complex and interconnected nature of harmful cross-platform information diffusion, raising the need for cross-platform moderation strategies.

연구 동기 및 목표

• 정책 위반으로 삭제된 유튜브 영상이 트위터에 얼마나 공유되는지 조사하기 위해.
• 그러한 모더레이션된 영상을 공유하는 사용자들(이하 '모바일라이저')의 이데올로기, 행동 양식, 플랫폼 참여도를 특성화하기 위해.
• 이 모바일라이저들이 봇, 국가 지원 활동가, 또는 일반 사용자인지 평가하고, 그들의 콘텐츠가 영향력과 참여도 측면에서 어떻게 작용하는지 평가하기 위해.
• 삭제된 유튜브 콘텐츠가 플랫폼 간 공유되는 것에서 고립된 모더레이션 접근 방식의 체계적 취약성을 평가하기 위해.
• 콘텐츠 모바일라이저들의 행동 및 이데올로기 패턴을 분석함으로써, 플랫폼 간 협력된 모더레이션 전략 설계에 정보를 제공하기 위해.

제안 방법

• 2020년 미국 선거와 관련된 6억 건의 트윗 대규모 데이터셋을 활용하여 유튜브 영상 공유를 식별하기 위해.
• 유튜브 API를 활용하여 공유된 영상의 메타데이터를 확보하고, 해당 영상들이 유튜브에 의해 경고되거나 삭제되었는지 확인하기 위해.
• 트위터 사용자를 두 그룹으로 분류: 비모더레이션된 유튜브 영상을 주로 공유하는 사용자(NMYT 모바일라이저)와 모더레이션된 영상을 주로 공유하는 사용자(MYT 모바일라이저).
• 원본 트윗과 재트윗 간의 차이를 구분하여 활동적 공유와 수동적 공유 패턴을 평가하기 위해 사용자 행동을 분석하기 위해.
• 언어적 및 참여도 기반 지표를 활용해 모바일라이저의 정치적 이데올로지를 평가하여, MYT 모바일라이저들이 극우 및 트럼프 지지 성향과 강하게 일치함을 발견하기 위해.
• 트위터의 모더레이션 시스템이 모바일라이저를 경고했는지 여부를 평가하기 위해 사용자 정지 상태를 점검하기 위해.

실험 결과

연구 질문

• RQ1 정책 위반으로 삭제되거나 경고된 유튜브 영상이 트위터에 얼마나 공유되고, 그 기간과 영향 범위는 어떠한가?
• RQ2 모더레이션된 유튜브 영상을 공유하는 모바일라이저들의 특성은 무엇이며, 비모더레이션된 영상 공유자들과 어떻게 다를까?
• RQ3 모더레이션된 유튜브 영상의 모바일라이저들은 일반 트위터 사용자들로부터 상당한 참여를 받는가?
• RQ4 모더레이션된 유튜브 콘텐츠를 공유하는 모바일라이저들은 주로 봇, 국가 지원 활동가, 또는 일반 사용자인가?
• RQ5 모더레이션된 영상 공유자와 비모더레이션된 영상 공유자 간의 모바일라이저들의 이데올로기적 성향은 어떻게 다를까?

주요 결과

• 2020년 미국 선거 기간 동안 트위터에 공유된 유튜브 영상 중 24.7%는 유튜브에 의해 삭제되거나 경고된 바 있어, 유해 콘텐츠의 광범위한 플랫폼 간 확산을 시사한다.
• 모더레이션된 유튜브 영상은 비모더레이션된 영상보다 트위터에서 훨씬 더 넓은 영향력과 높은 참여도를 보였으며, 이는 대상 플랫폼에서의 증폭 효과를 시사한다.
• 모더레이션된 유튜브 영상을 공유하는 모바일라이저들은 주로 일반 트위터 사용자들이었으며, 원본 게시물을 만드는 것보다는 수동적으로 콘텐츠를 재트윗하는 방식이었기 때문에, 저생산이지만 고확산 행동을 보였다.
• 모더레이션된 유튜브 영상을 공유하는 모바일라이저의 50% 이상이 봇이나 국가 지원 활동가로 특정되지 않았음에도 불구하고 트위터에 의해 정지당했다.
• 모더레이션된 영상의 모바일라이저들은 극우 이데올로기에 강하게 기반하며, 2020년 미국 선거 기간 동안 도널드 트럼프를 지속적으로 지지했지만, 비모더레이션된 영상 공유자들은 더 다양한 정치적 성향을 보였다.
• 두 그룹의 모바일라이저 모두 강한 내부 집단 유대감을 보였으며, 일반 트위터 사용자들로부터 유사한 수준의 참여를 받았기 때문에, 콘텐츠 모더레이션 상태와는 무관하게 이데올로기적 일치성이 가시성에 영향을 미친다는 점을 시사한다.