[논문 리뷰] Identifying and characterizing superspreaders of low-credibility content on Twitter

Matthew DeVerna, Rachith Aiyappa외 3명|arXiv (Cornell University)|2022. 07. 19.

Misinformation and Its Impacts인용 수 13

한 줄 요약

이 연구는 $h$-index와 영향력 같은 예측 지표를 사용하여 트위터에서 신뢰도가 낮은 콘텐츠의 슈퍼스프레더를 특정하고 특성화한다. 그 결과, 전체 계정의 0.25%인 1,000개의 계정이 70퍼센트 이상의 이러한 콘텐츠를 생성한 것으로 밝혀졌다. $h$-index는 다른 지표들보다도 상위 슈퍼스프레더를 예측하는 데서 뛰어난 성능을 보였으며, 이 슈퍼스프레더들은 주로 정치적 성향을 띠며 자주 확인된 계정이며, 더 독성 있는 언어를 사용하는 경향이 있다. 이는 플랫폼이 영향력 있는 가짜 정보 유포자들을 규제하는 데서 체계적인 실패가 있음을 시사한다.

ABSTRACT

The world's digital information ecosystem continues to struggle with the spread of misinformation. Prior work has suggested that users who consistently disseminate a disproportionate amount of low-credibility content -- so-called superspreaders -- are at the center of this problem. We quantitatively confirm this hypothesis and introduce simple metrics to predict the top superspreaders several months into the future. We then conduct a qualitative review to characterize the most prolific superspreaders and analyze their sharing behaviors. Superspreaders include pundits with large followings, low-credibility media outlets, personal accounts affiliated with those media outlets, and a range of influencers. They are primarily political in nature and use more toxic language than the typical user sharing misinformation. We also find concerning evidence that suggests Twitter may be overlooking prominent superspreaders. We hope this work will further public understanding of bad actors and promote steps to mitigate their negative impacts on healthy digital discourse.

연구 동기 및 목표

• 트위터에서 신뢰도가 낮은 콘텐츠를 비율적으로 크게 확산하는 사용자를 체계적으로 특정하고 특성화하는 것.
• 미래의 슈퍼스프레더를 높은 정확도로 예측할 수 있는 플랫폼에 관계없는 지표를 평가하는 것.
• 슈퍼스프레더의 행동 및 인구통계적 특성, 동기 및 플랫폼 대응 방식을 이해하는 것.
• 트위터와 같은 소셜 미디어 플랫폼이 영향력 있는 가짜 정보 유포자들을 효과적으로 규제하고 있는지 평가하는 것.
• 콘텐츠 모니터링의 구조적 취약점을 드러내어 정책 및 플랫폼 설계에 기여하는 것.

제안 방법

• 10개월 분량의 트위터 데카호스 데이터를 수집하여 저신뢰성 소스에서 온 콘텐츠의 확산을 추적함.
• 저신뢰성 콘텐츠를 기원하고 광범위하게 확산시키는 계정을 슈퍼스프레더로 정의함.
• 미래의 슈퍼스프레더 상태를 예측하기 위해 봇 스코어, 인기도, 영향력, $h$-index의 네 가지 지표를 평가함.
• 시간 기반 평가를 수행: 초기 기간 동안 계정을 순위 매기고, 이후 기간의 실제 슈퍼스프레더 상태와의 예측 정확도를 측정함.
• 가장 활발한 슈퍼스프레더에 대한 정성적 분석을 수행하여, 계정 유형과 행동을 수동으로 분류함.
• 해체 분석을 수행하여 상위 슈퍼스프레더를 제거했을 경우 전체 저신뢰성 콘텐츠 확산에 미치는 영향을 평가함.

실험 결과

연구 질문

• RQ1 간단한, 플랫폼에 관계없는 지표들이 미래에 저신뢰성 콘텐츠의 슈퍼스프레더가 될 사용자를 신뢰성 있게 예측할 수 있는가?
• RQ2 어떤 유형의 사용자가 가장 흔히 슈퍼스프레더로 특정되며, 그들의 행동 양태는 어떠한가?
• RQ3 슈퍼스프레더들이 트위터 전반에서 저신뢰성 콘텐츠를 얼마나 집중적으로 확산시키는가?
• RQ4 특히 확인된 계정이거나 팔로워 수가 많은 계정인 주요 슈퍼스프레더들은 플랫폼의 규제 시스템에서 간과되고 있는가?
• RQ5 슈퍼스프레더들은 평균적인 가짜 정보 공유자들보다 얼마나 더 독성 있는 언어를 사용하는가?

주요 결과

• $h$-index와 영향력 지표가 상위 슈퍼스프레더를 수개월 전에 거의 최적의 정확도로 예측함.
• 10명의 슈퍼스프레더(전체 계정의 0.003%)가 다음 8개월 동안 저신뢰성 콘텐츠의 34퍼센트 이상을 기원함.
• 총 1,000개의 계정(모든 계정의 0.25%)이 저신뢰성 콘텐츠 확산의 70퍼센트 이상을 차지함.
• 슈퍼스프레더의 52퍼센트가 정치적 성향을 띠며, 전문가, 미디어 기관, 주요 미국 정당의 공식 당 소속 계정 포함.
• 슈퍼스프레더들은 평균적인 가짜 정보 공유자들보다 훨씬 더 많은 독성 언어를 사용함.
• 연구 결과에 따르면 트위터가 특히 확인된 계정이나 팔로워 수가 많은 계정과 같은 주요 슈퍼스프레더에 대해 관대하게 대응했을 가능성이 있음.