[논문 리뷰] The Manufacture of Political Echo Chambers by Follow Train Abuse on Twitter.

Christopher Torres-Lugo, Kai‐Cheng Yang외 1명|arXiv (Cornell University)|2020. 10. 26.

Misinformation and Its Impacts참고 문헌 54인용 수 6

한 줄 요약

이 논문은 트위터에서의 팔로우 트레인 남용이 초파로적 계정의 影響력을 인위적으로 높여 계층적이고 군집화된 에코 채터를 만들어내고 있음을 드러낸다. 대규모 미국 트위터 트레인 네트워크를 체계적으로 분석한 결과, 홍보된 계정의 일일 팔로워 증가율이 중앙값 기준으로 6배 증가했으며, 비정상적 행동과 유해 콘텐츠 확산의 증거도 발견되었다.

ABSTRACT

A growing body of evidence points to critical vulnerabilities of social media, such as the emergence of partisan echo chambers and the viral spread of misinformation. We show that these vulnerabilities are amplified by abusive behaviors associated with so-called on Twitter, in which long lists of like-minded accounts are mentioned for others to follow. We present the first systematic analysis of a large U.S. hyper-partisan train network. We observe an artificial inflation of influence: accounts heavily promoted by follow trains profit from a median six-fold increase in daily follower growth. This catalyzes the formation of highly clustered echo chambers, hierarchically organized around a dense core of active accounts. Train accounts also engage in other behaviors that violate platform policies: we find evidence of activity by inauthentic automated accounts and abnormal content deletion, as well as amplification of toxic content from low-credibility and conspiratorial sources. Some train accounts have been active for years, suggesting that platforms need to pay greater attention to this kind of abuse.

연구 동기 및 목표

• 트위터에서의 팔로우 트레인 남용이 정치적 에코 채터 형성에 어떻게 기여하는지 조사하기 위해.
• 트레인 네트워크를 통한 조작된 팔로워 증가를 통해 영향력이 어떻게 인위적으로 높아지는지 분석하기 위해.
• 자동화된 계정과 비정상적인 콘텐츠 삭제와 같은 비정상적 행동의 징후를 트레인 네트워크 내에서 탐지하기 위해.
• 트레인으로 조직된 계정들이 어떻게 유해하거나 신뢰도가 낮은 콘텐츠를 확산시키는지 조사하기 위해.
• 트레인 네트워크의 장기적 지속성 평가를 통해 플랫폼의 체계적 취약성 여부를 판단하기 위해.

제안 방법

• 미국 내 초파로적 팔로우 트레인에 참여한 대규모 트위터 계정 데이터셋을 체계적으로 수집하고 분석하였다.
• 팔로우 트레인을 통해 홍보된 계정의 팔로워 증가율을 추적하여 인위적 영향력 확대 정도를 측정하였다.
• 계정 간의 네트워크 구조를 식별하여 활동성이 높은 트레인 계정들이 중심이 된 고밀도 핵심 코어를 포함한 계층적 군집화를 드러내었다.
• 비정상적 패턴을 탐지하기 위해 행동 분석을 수행하였으며, 이는 자동화된 계정 활동과 비정상적인 콘텐츠 삭제 패턴을 포함하였다.
• 특히 신뢰도가 낮고 음모론 성향의 소스에서 유래한 콘텐츠의 확산 패턴을 평가하였다.
• 트레인 계정의 장기적 활동을 추적하여 플랫폼 감시의 격차를 평가하였다.

실험 결과

연구 질문

• RQ1 팔로우 트레인은 트위터에서 초파로적 계정의 팔로워 증가를 얼마나 인위적으로 높이고 있는가?
• RQ2 팔로우 트레인 네트워크는 어떻게 구성되어 있으며, 핵심 계정들은 에코 채터 유지를 위해 어떤 역할을 하는가?
• RQ3 트레인 네트워크 내에서 자동화된 계정이나 비정상적인 콘텐츠 삭제와 같은 비정상적 행동의 증거는 무엇이 있는가?
• RQ4 트레인 네트워크는 어떻게 독성 콘텐츠나 신뢰도가 낮은 콘텐츠를 확산시키는가?
• RQ5 이러한 트레인 네트워크는 얼마나 오랫동안 지속되었으며, 이는 플랫폼의 체계적 취약성 여부를 시사하는가?

주요 결과

• 팔로우 트레인을 통해 홍보된 계정은 비홍보 계정 대비 일일 팔로워 증가율에서 중앙값 기준 6배 증가를 경험하였다.
• 네트워크 구조 분석 결과, 활동성이 높은 트레인 계정들이 중심이 된 고밀도 핵심 코어를 포함한 계층적 조직이 드러났다.
• 자동화된 계정 활동과 비정상적인 콘텐츠 삭제 패턴을 포함한 비정상적 행동의 증거가 발견되었다.
• 트레인 네트워크는 신뢰도가 낮고 음모론 성향의 소스에서 온 독성 콘텐츠를 확산시켰다.
• 일부 트레인 계정은 수년간 활동을 지속하여 플랫폼 취약점의 장기적 악용을 시사한다.
• 팔로우 트레인의 조작된 행동은 트위터에서 군집화되고 초파로적인 에코 채터 형성에 중대한 기여를 한다.