[논문 리뷰] On the Influence of Twitter Trolls during the 2016 US Presidential Election

Nikos Salamanos, Michael J. Jensen외 3명|arXiv (Cornell University)|2019. 10. 01.

Misinformation and Its Impacts참고 문헌 17인용 수 19

한 줄 요약

이 연구는 2016년 미국 대선 기간 동안 990만 명의 사용자, 총 1억 5,250만 건의 트윗(중요하게는 러시아, 이ран, 베네수엘라와 연결된 822개의 국가 지원 트롤 계정 포함)을 분석하여 그들의 영향력을 평가한다. 930만 개의 노드와 1억 6,990만 개의 에지로 구성된 대규모 상호작용 그래프를 사용하여, 트롤 계정이 바이럴 캐스케이드에 참여했지만 실제로는 매우 미미한 역할을 했음을 발견했다. 유일하게 진정으로 영향력 있는 트롤 계정은 4개에 불과했으며, 정보 확산의 주요 원동력은 실제 사용자들이었다.

ABSTRACT

It is a widely accepted fact that state–sponsored Twitter ac- counts operated during the 2016 US presidential election spreading millions of tweets with misinformation and inflam- matory political content. Whether these social media cam- paigns of the so–called “troll” accounts were able to manipulate public opinion is still in question. Here we aim to quantify the influence of troll accounts and the impact they had on Twitter by analyzing 152.5 million tweets from 9.9 million users, includ- ing 822 troll accounts. The data collected during the US elec- tion campaign, contain original troll tweets before they were deleted by Twitter. From these data, we constructed a very large interaction graph; a directed graph of 9.3 million nodes and 169.9 million edges. Recently, Twitter released datasets on the misinformation campaigns of 8,275 state–sponsored accounts linked to Russia, Iran and Venezuela as part of the investigation on the foreign interference in the 2016 US election. These data serve as ground–truth identifier of troll users in our dataset. Us- ing graph analysis techniques we qualify the diffusion cascades of web and media context that have been shared by the troll accounts. We present strong evidence that authentic users were the source of the viral cascades. Although the trolls were par- ticipating in the viral cascades, they did not have a leading role in them and only four troll accounts were truly influential.

연구 동기 및 목표

• 2016년 미국 대선 기간 동안 국가 지원 트위터 트롤 계정의 영향력을 정량화하는 것.
• 이러한 트롤 계정이 공공 여론을 중대하게 조작하거나 바이럴 정보 캐스케이드를 형성했는지 여부를 규명하는 것.
• 외국 연계 계정의 검증된 데이터셋을 활용하여 실시간 소셜 미디어 동적 환경에서 트롤 행동을 식별하고 분석하는 것.
• 트위터에서 정치적 콘텐츠 확산 과정에서 진정한 사용자와 트롤 간의 역할을 평가하는 것.

제안 방법

• 러시아, 이ран, 베네수엘라와 연결된 822개의 검증된 트롤 계정을 포함해 총 990만 명의 사용자로부터 1억 5,250만 건의 트윗을 수집하고 분석함.
• 정보 확산을 모델링하기 위해 930만 개의 노드(사용자)와 1억 6,990만 개의 에지(상호작용)로 구성된 대규모 유도 상호작용 그래프를 구축함.
• 웹 및 미디어 콘텐츠 공유에 대한 트롤 계정의 확산 캐스케이드를 추적하고 정량화하기 위해 그래프 분석 기법을 활용함.
• 트위터의 공개 데이터셋을 활용하여 8,275개의 국가 지원 계정을 기반으로 트롤 사용자 분류의 기준으로 삼음.
• 네트워크 내에서 콘텐츠 확산 경로를 추적하여 트롤 계정에서 비롯된 영향과 진정한 사용자에서 비롯된 영향을 구분함.

실험 결과

연구 질문

• RQ1 2016년 미국 대선 기간 동안 국가 지원 트롤 계정이 트위터에서 정치적 콘텐츠의 바이럴화에 얼마나 기여했는가?
• RQ2 트롤 계정은 정보 캐스케이드의 주요 원천이었는가, 아니면 진정한 사용자가 시작한 콘텐츠를 단지 확산시켰는가?
• RQ3 실제로 네트워크 전반에 걸쳐 콘텐츠를 확산시킨 트롤 계정은 몇 개였는가?
• RQ4 진정한 사용자와 트롤 간에 분노 유발 또는 오락성 정치 콘텐츠의 확산에 기여도는 어떻게 달라졌는가?

주요 결과

• 트롤 계정은 바이럴 캐스케이드에 참여했지만 주도하지 않았으며, 정보 확산의 주요 원천은 진정한 사용자들이었다.
• 822개의 트롤 계정 중 진정으로 네트워크 전반에 영향력을 행사한 계정은 단 4개에 불과했다.
• 다수의 고영향력 캐스케이드는 국가 지원 계정이 아닌 진정한 사용자들에서 기인했다.
• 상호작용 그래프 분석 결과, 트롤 계정은 활동적이었지만 진정한 사용자 기반 바이럴 확산에 비해 그 영향력과 영향 범위는 제한적이었다.
• 데이터 분석 결과, 오락성 및 오락성 콘텐츠는 주로 진정한 사용자 참여를 통해 퍼졌으며, 조직적인 트롤 캠페인 덕분이 아니었다.
• 이 연구는 국가 지원 트롤 계정이 트위터의 광범위한 정보 생태계에서 최소한의 구조적 영향력을 가졌다는 강력한 증거를 제공한다.