[논문 리뷰] Social Bots and Social Media Manipulation in 2020: The Year in Review

Ho-Chun Herbert Chang, Emily Chen외 3명|arXiv (Cornell University)|2021. 02. 16.

Misinformation and Its Impacts참고 문헌 57인용 수 10

한 줄 요약

이 논문은 2020년 코로나19 팬데믹과 미국 대선 기간 동안의 소셜미디어 조작을 대규모 트위터 데이터를 활용해 분석하며, 계산적 방법과 사회과학적 통찰을 융합한다. 연구 결과, 봇은 여전히 정치적 및 건강 관련 허위정보를 확산시키지만, 해외 정부 지원 캠페인보다는 국내에서 자발적으로 조직된 극단주의 사용자 네트워크가 더 큰 왜곡을 이끌고 있으며, 정치적 신분이 공중보건 허위정보와 강하게 연관되어 있음을 밝혀냈다.

ABSTRACT

The year 2020 will be remembered for two events of global significance: the COVID-19 pandemic and 2020 U.S. Presidential Election. In this chapter, we summarize recent studies using large public Twitter data sets on these issues. We have three primary objectives. First, we delineate epistemological and practical considerations when combining the traditions of computational research and social science research. A sensible balance should be struck when the stakes are high between advancing social theory and concrete, timely reporting of ongoing events. We additionally comment on the computational challenges of gleaning insight from large amounts of social media data. Second, we characterize the role of social bots in social media manipulation around the discourse on the COVID-19 pandemic and 2020 U.S. Presidential Election. Third, we compare results from 2020 to prior years to note that, although bot accounts still contribute to the emergence of echo-chambers, there is a transition from state-sponsored campaigns to domestically emergent sources of distortion. Furthermore, issues of public health can be confounded by political orientation, especially from localized communities of actors who spread misinformation. We conclude that automation and social media manipulation pose issues to a healthy and democratic discourse, precisely because they distort representation of pluralism within the public sphere.

연구 동기 및 목표

• 2020년 미국 대선과 코로나19 팬데믹 기간 동안 소셜 봇과 자동화된 계정이 허위정보 확산에 미친 영향을 조사하기 위해.
• 실시간으로 고위험 상황에서 계산적 연구와 사회과학 연구를 융합하는 데 있어 발생하는 인식론적 및 방법론적 과제를 분석하기 위해.
• 2020년 소셜미디어 조작 패턴을 이전 연도와 비교하여 허위정보 캠페인의 원천과 구조적 변화를 규명하기 위해.
• 정치적 신분과 공중보건 서사가 마스크 착용, 우편 투표, 봉쇄 조치 등과 어떻게 겹치는지 분석하기 위해.
• 자동화된 시스템과 인간의 공유 행동이 음모론과 허위정보의 확산에 미치는 영향을 평가하기 위해.

제안 방법

• 2020년 동안 팬데믹과 선거와 관련된 논의를 추적하기 위해 수십억 건의 트윗을 포함한 대규모 공개 트위터 데이터셋을 활용하였다.
• 행동 패턴과 네트워크 구조를 기반으로 봇 계정을 탐지하고 분류하기 위해 최신 기계학습 기법을 적용하였다.
• 우편 투표, 마스크 착용, 봉쇄 조치, 팬데믹 관련 허위정보와 관련된 서사를 식별하고 분류하기 위해 콘텐츠 분석을 수행하였다.
• 특히 보수파 사용자 클러스터 내에서 정치적 공동체의 에코 챔버 형성과 자율적 조직화를 분석하기 위해 네트워크 분석을 실시하였다.
• 재트윗 패턴과 볼륨 분포를 추적하여 봇 활동과 그에 따른 확산 효과가 정당성에 따라 어떻게 달라지는지 정량화하였다.
• 2016년 연구 결과와 비교하여 2020년 소셜미디어 조작의 기원과 메커니즘에서 나타난 변화를 규명하였다.

실험 결과

연구 질문

• RQ1 2020년 미국 대선과 코로나19 팬데믹 기간 동안 소셜 봇은 허위정보 확산에 어떻게 기여했는가?
• RQ2 2020년 기준 소셜미디어 조작의 원천이 해외 정부 지원 캠페인에서 국내에서 발생하는 자발적 네트워크로 전환된 정도는 어느 정도인가?
• RQ3 정치적 신분은 마스크 착용과 우편 투표와 같은 공중보건 서사와 어떻게 연관되어 있는가?
• RQ4 인간의 공유 행동은 봇에 의한 확산과 비교할 때 허위정보의 확산에 어떤 역할을 하는가?
• RQ5 음모론의 구조적 및 서사적 특징은 사실 뉴스와 비교해 왜 더 빠르게 퍼지는가?

주요 결과

• 2020년 봇은 인구당 훨씬 더 많은 선거 관련 트윗을 생성했으며, 주로 자신의 정치적 공동체 내에서 재트윗되었고, 봇 활동의 80퍼센트 이상이 좌익 또는 우익 네트워크에 국한되어 있었다.
• 지속적인 봇 활동에도 불구하고, 2020년 허위정보의 주요 원인은 외부 간섭이 아니라 극단주의 사용자들이 자발적으로 조직한 국내 네트워크였으며, 음모론과 극단화를 선전하는 데 기여했다.
• 정치적 신분은 공중보건 서사와 강하게 연관되어 있었다: 마스크 착용과 우편 투표에 반대하는 사용자들은 특히 보수파 사용자 클러스터 내에서 주류와 분리된 밀도 높은 고립된 공동체를 형성했다.
• 허위정보, 특히 음모론은 봇 활동을 제거한 후에도 진정한 정보보다 더 빠르게 퍼지며, 이는 더 높은 낯설음과 정서적 파급력 때문이었으며, 강력한 인간 주도의 확산 경향을 보였다.
• 대선 예비선거와 같은 주요 사건 이후 팬데믹, 우편 투표, 봉쇄 조치와 관련된 서사가 급격히 증가하여, 정치적 주요 이벤트와 연결된 조율되거나 반응적인 논의 패턴을 보였다.
• 본 연구는 진실된 이야기의 구조적 불안정성—증거가 지속적으로 변화하기 때문—이 음모론처럼 자기 통합적이고 일관된 서사에 비해 확산에 열위에 놓여 있음을 확인했다. 이는 음모론이 더 효과적으로 퍼지게 만든다.