[논문 리뷰] The spread of fake news by social bots

Chengcheng Shao, Giovanni Luca Ciampaglia외 3명|arXiv (Cornell University)|2017. 07. 24.

Misinformation and Its Impacts참고 문헌 24인용 수 242

한 줄 요약

이 연구는 2016년 미국 대선 기간 동안 40만 건의 주장을 다루는 1400만 건의 트위터 메시지를 분석하여, 사회적 봇이 가짜 뉴스의 확산을 특히 초기 유포 단계에서 영향력 있는 사용자를 대상으로 하여 크게 증폭시킨다는 것을 발견했다. 연구는 자동화된 계정이 바이럴 정보 오염의 비율이 높은 책임을 지고 있음을 입증하며, 온라인 정보 오염을 줄이기 위한 핵심 전략으로 봇 제거를 제안한다.

ABSTRACT

The massive spread of fake news has been identified as a major global risk and has been alleged to influence elections and threaten democracies. Communication, cognitive, social, and computer scientists are engaged in efforts to study the complex causes for the viral diffusion of digital misinformation and to develop solutions, while search and social media platforms are beginning to deploy countermeasures. However, to date, these efforts have been mainly informed by anecdotal evidence rather than systematic data. Here we analyze 14 million messages spreading 400 thousand claims on Twitter during and following the 2016 U.S. presidential campaign and election. We find evidence that social bots play a key role in the spread of fake news. Accounts that actively spread misinformation are significantly more likely to be bots. Automated accounts are particularly active in the early spreading phases of viral claims, and tend to target influential users. Humans are vulnerable to this manipulation, retweeting bots who post false news. Successful sources of false and biased claims are heavily supported by social bots. These results suggests that curbing social bots may be an effective strategy for mitigating the spread of online misinformation.

연구 동기 및 목표

• 2016년 미국 대선 기간 동안 사회적 봇이 가짜 뉴스의 바이럴 확산에 미치는 역할을 조사하기 위해.
• 인간 사용자에 비해 자동화된 계정이 거짓 또는 편향된 주장을 더 자주 유포하는지 여부를 확인하기 위해.
• 특히 주로 봇의 시기 및 대상 설정 행동을 포함한 정보 오염 확산의 시간적 및 네트워크 패턴을 분석하기 위해.
• 인간 사용자가 봇 계정에서 유포된 콘텐츠를 얼마나 자주 재트윗하는지 평가하여, 자동화된 조작에 대한 취약성을 파악하기 위해.
• 사회적 봇을 억제하는 것이 온라인 정보 오염의 확산을 효과적으로 줄일 수 있는지 평가하기 위해.

제안 방법

• 2016년 미국 대선 캠프 기간 동안 트위터에서 유포된 40만 건의 주장을 다루는 1400만 건의 메시지를 수집하고 분석하였다.
• 높은 트윗 빈도, 낮은 상호작용 다양성, 네트워크 중심성 지표 등을 포함한 행동 및 네트워크 기반 히وري스틱을 사용하여 봇 계정을 식별하였다.
• 봇 활동이 바이럴 확산 패턴과 겹치거나 앞서는지 파악하기 위해 주장을 시간 순서로 추적하였다.
• 재트윗 네트워크 분석을 통해 봇의 대상 설정 행동을 매핑하고, 자주 연결되는 고영향력 사용자를 특정하였다.
• 통계 모델링을 사용하여 봇 기반 주장과 인간 기반 주장을 비교함으로써 정보 오염 확산의 가능성을 정량화하였다.
• 인간 사용자가 봇이 유포한 콘텐츠를 얼마나 자주 재트윗하는지 평가하여 자동화된 조작에 대한 취약성을 평가하였다.

실험 결과

연구 질문

• RQ1 2016년 미국 대선 기간 동안 사회적 봇이 가짜 뉴스의 확산에 비례적으로 더 큰 책임을 지는가?
• RQ2 인간 사용자에 비해 봇이 정보 확산 과정의 초기 단계에서 더 일찍나 또는 더 크게 정보 오염을 확산시키는가?
• RQ3 영향력 있는 사용자보다 비영향력 사용자를 더 자주 대상으로 삼아 영향 범위를 극대화하는가?
• RQ4 인간 사용자가 봇 계정에서 유포된 콘텐츠에 얼마나 영향을 받고 재트윗하는가?
• RQ5 봇 기반 정보 오염의 구조적 및 행동 패턴은 인간 기반 주장과 어떻게 비교되는가?

주요 결과

• 가짜 뉴스를 활발히 유포하는 계정은 행동 및 네트워크 지표를 기반으로 사회적 봇으로 분류될 가능성이 높았다.
• 사회적 봇은 주장 유포의 초기 단계에서 특히 활동적이었으며, 바이럴화를 촉진하는 전략적 역할을 했다.
• 봇 계정은 자주 영향력 있는 사용자를 대상으로 삼아 고시야도 재트윗을 통해 거짓 주장을 확산시켰다.
• 인간 사용자가 봇이 유포한 가짜 뉴스 콘텐츠를 재트윗하는 것으로 나타나, 자동화된 조작에 취약한 것으로 나타났다.
• 성공적인 가짜 및 편향된 주장을 뒷받침하는 데는 조직적인 봇 활동이 크게 기여했으며, 이는 봇이 정보 오염 생태계에서 중심적인 역할을 한다는 것을 확인한다.
• 연구 결과는 사회적 봇의 존재와 활동을 억제하는 것이 온라인 정보 오염의 확산을 효과적으로 줄일 수 있는 개입 전략일 수 있음을 시사한다.