[논문 리뷰] The spread of misinformation by social bots

Chengcheng Shao, Giovanni Luca Ciampaglia외 3명|arXiv (Cornell University)|2017. 07. 24.

Misinformation and Its Impacts참고 문헌 34인용 수 16

한 줄 요약

이 연구는 2016년 미국 대선 기간 동안 40만 건의 기사에서 유저 40만 명이 공유했던 1,400만 개의 트위터 메시지를 분석하여, 사회적 봇이 저신뢰성 콘텐츠를 특히 초기 단계에서 비례적으로 더 많이 확산시킨다는 것을 발견했다. 자동화된 계정들은 영향력 있는 사용자들을 표적으로 삼으며, 위성 정보를 공유할 가능성이 뚜렷이 높다. 이는 봇 활동을 억제하면 온라인 허위 정보의 확산을 줄일 수 있음을 시사한다.

ABSTRACT

The massive spread of digital misinformation has been identified as a major global risk and has been alleged to influence elections and threaten democracies. Communication, cognitive, social, and computer scientists are engaged in efforts to study the complex causes for the viral diffusion of misinformation online and to develop solutions, while search and social media platforms are beginning to deploy countermeasures. With few exceptions, these efforts have been mainly informed by anecdotal evidence rather than systematic data. Here we analyze 14 million messages spreading 400 thousand articles on Twitter during and following the 2016 U.S. presidential campaign and election. We find evidence that social bots played a disproportionate role in amplifying low-credibility content. Accounts that actively spread articles from low-credibility sources are significantly more likely to be bots. Automated accounts are particularly active in amplifying content in the very early spreading moments, before an article goes viral. Bots also target users with many followers through replies and mentions. Humans are vulnerable to this manipulation, retweeting bots who post links to low-credibility content. Successful low-credibility sources are heavily supported by social bots. These results suggest that curbing social bots may be an effective strategy for mitigating the spread of online misinformation.

연구 동기 및 목표

• 2016년 미국 대선 기간 동안 사회적 봇이 저신뢰성 콘텐츠 확산에 미치는 역할을 조사하기 위해.
• 자동화된 계정이 트위터에서 위성 정보를 비례적으로 더 많이 확산시키는지 확인하기 위해.
• 기사의 인기 확산과 관련하여 봇 활동의 시기와 대상 패턴을 분석하기 위해.
• 인간 사용자가 봇이 공유한 위성 정보를 재트윗할 가능성이 높은지 평가하기 위해.
• 저신뢰성 소스가 체계적으로 봇 네트워크에 의해 지원되는지 평가하기 위해.

제안 방법

• 연구는 2016년 미국 대선 캠프 기간 동안 트위터에서 공유된 40만 건의 기사에서 유래한 1,400만 개의 메시지를 분석한다.
• 자동화된 활동과 관련된 행동적 특성과 네트워크 특성을 기반으로 트위터 계정을 봇으로 분류한다.
• 연구진은 기사 공유의 시간적 동역학을 추적하여 봇의 초기 단계에서의 확산 패턴을 식별한다.
• 높은 팔로워 수를 가진 사용자에게 향한 대화 및 언급 패턴을 측정하여 타겟팅 패턴을 분석한다.
• 다양한 신뢰성 수준의 소스에서 유래한 콘텐츠를 봇 계정과 인간 계정 간의 공유 행동을 비교한다.
• 소스의 신뢰성과 재트윗 패턴을 고려할 때 봇 상태일 가능성을 평가하기 위해 통계 모델을 사용한다.

실험 결과

연구 질문

• RQ1 2016년 미국 대선 기간 동안 트위터에서 사회적 봇이 저신뢰성 콘텐츠를 얼마나 비례적으로 확산시키는가?
• RQ2 저명한 팔로워 수를 가진 사용자를 비율적으로 더 많이 표적으로 삼아 위성 정보의 영향 범위를 넓히는가?
• RQ3 기사가 인기를 끌기 전 초기 확산 단계에서 봇 활동이 집중되어 있는가?
• RQ4 봇이 공유한 콘텐츠가 저신뢰성 소스에 연결되어 있을 경우 인간 사용자가 재트윗할 가능성이 더 높은가?
• RQ5 저신뢰성 뉴스 소스가 체계적으로 봇 네트워크에 의해 지원되는가?

주요 결과

• 저신뢰성 소스에서 콘텐츠를 활발히 확산시키는 계정은 봇으로 분류될 가능성이 뚜렷이 높다.
• 사회적 봇은 기사가 인기를 끌기 전 초기 단계에서 위성 정보를 특히 활발히 확산시킨다.
• 봇은 높은 팔로워 수를 가진 사용자들을 대화와 언급을 통해 자주 표적으로 삼아, 저신뢰성 콘텐츠의 영향력 있는 확산 가능성을 높인다.
• 인간 사용자는 조작에 취약하며, 저신뢰성 소스에 연결된 콘텐츠를 봇이 처음으로 공유했을 경우 자주 재트윗한다.
• 성공적인 저신뢰성 소스는 체계적인 봇 네트워크에 의해 크게 지원되며, 이는 자동화의 체계적 특성을 시사한다.
• 봇의 비례적 확산이 두드러지므로, 봇 활동을 억제하는 것이 온라인 허위 정보 확산을 줄이는 데 효과적인 전략일 수 있다.