[논문 리뷰] Conspiracy Machines -- The Role of Social Bots during the COVID-19 Infodemic

Julian Marx, Felix Brünker외 2명|arXiv (Cornell University)|2020. 12. 17.

Misinformation and Its Impacts인용 수 6

한 줄 요약

이 연구는 트위터에서 코로나19 관련 정보의 오용 확산을 유도하는 데에 사회적 봇이 수행하는 역할을 분석하기 위해 봇 탐지 및 콘텐츠 분석을 활용한다. 총 542,345명의 사용자 중 78개의 의심스러운 봇을 특정하였으며, 이 봇들은 음모론과 정통 뉴스를 동시에 공유하고 있음을 확인하여, 공중 보건 커뮤니케이션을 약화시키는 이중 전략을 펼치고 있음을 시사한다. 이는 향후 봇 탐지 및 위기 대응 메커니즘의 개선이 필요하다는 점을 시사한다.

ABSTRACT

The omnipresent COVID-19 pandemic gave rise to a parallel spreading of misinformation, also referred to as an Infodemic. Consequently, social media have become targets for the application of social bots, that is, algorithms that mimic human behaviour. Their ability to exert influence on social media can be exploited by amplifying misinformation, rumours, or conspiracy theories which might be harmful to society and the mastery of the pandemic. By applying social bot detection and content analysis techniques, this study aims to determine the extent to which social bots interfere with COVID- 19 discussions on Twitter. A total of 78 presumptive bots were detected within a sample of 542,345 users. The analysis revealed that bot-like users who disseminate misinformation, at the same time, intersperse news from renowned sources. The findings of this research provide implications for improved bot detection and managing potential threats through social bots during ongoing and future crises.

연구 동기 및 목표

• 코로나19 패닉 기간 동안 트위터에서 사회적 봇이 오용 정보 확산에 얼마나 기여했는지 조사하기 위해.
• 자동 탐지 기법을 활용해 코로나19를 다루는 사용자 계정에서 봇 유사 행동을 식별하기 위해.
• 검출된 봇의 콘텐츠 패턴을 분석하여, 특히 오용 정보와 신뢰할 수 있는 뉴스 자료의 사용을 조사하기 위해.
• 봇 활동이 공중 보건 커뮤니케이션과 위기 관리에 미치는 영향을 평가하기 위해.
• 향후 공중 보건 위기 상황에서 개선된 봇 탐지 시스템 개발을 위한 정보를 제공하기 위해.

제안 방법

• 코로나19를 다루는 사용자 542,345명의 표본에서 사회적 봇 탐지 알고리즘을 적용하여 봇 유사 행동을 식별하기 위해.
• 게시 빈도, 상호작용 패턴, 계정 메타데이터 등의 기준을 활용해 행동 및 네트워크 기반 특징을 기반으로 계정을 봇 유사로 분류하기 위해.
• 검출된 봇 계정에 대한 콘텐츠 분석을 수행하여 트윗의 성격을 분석하고, 음모론의 사용과 신뢰할 수 있는 뉴스 자료의 참조 여부를 점검하기 위해.
• 정량적 봇 탐지와 정성적 콘텐츠 분류를 융합하여 이중 확산 전략을 평가하기 위해.
• 실시간 소셜 미디어 논의에서 봇 행동과 특정 콘텐츠 패턴을 연결하기 위해 혼합 방법론을 활용하기 위해.
• 재현 가능성과 투명성을 확보하기 위해 공개된 데이터와 오픈소스 봇 탐지 프레임워크를 활용하기 위해.

실험 결과

연구 질문

• RQ1 코로나19 패닉 초기 단계에서 트위터에서 사회적 봇이 오용 정보 확산에 얼마나 관여했는가?
• RQ2 봇 유사 계정은 신뢰할 수 있는 뉴스 자료와 음모론과 관련하여 어떻게 콘텐츠를 구성하는가?
• RQ3 팬데믹 관련 논의의 맥락에서 인간 사용자와 봇을 구분하는 데에 어떤 행동 및 네트워크 특징이 존재하는가?
• RQ4 봇은 오용 정보와 정통 뉴스를 동시에 어떻게 확산시키며, 이러한 이중 행동의 영향은 무엇인가?
• RQ5 공중 보건 위기 기간 동안 해로운 영향을 더 잘 식별하고 완화하기 위해 봇 탐지 시스템은 어떻게 개선될 수 있는가?

주요 결과

• 코로나19를 논의하는 542,345명의 사용자 표본에서 총 78개의 의심스러운 사회적 봇을 식별하였다.
• 봇 유사 사용자들은 신뢰할 수 있는 뉴스 자료의 콘텐츠와 함께 오용 정보와 음모론을 혼합하여 공유하고 있어, 신뢰성을 띠는 전략적 시도를 하고 있음을 시사한다.
• 오용 정보와 정통 뉴스를 동시에 공유하는 봇의 존재는 사실 보도와 가짜 뉴스 사이의 경계를 흐리게 하기 위한 조율된 노력임을 나타낸다.
• 연구는 봇이 기존 미디어의 신뢰성을 악용하여 잘못된 서사를 확산시켜 그 영향력을 증대시킬 수 있음을 입증한다.
• 연구 결과는 위기 상황에서 하이브리드 콘텐츠 전략을 식별할 수 있는 향상된 봇 탐지 시스템의 필요성을 강조한다.
• 이 연구는 향후 보건 긴급 상황에서 봇 기반 오용 정보 유포를 막기 위해 소셜 미디어 플랫폼과 공중 보건 기관이 활용할 수 있는 실질적인 통찰을 기여한다.