[논문 리뷰] The Web of False Information: Rumors, Fake News, Hoaxes, Clickbait, and Various Other Shenanigans

Savvas Zannettou, Michael Sirivianos외 2명|arXiv (Cornell University)|2018. 04. 10.

Misinformation and Its Impacts참고 문헌 167인용 수 61

한 줄 요약

이 논문은 웹의 허위 정보 생태계에 대한 분류 체계를 제시하고, 사용자 인식, 확산, 탐지, 및 정치적 허위 정보에 관한 문헌을 조사하며 격차와 향후 방향을 개괄한다.

ABSTRACT

A new era of Information Warfare has arrived. Various actors, including state-sponsored ones, are weaponizing information on Online Social Networks to run false information campaigns with targeted manipulation of public opinion on specific topics. These false information campaigns can have dire consequences to the public: mutating their opinions and actions, especially with respect to critical world events like major elections. Evidently, the problem of false information on the Web is a crucial one, and needs increased public awareness, as well as immediate attention from law enforcement agencies, public institutions, and in particular, the research community. In this paper, we make a step in this direction by providing a taxonomy of the Web's false information ecosystem, comprising various types of false information, actors, and their motives. We report a comprehensive overview of existing research on the false information ecosystem by identifying several lines of work: 1) how the public perceives false information; 2) understanding the propagation of false information; 3) detecting and containing false information on the Web; and 4) false information on the political stage. In this work, we pay particular attention to political false information as: 1) it can have dire consequences to the community (e.g., when election results are mutated) and 2) previous work show that this type of false information propagates faster and further when compared to other types of false information. Finally, for each of these lines of work, we report several future research directions that can help us better understand and mitigate the emerging problem of false information dissemination on the Web.

연구 동기 및 목표

• 웹에서의 허위 정보 유형, 행위자, 동기의 유형 분류 체계를 제안한다.
• 사용자 인식, 확산 역학, 탐지/대응, 그리고 정치적 허위 정보의 네 가지 연구 축 전반의 기존 연구를 요약한다.
• 웹상의 허위 정보 확산을 완화하기 위한 격차를 강조하고 향후 연구 방향을 제시한다.
• 사회적 영향 가능성으로 인해 정치적 허위 정보의 중요성을 강조한다.

제안 방법

• 광범위한 문헌 연구를 바탕으로 허위 정보(유형, 행위자, 동기)의 구조화된 분류 체계를 개발한다.
• 확립된 연구 축에서의 선행 연구를 포괄적으로 개관한다.
• 정치적 허위 정보와 그 독특한 효과 및 함의에 주의를 기울인다.
• 허위 정보 확산의 이해 및 완화를 위한 식별된 격차와 향후 연구 방향을 제시한다.

실험 결과

연구 질문

• RQ1 웹상(및 그 특성)에서 다양한 유형과 사례의 허위 정보는 무엇인가?
• RQ2 허위 정보를 확산시키는 행위자들은 누구이며 그들의 동기는 무엇인가?
• RQ3 허위 정보를 연구하는 주요 연구 축(인식, 확산, 탐지/대응, 정치) 은 무엇이며 격차는 어디에 있는가?
• RQ4 정치 맥락에서 허위 정보가 다른 유형에 비해 어떻게 다르게 나타나고 확산되는가?

주요 결과

• 여덟 가지 유형의 허위 정보가 식별되어 분류된다: Fabricated, Propaganda, Conspiracy Theories, Hoaxes, Biased/one-sided, Rumors, Clickbait, and Satire News.
• 다양한 행위자들이 허위 정보를 확산시키며, Bots, Criminal/Terrorist Organizations, Activist/Political Organizations, Governments, Hidden Paid Posters, State-sponsored Trolls, Journalists, Useful Idiots, True Believers, and Trolls를 포함한다.
• 동기에는 Malicious Intent, Influence, Sow Discord, Profit, Passion, and Fun이 포함된다.
• 본 논문은 Twitter, Facebook 및 기타 플랫폼에서의 사용자 인식과 데이터 분석, 설문지, 크라우드소싱 등의 방법에 대한 다수의 연구를 요약한다.
• 확산 연구는 플랫폼(Twitter, Facebook, others)별 및 방법론(epidemic/statistical modeling, data analysis, and systems for visualization)으로 분류된다.
• 저자들은 정치 영역이 특히 영향력이 크다고 강조하고 관련 연구를 검토하며 추가 연구와 완화 전략의 필요성을 요약한다.