[논문 리뷰] False Information on Web and Social Media: A Survey

Srijan Kumar, Neil Shah|arXiv (Cornell University)|2018. 04. 23.

Misinformation and Its Impacts참고 문헌 86인용 수 137

한 줄 요약

이 설문조사는 웹과 소셜 미디어에서 잘못된 정보가 확산되는 방식에 대해 다루며, 행위자, 근거, 영향, 특징 및 탐지 방법을 포괄적으로 고찰한다.

ABSTRACT

False information can be created and spread easily through the web and social media platforms, resulting in widespread real-world impact. Characterizing how false information proliferates on social platforms and why it succeeds in deceiving readers are critical to develop efficient detection algorithms and tools for early detection. A recent surge of research in this area has aimed to address the key issues using methods based on feature engineering, graph mining, and information modeling. Majority of the research has primarily focused on two broad categories of false information: opinion-based (e.g., fake reviews), and fact-based (e.g., false news and hoaxes). Therefore, in this work, we present a comprehensive survey spanning diverse aspects of false information, namely (i) the actors involved in spreading false information, (ii) rationale behind successfully deceiving readers, (iii) quantifying the impact of false information, (iv) measuring its characteristics across different dimensions, and finally, (iv) algorithms developed to detect false information. In doing so, we create a unified framework to describe these recent methods and highlight a number of important directions for future research.

연구 동기 및 목표

• 웹과 소셜 미디어에서 잘못된 정보의 유형과 의도를 설명한다.
• 대규모로 잘못된 정보를 확산시키는 행위자와 메커니즘을 특징화한다.
• 플랫폼 간 잘못된 정보의 영향과 확산 패턴을 정량화한다.
• 특징 기반, 그래프 기반, 전파 모델링 접근 방식으로 탐지 알고리즘을 검토하고 분류한다.
• 향후 연구를 위한 개방 방향과 통합 프레임워크를 강조한다.

제안 방법

• 의도(오정보 vs 허위정보) 및 지식 콘텐츠(주관적 의견 vs 사실 기반)로 잘못된 정보를 분류한다.
• 봇과 소크푸핏 등 행위자를 조사하고 그들의 확대 및 네트워크 중심 위치에서의 역할을 분석한다.
• 인간의 취약성, 에코 체임버, 편향 등을 포함한 기만의 합리화를 종합한다.
• 참여도, 지속성 및 크로스 플랫폼 확산을 포함한 영향 지표를 요약한다.
• 특징 기반, 그래프 기반, 전파 모델링 접근 방식으로 탐지 방법을 정리한다.

실험 결과

연구 질문

• RQ1 웹과 소셜 미디어에서 주요한 유형과 의도는 무엇인가?
• RQ2 잘못된 정보를 퍼뜨리는 주요 행위자는 누구이며 대규모로 어떻게 작동하는가?
• RQ3 독자들이 왜 잘못된 정보를 믿고 퍼뜨리는지 설명하는 요인은 무엇인가?
• RQ4 플랫폼 간 잘못된 정보의 측정된 영향과 확산 패턴은 무엇인가?
• RQ5 존재하는 탐지 접근 방식은 무엇이며 어떻게 분류되고 평가되는가?

주요 결과

• 잘못된 정보는 영향력이 크고 확산이 깊고 넓으며 때로는 생존 시간이 길다.
• 사람은 잘 쓰여 있거나 참고 자료가 잘 제시된 경우에도 거짓 정보를 구분하는 데 그다지 효과적이지 않다.
• 봇과 소크푸핏은 인식된 합의 형성과 확산 가속에 중요한 역할을 하며, 인간 계정도 잘못된 정보 역학의 상당 부분을 주도한다.
• 에코 챔버와 확인 편향은 잘못된 정보의 확산과 신뢰도 인식에 기여한다.
• 특징 기반, 그래프 기반, 전파 모델링 패러다임에서 높은 정확도를 달성하는 탐지 방법이 존재한다.