[논문 리뷰] Fake News Detection Tools and Methods -- A Review

Sakshini Hangloo, Bhavna Arora|arXiv (Cornell University)|2021. 11. 21.

Misinformation and Its Impacts인용 수 14

한 줄 요약

이 논문은 자연어 처리와 네트워크 분석을 활용한 콘텐츠 기반 및 사회적 맥락 기반 접근 방식에 중점을 두고 가짜 뉴스 탐지 기법을 검토한다. 공개된 데이터셋, 실시간 도구, 탐지 기법의 비교 성능를 평가하여 소셜 미디어 플랫폼에서의 오락성 정보 퇴치를 목표로 하는 연구자들과 전문가들에게 종합적인 통합을 제공한다.

ABSTRACT

In the past decade, the social networks platforms and micro-blogging sites such as Facebook, Twitter, Instagram, and Weibo have become an integral part of our day-to-day activities and is widely used all over the world by billions of users to share their views and circulate information in the form of messages, pictures, and videos. These are even used by government agencies to spread important information through their verified Facebook accounts and official Twitter handles, as they can reach a huge population within a limited time window. However, many deceptive activities like propaganda and rumor can mislead users on a daily basis. In these COVID times, fake news and rumors are very prevalent and are shared in a huge number which has created chaos in this tough time. And hence, the need for Fake News Detection in the present scenario is inevitable. In this paper, we survey the recent literature about different approaches to detect fake news over the Internet. In particular, we firstly discuss fake news and the various terms related to it that have been considered in the literature. Secondly, we highlight the various publicly available datasets and various online tools that are available and can debunk Fake News in real-time. Thirdly, we describe fake news detection methods based on two broader areas i.e., its content and the social context. Finally, we provide a comparison of various techniques that are used to debunk fake news.

연구 동기 및 목표

• 소셜 미디어 및 마이크로블로깅 플랫폼 맥락에서 가짜 뉴스 탐지의 발전 과정과 현재 상태를 분석하기 위해.
• 가짜 뉴스를 해독하기 위해 공개된 데이터셋과 실시간 도구를 식별하고 분류하기 위해.
• 효율성과 한계를 고려하여 콘텐츠 기반 및 사회적 맥락 기반 탐지 방법을 검토하기 위해.
• 정확도, 확장성, 실시간 적용 가능성 측면에서 다양한 탐지 기법을 비교하기 위해.
• 연구자들과 전문가들이 향후 자동화된 가짜 뉴스 탐지 시스템 개발을 안내할 수 있도록 체계적인 개요를 제공하기 위해.

제안 방법

• 가짜 뉴스 탐지 기법을 콘텐츠 기반 및 사회적 맥락 기반 분석이라는 두 가지 주요 접근 방식으로 분류하기.
• 콘텐츠 기반 탐지에 사용되는 자연어 처리(NLP) 기법들, 예를 들어 텍스트 임bedding, 정서 분석, 언어적 특징 추출에 대한 검토.
• 사회적 네트워크 분석을 적용하여 확산 패턴, 사용자 참여도, 네트워크 구조를 분석함으로써 사회적 맥락 기반 탐지 수행.
• 가짜 뉴스 분류 작업에 사용된 기계 학습 및 딥러닝 모델(예: SVM, CNN, RNN, BERT) 평가.
• 기준으로 사용되는 공개된 데이터셋들인 LIAR, FakeNewsNet, Twitter 데이터셋 등의 편성 및 분석.
• 자동화된 사실 확인 및 오락성 정보 모니터링을 지원하는 실시간 탐지 도구 및 플랫폼의 통합.

실험 결과

연구 질문

• RQ1 현재 문헌에서 사용되는 가짜 뉴스의 핵심 특성과 정의는 무엇인가요?
• RQ2 가짜 뉴스 탐지 및 해독에 가장 효과적인 공개된 데이터셋과 실시간 도구는 무엇인가요?
• RQ3 정확도와 확장성 측면에서 콘텐츠 기반 및 사회적 맥락 기반 탐지 방법은 어떻게 비교될 수 있나요?
• RQ4 기계 학습 및 딥러닝 모델의 가짜 뉴스 탐지에서의 강점과 한계는 무엇인가요?
• RQ5 소셜 미디어 플랫폼에서 실시간으로 정확하고 확장 가능한 가짜 뉴스 탐지 달성에 있어 주요 과제는 무엇인가요?

주요 결과

• 콘텐츠 기반 탐지 방법은 BERT와 같은 의미적 임베딩을 포함한 언어적 특징, 정서, 의미적 패턴에 크게 의존하여 기만적인 언어 패턴을 식별한다.
• 사회적 맥락 기반 방법은 재트윗 캐스케이드, 사용자 행동, 네트워크 확산 역학을 분석함으로써 뛰어난 성능을 보이며 의심스러운 콘텐츠를 경고한다.
• 콘텐츠와 사회적 맥락 특징을 결합한 하이브리드 모델은 대부분의 벤치마크 평가에서 단일 모odal 접근 방식을 능가한다.
• LIAR와 FakeNewsNet과 같은 공개된 데이터셋은 널리 사용되지만 크기, 레이블 품질, 도메인 특이성 측면에서 다양성이 있다.
• 실시간 탐지 도구는 등장하고 있지만 빠르게 변화하는 오락성 정보 추세에 대응하기 위한 확장성과 적응성에 어려움을 겪고 있다.
• 진전이 있음에도 불구하고, 다양한 도메인과 언어에서 일관되게 높은 정확도를 달성하는 단일 방법은 존재하지 않으며, 이는 다중 모odal 및 적응형 탐지 시스템의 필요성을 강조한다.