[논문 리뷰] Combating Fake News: A Survey on Identification and Mitigation Techniques

Karishma Sharma, Feng Qian외 4명|arXiv (Cornell University)|2019. 01. 18.

Misinformation and Its Impacts참고 문헌 111인용 수 73

한 줄 요약

이 설문은 가짜 뉴스 탐지 및 완화 방법을 포괄적으로 검토하고 도전 과제를 분석하며, 엔드-투-엔드 솔루션과 향후 연구를 안내하기 위해 기존 데이터셋을 정리합니다.

ABSTRACT

The proliferation of fake news on social media has opened up new directions of research for timely identification and containment of fake news, and mitigation of its widespread impact on public opinion. While much of the earlier research was focused on identification of fake news based on its contents or by exploiting users' engagements with the news on social media, there has been a rising interest in proactive intervention strategies to counter the spread of misinformation and its impact on society. In this survey, we describe the modern-day problem of fake news and, in particular, highlight the technical challenges associated with it. We discuss existing methods and techniques applicable to both identification and mitigation, with a focus on the significant advances in each method and their advantages and limitations. In addition, research has often been limited by the quality of existing datasets and their specific application contexts. To alleviate this problem, we comprehensively compile and summarize characteristic features of available datasets. Furthermore, we outline new directions of research to facilitate future development of effective and interdisciplinary solutions.

연구 동기 및 목표

• 가짜 뉴스를 정의하고 정보 생태계에서의 차원과 행위자를 특징화한다.
• 탐지 기술 및 완화/개입 전략을 이점과 한계와 함께 요약한다.
• 데이터셋 선택 및 방법 평가를 돕기 위해 사용 가능한 데이터셋을 통합하고 설명한다.
• 사전 개입을 위한 엔드-투-엔드 시스템 요구사항과 개방형 연구 방향을 논의한다.

제안 방법

• 문헌의 탐지 및 완화 방법에 대한 조사와 합성.
• 콘텐츠 특징, 사용자 반응, 전파 패턴별 기법 분류.
• 가용 가짜 뉴스 데이터셋과 특성의 수집 및 요약.
• 도전 과제, 적대적 역학, 실무적 조정 고려사항에 대한 논의.
• 탐지 및 개입 워크플로우를 위한 엔드-투-엔드 설계 고려사항 제안.

실험 결과

연구 질문

• RQ1 콘텐츠, 출처, 사용자 반응 속성 전반에서 가짜 뉴스의 정의적 특성과 차원은 무엇인가?
• RQ2 가짜 뉴스를 탐지하고 확산을 완화하는 어떤 기술이 있으며, 그것들의 강점과 한계는 무엇인가?
• RQ3 가짜 뉴스 연구에 사용 가능한 데이터셋은 무엇이며, 어떤 특징으로 이를 특징짓는가?
• RQ4 가짜 뉴스 탐지 및 개입의 엔드-투-엔드 시스템을 구축하는 데 필요한 도전 과제와 요건은 무엇인가?
• RQ5 탐지가 시기적절하고 신뢰할 수 있는 개입을 보장하도록 조치를 균형 있게 조정하는 방법은 무엇인가?

주요 결과

• 가짜 뉴스는 제작된, 오도하는, 모방된, 조작된 및 맥락상 거짓인 콘텐츠를 다양한 의도로 포함하도록 정의될 수 있다.
• 탐지 기법은 콘텐츠 분석, 사회적 맥락, 전파 패턴을 망라하며 각각 고유한 한계와 성능대가를 가진다.
• 사용자 반응과 확산 역학은 콘텐츠만으로 얻기 힘든 더 강한 탐지 신호를 제공하는 경우가 많다.
• 주석이 서로 다른 다수의 데이터셋이 존재하며 공정한 평가를 위한 신중한 데이터셋 선택과 표준화의 필요성을 강조한다.
• 엔드-투-엔드 솔루션은 공격적인 조정과 신속한 정보 접근의 균형을 필요로 하며, 시의성과 정확도 간의 타협을 위해 점진적으로 확보 가능한 데이터를 활용해야 한다.