[논문 리뷰] A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities

Xinyi Zhou, Reza Zafarani|arXiv (Cornell University)|2018. 12. 02.

Misinformation and Its Impacts참고 문헌 129인용 수 120

한 줄 요약

이 조사는 네 가지 탐지 관점(지식, 스타일, 확산, 출처)에서 가짜 뉴스를 평가하고, 여러 학문 분야의 이론을 연결하며, 데이터 세트, 사실 확인, 중재 기회를 논의합니다.

ABSTRACT

The explosive growth in fake news and its erosion to democracy, justice, and public trust has increased the demand for fake news detection and intervention. This survey reviews and evaluates methods that can detect fake news from four perspectives: (1) the false knowledge it carries, (2) its writing style, (3) its propagation patterns, and (4) the credibility of its source. The survey also highlights some potential research tasks based on the review. In particular, we identify and detail related fundamental theories across various disciplines to encourage interdisciplinary research on fake news. We hope this survey can facilitate collaborative efforts among experts in computer and information sciences, social sciences, political science, and journalism to research fake news, where such efforts can lead to fake news detection that is not only efficient but more importantly, explainable.

연구 동기 및 목표

• 진위 여부, 의도, 뉴스 상태를 기준으로 진짜 뉴스와 관련 개념을 정의하고 구분한다.
• 지식 기반, 스타일 기반, 확산 기반, 출처 기반의 네 가지 관점에서 탐지 방법을 조사한다.
• 사회과학, 심리학, 경제학의 기초 이론을 가짜 뉴스 분석으로 연결한다.
• 탐지와 개입을 지원하기 위한 수동 및 자동 사실 확인과 데이터 세트 구성을 논의한다.
• 설명 가능한 가짜 뉴스 탐지를 위한 개방형 도전 과제와 학제 간 연구 기회를 식별한다.

제안 방법

• 탐지 방법을 지식 기반, 스타일 기반, 확산 기반, 출처 기반의 네 가지 관점으로 구성한다.
• 수동 전문가 및 크라우드 소싱 접근법을 포함한 사실 확인 프로세스와 지식 기반/지식 그래프를 통한 자동 사실 확인을 설명한다.
• 일관된 지식 표현(SPO 트리플)과 이중 단계 자동 사실 확인 워크플로우(사실 추출 및 사실 확인)를 제시한다.
• 가짜 뉴스 분석을 위한 사실 진실성을 지원하는 기존 사실 확인 웹사이트와 데이터 세트를 요약하고 비교한다.
• 설명 가능한 연구를 위한 학제 간 연구 및 관련 기초 이론을 식별하고 논의한다.

실험 결과

연구 질문

• RQ1 가짜 뉴스를 넓은 용어와 좁은 용어로 어떻게 정의할 수 있으며 이러한 정의가 탐지 접근 방식에 어떤 영향을 미치는가?
• RQ2 지식/콘텐츠, 작성 스타일, 확산 역학, 출처 신용도 각각에 걸친 탐지 전략은 무엇인가?
• RQ3 수동 및 자동 사실 확인은 대규모 가짜 뉴스 탐지에 어떤 역할을 하는가?
• RQ4 학제 간 이론은 설명 가능한 가짜 뉴스 탐지 및 중재 방법의 설계에 어떻게 기여할 수 있는가?
• RQ5 교차 학제 가짜 뉴스 연구를 위한 개방 도전과 연구 기회는 무엇인가?

주요 결과

• 가짜 뉴스는 진실성, 의도 및 뉴스 여부에 따라 구분되는 다수의 관련 개념(기만적 뉴스, 허위 뉴스, 허위정보, 오정보, 풍자 등)을 통해 가장 잘 이해된다.
• 가짜 뉴스에 대한 보편적 정의는 없으며, 광범위(정보 생태계 전반의 허위 정보)와 협소(언론 매체가 게시한 의도적으로 허위인 뉴스) 정의가 제시된다.
• 수동 사실 확인은 전문가 기반 및 크라우드 소싱 시스템으로 존재하며 진실성을 제공하지만 확장성과 편향 문제에 직면한다.
• 자동 사실 확인은 지식 표현(SPO 트리플)과 두 단계 프로세스(사실 추출로 지식 베이스/그래프 구축, 그리고 이러한 소스에 대해 사실 확인)로 의존한다.
• 네 가지 관점의 탐지 방법을 구조화하여 콘텐츠와 사회적 매체 패턴 모두를 분석할 수 있으며 설명 가능한 모델의 가능성을 제공한다.
• 분류 접근법 외에도 데이터 세트 구성, 진실성 확보 및 학제 간 협력이 가짜 뉴스 연구를 진전시키는 핵심으로 강조된다.