[논문 리뷰] Fake News Detection with Deep Diffusive Network Model.

Jiawei Zhang, Limeng Cui외 2명|arXiv (Cornell University)|2018. 05. 22.

Misinformation and Its Impacts참고 문헌 61인용 수 76

한 줄 요약

이 논문은 뉴스 기사, 창작자, 주제의 표현적 및 잠재적 텍스트 특징을 함께 학습하여 가짜 뉴스 탐지 성능을 향상시키는 딥 디퓨시브 네트워크 모델인 FakeDetector를 제안한다. 실제 세계 데이터셋에서 평가한 결과, 최신 기술 모델들을 능가하며 다중 엔티티 간 관계의 통합 모델링을 통해 위장 콘텐츠를 효과적으로 식별하는 데서 뛰어난 성능을 보였다.

ABSTRACT

In recent years, due to the booming development of online social networks, fake news for various commercial and political purposes has been appearing in large numbers and widespread in the online world. With deceptive words, online social network users can get infected by these online fake news easily, which has brought about tremendous effects on the offline society already. An important goal in improving the trustworthiness of information in online social networks is to identify the fake news timely. This paper aims at investigating the principles, methodologies and algorithms for detecting fake news articles, creators and subjects from online social networks and evaluating the corresponding performance. This paper addresses the challenges introduced by the unknown characteristics of fake news and diverse connections among news articles, creators and subjects. Based on a detailed data analysis, this paper introduces a novel automatic fake news credibility inference model, namely FakeDetector. Based on a set of explicit and latent features extracted from the textual information, FakeDetector builds a deep diffusive network model to learn the representations of news articles, creators and subjects simultaneously. Extensive experiments have been done on a real-world fake news dataset to compare FakeDetector with several state-of-the-art models, and the experimental results have demonstrated the effectiveness of the proposed model.

연구 동기 및 목표

• 온라인 소셜 네트워크에서 빠르게 퍼지는 위장 콘텐츠가 사회적 신뢰에 악영향을 미치는 문제를 해결하기 위해 가짜 뉴스 탐지를 다루는 것.
• 기존 탐지 방법에서 간과되기 쉬운 뉴스 기사, 창작자, 주제 간의 복잡하고 다양한 연결 관계를 모델링하는 것.
• 텍스트 콘텐츠에서 명시적 및 잠재적 특징을 모두 포착하여 탐지 정확도를 향상시키는 자동 신뢰성 추론 모델을 개발하는 것.
• 실제 세계의 가짜 뉴스 데이터셋에서 최신 기술 접근법과의 성능 비교를 통해 모델의 효과성을 검증하는 것.

제안 방법

• FakeDetector는 뉴스 기사, 창작자, 주제의 표현적 특징을 동시에 사용하여 표현형 표현을 학습하는 딥 디퓨시브 네트워크 모델을 구성한다.
• 모델은 뉴스 콘텐츠에서 명시적 특징(예: 언어 패턴)과 잠재적 특징(예: 딥 네트워크에서 유도된 임베딩)을 모두 추출한다.
• 모델은 기사, 창작자, 주제 간의 구조적 관계를 디퓨전 메시지 전달 메커니즘을 통해 상호작용을 모델링함으로써 활용한다.
• 딥 아키텍처는 다중 레이어를 거쳐 가짜 뉴스 확산의 복잡한 패턴을 포착할 수 있는 계층적 특징 학습을 가능하게 한다.
• 모델은 엔드 투 엔드로 훈련되어 신뢰성 추론을 최적화하며, 진짜 뉴스와 가짜 뉴스를 구분할 수 있도록 손실 함수가 설계된다.
• 세부적인 데이터 분석을 통해 가짜 뉴스의 알려지지 않은 특성에 대응하기 위해 특징 추출 및 디퓨시브 네트워크 아키텍처 설계가 유도된다.

실험 결과

연구 질문

• RQ1 기사, 창작자, 주제의 통합 모델링은 개별 엔티티 분석에 비해 가짜 뉴스 탐지 성능을 어떻게 향상시키는가?
• RQ2 명시적 및 잠재적 텍스트 특징의 어떤 조합이 가짜 뉴스의 위장 성격을 가장 잘 포착하는가?
• RQ3 딥 디퓨시브 네트워크 아키텍처는 신뢰성 추론을 위한 표현 학습을 얼마나 향상시키는가?
• RQ4 FakeDetector는 실제 소셜 미디어 데이터에서 최신 기술 모델들과 비교해 가짜 뉴스 탐지에 있어 어떻게 성능을 내는가?

주요 결과

• FakeDetector는 실제 세계 데이터셋에서 몇몇 최신 기술 모델들보다 뛰어난 성능을 보였다.
• 기사, 창작자, 주제의 통합 모델링은 엔티티 간 관계를 포착함으로써 탐지 정확도를 크게 향상시켰다.
• 명시적 및 잠재적 텍스트 특징의 통합은 모델이 위장 콘텐츠를 탐지하는 능력을 강화시켰다.
• 딥 디퓨시브 네트워크 아키텍처는 가짜 뉴스의 다양하고 변화하는 특성에 대응하는 데 효과적으로 계층적 표현을 학습했다.
• 광범위한 실험을 통해 제안된 모델이 높은 신뢰도로 가짜 뉴스를 효과적으로 식별할 수 있음을 확인했다.
• 모델는 미리 보지 못한 데이터에 대해 강력한 일반화 능력을 보이며, 소셜 미디어 모니터링 분야에 실질적인 적용 가능성을 보였다.