[논문 리뷰] TI-CNN: Convolutional Neural Networks for Fake News Detection

Yang Yang, Lei Zheng외 4명|arXiv (Cornell University)|2018. 06. 03.

Misinformation and Its Impacts참고 문헌 28인용 수 234

한 줄 요약

TI-CNN는 명시적 및 잠재 텍스트 및 이미지 특징을 이중 CNN 가지로 결합하여 가짜 뉴스를 탐지하고 실제 데이터셋에서 베이스라인을 능가합니다.

ABSTRACT

With the development of social networks, fake news for various commercial and political purposes has been appearing in large numbers and gotten widespread in the online world. With deceptive words, people can get infected by the fake news very easily and will share them without any fact-checking. For instance, during the 2016 US president election, various kinds of fake news about the candidates widely spread through both official news media and the online social networks. These fake news is usually released to either smear the opponents or support the candidate on their side. The erroneous information in the fake news is usually written to motivate the voters' irrational emotion and enthusiasm. Such kinds of fake news sometimes can bring about devastating effects, and an important goal in improving the credibility of online social networks is to identify the fake news timely. In this paper, we propose to study the fake news detection problem. Automatic fake news identification is extremely hard, since pure model based fact-checking for news is still an open problem, and few existing models can be applied to solve the problem. With a thorough investigation of a fake news data, lots of useful explicit features are identified from both the text words and images used in the fake news. Besides the explicit features, there also exist some hidden patterns in the words and images used in fake news, which can be captured with a set of latent features extracted via the multiple convolutional layers in our model. A model named as TI-CNN (Text and Image information based Convolutinal Neural Network) is proposed in this paper. By projecting the explicit and latent features into a unified feature space, TI-CNN is trained with both the text and image information simultaneously. Extensive experiments carried on the real-world fake news datasets have demonstrate the effectiveness of TI-CNN.

연구 동기 및 목표

• 소셜 네트워크에서의 가짜 뉴스 탐지 연구 동기와 정보 신뢰도에 미치는 영향 고찰.
• 텍스트와 이미지 정보가 가짜 뉴스 탐지에 모두 기여하는지 조사.
• 명시적 및 잠재 텍스트 및 이미지 특징을 융합하는 통합 모델 TI-CNN을 개발.
• 실제 가짜/실뉴스 데이터셋에서 TI-CNN를 베이스라인 방법과 비교 평가.

제안 방법

• 텍스트 및 이미지 정보를 위한 두 개의 병렬 가지를 가진 TI-CNN 제안.
• 텍스트에서의 명시적 특징(단어 수, 문장부호, 대소문자 등)과 이미지(해상도, 얼굴 콘텐츠)에서의 특징 추출.
• 텍스트(단어 임베딩의 CNN)와 이미지(CNN over image patches)에서 잠재 특징 학습.
• 명시적 및 잠재 특징을 하나의 공간으로 투영하고 텍스트 및 이미지 표현을 융합하여 최종 예측.
• RMSprop와 일반적인 정규화(드롭아웃, L2, 조기 중단)로 음의 로그 가능도(end-to-end)로 학습.

실험 결과

연구 질문

• RQ1 명시적 텍스트/이미지 특징이 CNN으로 학습한 잠재 특징과 함께 가짜 뉴스 탐지에 효과적으로 결합될 수 있는가?
• RQ2 텍스트와 이미지 정보를 결합하면 각각의 모달리티를 단독으로 사용할 때보다 탐지 성능이 향상되는가?
• RQ3 CNN으로 학습된 잠재 특징의 기여도와 핸드크래프트 명시적 특징의 차이는 무엇인가?
• RQ4 TI-CNN은 실제 데이터에서 전통적인 텍스트만 모델과 이미지만 모델에 비해 어떤 성능을 보이는가?

주요 결과

• 데이터세트에는 20,015개의 기사: 11,941개 가짜 및 8,074개 실뉴스.
• TI-CNN은 텍스트와 이미지 정보를 모두 사용할 때 베이스라인 방법보다 우수한 성능을 보임.
• 이미지 정보만으로는 가짜 뉴스 탐지에 신뢰할 수 없음.
• 텍스트 기반 방법(예: 로지스틱 회귀)은 이 데이터에서 약하고, 딥 텍스트 모델(GRU/LSTM)은 긴 시퀀스에서 한계가 있음.
• 모델은 두 모달리티의 명시적 및 잠재 특징을 하나의 표현으로 융합하여 베이스라인보다 우수한 성능을 달성.