[논문 리뷰] Weak Supervision for Fake News Detection via Reinforcement Learning

Yaqing Wang, Weifeng Yang외 5명|arXiv (Cornell University)|2019. 12. 28.

Misinformation and Its Impacts참고 문헌 27인용 수 9

한 줄 요약

이 논문은 사용자 보고를 약한 감독으로 활용하여 고품질의 훈련 데이터를 자동으로 생성하는 강화학습 기반의 약한 지도 학습 프레임워크인 WeFEND을 제안한다. 보고 기반 레이블링을 위한 어노테이터, 노이즈가 있는 샘플을 걸러내는 강화학습 기반 선택기, 딥러닝 기반 검출기로 구성된 WeFEND는 WeChat 뉴스 데이터셋에서 최신 기술 성능을 달성하며, 사용자 보고의 시간에 영향을 받지 않는 분포를 기반으로 일관된 정확도를 유지한다.

ABSTRACT

Today social media has become the primary source for news. Via social media platforms, fake news travel at unprecedented speeds, reach global audiences and put users and communities at great risk. Therefore, it is extremely important to detect fake news as early as possible. Recently, deep learning based approaches have shown improved performance in fake news detection. However, the training of such models requires a large amount of labeled data, but manual annotation is time-consuming and expensive. Moreover, due to the dynamic nature of news, annotated samples may become outdated quickly and cannot represent the news articles on newly emerged events. Therefore, how to obtain fresh and high-quality labeled samples is the major challenge in employing deep learning models for fake news detection. In order to tackle this challenge, we propose a reinforced weakly-supervised fake news detection framework, i.e., WeFEND, which can leverage users' reports as weak supervision to enlarge the amount of training data for fake news detection. The proposed framework consists of three main components: the annotator, the reinforced selector and the fake news detector. The annotator can automatically assign weak labels for unlabeled news based on users' reports. The reinforced selector using reinforcement learning techniques chooses high-quality samples from the weakly labeled data and filters out those low-quality ones that may degrade the detector's prediction performance. The fake news detector aims to identify fake news based on the news content. We tested the proposed framework on a large collection of news articles published via WeChat official accounts and associated user reports. Extensive experiments on this dataset show that the proposed WeFEND model achieves the best performance compared with the state-of-the-art methods.

연구 동기 및 목표

• 뉴스 콘텐츠의 동적이고 급격히 변화하는 성격으로 인해 실시간으로 고품질의 레이블링된 데이터를 확보하는 데 도전하는 문제를 해결한다.
• 비상시 뉴스 이벤트에 대해 비용이 많이 들고 시간이 오래 걸리며 빠르게 오래된 지식 기반의 수동 레이블링의 한계를 극복한다.
• WeChat과 같은 소셜미디어 플랫폼에서 흔히 이용 가능한 사용자 보고를 약한 감독으로 활용하여 가짜 뉴스 탐지의 훈련 데이터를 자동으로 확장한다.
• 사용자 피드백의 시간에 영향을 받지 않는 분포를 활용하여, 시간이 지남에 따라도 일관된 성능을 유지하는 프레임워크를 개발한다.
• 강화학습을 통해 노이즈가 있는 약한 레이블을 걸러내어 가짜 뉴스 검출기의 강인성과 일반화 능력을 향상시킨다.

제안 방법

• 사용자 보고(예: '이건 가짜야'와 같은 설명 포함)를 기반으로 비라벨 뉴스 기사에 약한 레이블(진실/가짜)을 자동으로 할당하는 어노테이터 모델을 훈련한다.
• 딥 강화학습을 활용한 강화된 선택기를 도입하여 약한 레이블링된 데이터에서 고품질의 샘플을 선별함으로써 노이즈 또는 잘못된 레이블의 영향을 최소화한다.
• 선별된 고품질 샘플을 사용하여 텍스트 콘텐츠 기반으로 뉴스 기사의 분류를 수행하는 딥러닝 기반의 가짜 뉴스 검출기를 훈련한다.
• 어노테이터, 강화된 선택기, 검출기의 세 구성 요소를 상호 피드백을 통해 향상시키는 엔드 투 엔드 프레임워크로 통합한다.
• 검출기의 확률 출력을 강화학습 목표의 보상 신호로 활용하여 선택기의 샘플 선별 최적화를 이끌어낸다.
• 대조적 시각화 및 분포 분석을 통해 뉴스 콘텐츠와는 달리 보고서 표현이 시간에 영향을 받지 않음을 입증함으로써, 약한 감독의 안정성을 뒷받침한다.

실험 결과

연구 질문

• RQ1 소셜미디어 플랫폼에서의 사용자 보고는 노이즈가 있더라도 여전히 가짜 뉴스 탐지에 신뢰할 수 있는 약한 감독으로 기능할 수 있는가?
• RQ2 사용자 보고의 분포가 시간이 지나도 안정되어 있는가? 이는 신규로 발생하는 뉴스 이벤트에 대해 일관된 약한 레이블링을 가능하게 하는가?
• RQ3 강화학습 기반 선택기는 저품질의 약한 레이블을 효과적으로 걸러내어 가짜 뉴스 검출기의 성능을 향상시킬 수 있는가?
• RQ4 WeFEND 프레임워크는 실제 세계의 시간에 따라 변화하는 뉴스 데이터에서 최신 기술 방법에 비해 어떻게 성능을 발휘하는가?
• RQ5 사용자 보고에서 유래한 약한 감독의 통합이 다양한 시간대에 걸쳐 검출기의 일반화 능력을 얼마나 향상시키는가?

주요 결과

• WeFEND 프레임워크는 대규모 WeChat 뉴스 데이터셋에서 최신 기술 성능을 달성하며, 기존 방법들을 능가한다.
• 뉴스 콘텐츠만을 사용할 경우, 같은 시간대 테스트 세트에서는 약 90%의 정확도를, 다른 시간대 테스트 세트에서는 약 70%의 정확도를 기록함으로써 뉴스 콘텐츠의 분포 이동 현상을 확인한다.
• 사용자 보고를 기반으로 훈련된 어노테이터는 다양한 시간대에서 일관된 성능을 유지하며, 같은 시간대 및 다른 시간대 세트 모두에서 약 90%의 정확도를 기록함으로써 보고 기반 표현의 시간에 영향을 받지 않는 성질을 확인한다.
• 잠재 표현의 시각화 결과는 뉴스 콘텐츠의 분포가 시간에 따라 크게 이동하는 반면, 보고서 표현은 시간 세트 간에 밀도 높게 군집되어 있으며 서로 구분되지 않음을 보여주며, 이는 안정성을 확인한다.
• 제거 실험을 통해 강화된 선택기가 검출 정확도를 크게 향상시킴을 확인하였으며, 12번의 훈련 에포크 이후 선택기 포함 모델이 선택기 제외 버전보다 성능이 뛰어나다.
• 프레임워크는 신규로 등장한 뉴스 이벤트에 대해서도 약한 감독을 통해 고품질의 레이블링을 유지하면서 훈련 데이터를 신뢰할 만하게 확장할 수 있음을 입증한다.