[논문 리뷰] GAMC: An Unsupervised Method for Fake News Detection using Graph Autoencoder with Masking

Shu Yin, Chao Gao외 1명|arXiv (Cornell University)|2023. 12. 10.

Misinformation and Its Impacts인용 수 4

한 줄 요약

GAMC는 노드 마스킹과 엣지 드롭을 통한 데이터 증강에서 유래한 자기지도 신호를 활용하여 레이블이 없는 데이터에 의존하지 않고 비지도 학습 기반의 가짜 뉴스 탐지 방법을 제안한다. 이는 PolitiFact(82.8% 정확도, 82.3% F1)와 GossipCop(94.1% 정확도, 93.7% F1)에서 최고 성능을 기록하며 수동 주석이 없는 상황에서도 뛰어난 강건성을 입증한다.

ABSTRACT

With the rise of social media, the spread of fake news has become a significant concern, potentially misleading public perceptions and impacting social stability. Although deep learning methods like CNNs, RNNs, and Transformer-based models like BERT have enhanced fake news detection, they primarily focus on content, overlooking social context during news propagation. Graph-based techniques have incorporated this social context but are limited by the need for large labeled datasets. Addressing these challenges, this paper introduces GAMC, an unsupervised fake news detection technique using the Graph Autoencoder with Masking and Contrastive learning. By leveraging both the context and content of news propagation as self-supervised signals, our method negates the requirement for labeled datasets. We augment the original news propagation graph, encode these with a graph encoder, and employ a graph decoder for reconstruction. A unique composite loss function, including reconstruction error and contrast loss, is designed. The method's contributions are: introducing self-supervised learning to fake news detection, proposing a graph autoencoder integrating two distinct losses, and validating our approach's efficacy through real-world dataset experiments.

연구 동기 및 목표

• 비용이 많이 들고 시간이 오래 소요되는 레이블이 있는 데이터셋에 의존하지 않고 소셜 미디어 내 가짜 뉴스 탐지 문제를 해결하기 위해.
• 뉴스를 그래프로 모델링하여 사회적 맥락과 확산 동역학을 가짜 뉴스 탐지에 통합하기 위해.
• 뉴스 확산 그래프의 콘텐츠 및 구조적 특징을 모두 활용하는 자기지도 학습 프레임워크를 개발하기 위해.
• 데이터 증강을 자기지도 신호로 활용하여 수동 주석의 필요성을 제거하기 위해.
• 재구성 및 대비 학습을 조합한 복합 손실 함수를 통해 탐지 성능을 향상시키기 위해.

제안 방법

• 모델은 원본 뉴스 확산 그래프에 대해 무작위로 노드 특성 마스킹과 엣지 드롭을 수행하여 두 개의 개선된 시각을 생성한다.
• 그래프 인코더는 증강된 그래프를 처리하여 전역적인 구조와 확산 역학을 반영한 그래프 수준의 표현 벡터를 생성한다.
• 그래프 디코더는 표현 벡터로부터 원본 그래프를 재구성하여 구조적 및 의미적 패턴을 유지하기 위해 재구성 오차를 최소화한다.
• 복합 손실 함수는 원본 그래프와 재구성된 그래프 간의 L2 거리에 기반한 재구성 손실과, 동일한 그래프에서 유도된 증강 시각 간 표현 간의 거리를 최소화하는 대비 손실을 조합한다.
• 모델은 복합 손실을 사용하여 엔드 투 엔드로 훈련되며, 레이블 없이 자기지도 표현 학습이 가능하다.
• 훈련 후 최종 그래프 수준의 표현은 직접적으로 가짜 뉴스 분류에 사용된다.

실험 결과

연구 질문

• RQ1 자기지도 학습이 레이블이 없는 가짜 뉴스 탐지에서 감독 신호를 효과적으로 대체할 수 있는가?
• RQ2 콘텐츠와 확산 맥락을 모두 통합할 경우, 텍스트 중심 모델에 비해 가짜 뉴스 탐지 성능이 어떻게 향상되는가?
• RQ3 데이터 증강(마스킹 및 엣지 드롭)이 모델의 강건한 표현 학습 능력에 미치는 영향은 무엇인가?
• RQ4 재구성 손실과 대비 손실이 함께 어떻게 성능 향상에 기여하는가?
• RQ5 실제 데이터셋에서 감독 기반 기준 모델에 비해 마스킹과 대비 학습을 통한 그래프 오토에인코드르 활용한 모델이 경쟁적인 성능을 낼 수 있는가?

주요 결과

• PolitiFact 데이터셋에서 GAMC는 82.8% 정확도와 82.3% F1을 기록하여 BiGCN 및 GACL을 포함한 모든 비교 감독 모델을 능가했다.
• GossipCop 데이터셋에서는 GAMC가 94.1% 정확도와 93.7% F1을 기록하여 다음으로 우수한 성능을 낸 GACL보다 정확도에서 3.4%p 높게 기록했다.
• 제거 실험 결과, 데이터 증강을 제거한 GAMC-Aug는 PolitiFact에서 정확도가 79.3%로 감소하여 증강 기반 표현 학습의 핵심적 역할을 입증했다.
• 재구성 손실을 제거한 GAMC-Lrec는 PolitiFact에서 F1이 75.8%로 하락하여, 이 손실이 구조적 정밀도 유지에 중요함을 시사했다.
• 대비 손실 구성 요소는 필수적이었으며, 하나의 증강 시각만을 사용할 경우 성능 저하가 발생하여 대비 학습이 분류 능력을 향상시킨다는 점을 입증했다.
• 최적의 초모수는 마스킹 비율 0.5와 엣지 드롭 비율 0.2에서 도출되었으며, 이 조건에서 두 데이터셋에서 성능이 최고로 나타났다.