[논문 리뷰] Rumor Detection on Social Media with Bi-Directional Graph Convolutional Networks

Tian Bian, Xi Xiao외 5명|arXiv (Cornell University)|2020. 01. 17.

Misinformation and Its Impacts참고 문헌 28인용 수 21

한 줄 요약

이 논문은 방향성 있는 뉴스 트리에서 상향식 소용돌이 전파 패턴과 하향식 확산 패턴을 동시에 포착하기 위해 이중 그래프 컨볼루션을 활용한 GCN 기반의 새로운 모델인 양방향 그래프 컨볼루션 네트워크(Bi-GCN)를 제안한다. 각 레이어에서 소스 포스트 특징을 통합하고 DropEdge를 사용한 정규화를 통해 Bi-GCN는 세 가지 실세계 데이터셋에서 둘 다 루머 탐지 및 조기 탐지에서 최고 성능을 기록한다.

ABSTRACT

Social media has been developing rapidly in public due to its nature of spreading new information, which leads to rumors being circulated. Meanwhile, detecting rumors from such massive information in social media is becoming an arduous challenge. Therefore, some deep learning methods are applied to discover rumors through the way they spread, such as Recursive Neural Network (RvNN) and so on. However, these deep learning methods only take into account the patterns of deep propagation but ignore the structures of wide dispersion in rumor detection. Actually, propagation and dispersion are two crucial characteristics of rumors. In this paper, we propose a novel bi-directional graph model, named Bi-Directional Graph Convolutional Networks (Bi-GCN), to explore both characteristics by operating on both top-down and bottom-up propagation of rumors. It leverages a GCN with a top-down directed graph of rumor spreading to learn the patterns of rumor propagation, and a GCN with an opposite directed graph of rumor diffusion to capture the structures of rumor dispersion. Moreover, the information from the source post is involved in each layer of GCN to enhance the influences from the roots of rumors. Encouraging empirical results on several benchmarks confirm the superiority of the proposed method over the state-of-the-art approaches.

연구 동기 및 목표

• 루머 확산의 전역적 구조적 패턴을 모델링하지 못하는 기존 루머 탐지 방법의 한계를 해결하기 위해 수작업 특징 또는 RvNN과 같은 순차적 모델에 의존하는 것.
• 방향성이 없는 GCN(UD-GCN)이 전파 방향성을 상실하고, CNN이 전역 그래프 구조를 모델링하지 못하는 점을 보완하기 위해.
• 루머 전파 트리에서 상향식 전파와 하향식 확산을 동시에 모델링할 수 있는 통합된 딥 러닝 프레임워크를 개발하기 위해.
• 전파 및 확산 패턴의 구조적 표현을 활용하여 루머 조기 탐지 성능을 향상시키기 위해.
• 모든 GCN 레이어에서 소스 포스트 특징을 통합하고 DropEdge 정규화를 적용하여 모델의 강건성과 성능을 향상시키기 위해.

제안 방법

• 루머 전파 트리에서 상향식(TD) 전파를 위한 그래프와 하향식(BU) 확산을 위한 그래프를 각각 구성한다.
• TD 및 BU 그래프에 그래프 컨볼루션 네트워크(GCN)를 적용하여 루머 전파의 고차원 표현과 구조적 확산을 학습한다.
• 각 GCN 레이어에서 소스 포스트의 특징을 은닉 표현과 연결함으로써 루트의 영향력을 강화하고 특징 학습을 향상시킨다.
• TD-GCN과 BU-GCN의 최종 표현을 완전 연결층을 통해 병합하여 엔드 투 엔드 분류를 수행한다.
• 학습 중에 DropEdge를 적용하여 그래프의 무작위 엣지 제거를 통해 과적합을 방지하고 일반화 성능을 향상시킨다.
• ReLU 활성화 함수와 잔차 연결을 사용한 다층 GCN 아키텍처를 통해 루머 구조의 계층적 패턴을 포착한다.

실험 결과

연구 질문

• RQ1 GCN 기반 모델이 루머 확산에서 인과적 전파 패턴과 구조적 확산 패턴을 효과적으로 포착할 수 있는가?
• RQ2 모든 GCN 레이어에서 소스 포스트 특징을 통합하는 것이 표준 GCN나 RvNN에 비해 루머 탐지 성능을 크게 향상시키는가?
• RQ3 Bi-GCN이 단방향 GCN(TD-GCN, BU-GCN)과 방향성이 없는 GCN(UD-GCN)에 비해 탐지 정확도 측면에서 어떻게 비교되는가?
• RQ4 전파 및 확산에서 유래한 구조적 특징을 활용함으로써 제안된 모델이 뛰어난 조기 루머 탐지 성능을 달성할 수 있는가?
• RQ5 DropEdge가 그래프 구조 데이터 기반 루머 탐지에서 일반화 성능 향상과 과적합 감소에 얼마나 기여하는가?

주요 결과

• Bi-GCN는 Weibo, Twitter15, Twitter16 세 가지 실세계 데이터셋에서 모두 최고 성능을 기록하여 RvNN, SVM, DTC와 같은 모든 기준 모델을 성능과 F1 점수 측면에서 뛰어넘었다.
• 제거 분석 결과, 각 GCN 레이어에서 소스 포스트 특징을 연결하는 것이 성능 향상에 크게 기여하며, 네트워크 전반에 걸쳐 루트 특징을 통합할 때 최고의 성능가를 기록함을 확인했다.
• Bi-GCN는 UD-GCN, TD-GCN, BU-GCN를 일관되게 능가하여 상향식 확산과 하향식 전파를 동시에 모델링하는 것이 필수적임을 입증했다.
• 조기 루머 탐지에서 Bi-GCN는 소스 포스트 후 1~2시간 이내의 매우 이른 시점에서도 높은 정확도를 기록했으며, RvNN 및 기타 기준 모델보다 뚜렷하게 뛰어난 성능을 보였다.
• 모델의 성능는 다양한 데이터셋에서 뛰어난 일반화 능력을 유지했으며, Weibo 데이터셋에서 최고 F1 점수 0.872와 Twitter16에서 0.821를 기록하여 강력한 일반화 능력을 입증했다.
• DropEdge는 과적합을 효과적으로 줄였으며, 검증 성능 향상과 모든 데이터셋 및 평가 지표에서 일관된 성능 향상으로서 그 효과를 입증했다.