[논문 리뷰] HGAT: Hierarchical Graph Attention Network for Fake News Detection.

Yuxiang Ren, Jiawei Zhang|arXiv (Cornell University)|2020. 02. 05.

Misinformation and Its Impacts참고 문헌 25인용 수 15

한 줄 요약

이 논문은 뉴스, 창작자, 주제를 이질적 정보 네트워크(HIN)로 모델링하는 계층적 그래프 어텐션 네트워크(HGAT)를 제안한다. 노드 수준 및 스키마 수준 어텐션 메커니즘을 적용함으로써 HGAT는 다중 유형의 상관관계 정보를 포착하고, 실제 세계 데이터에서 텍스트 기반 및 네트워크 기반 기준 모델을 능가하며, HIN 표현 학습에 대해 뛰어난 성능과 확장성을 보여준다.

ABSTRACT

The explosive growth of fake news has eroded the credibility of medias and governments. Fake news detection has become an urgent task. News articles along with other related components like news creators and news subjects can be modeled as a heterogeneous information network (HIN for short). In this paper, we focus on studying the HIN- based fake news detection problem. We propose a novel fake news detection framework, namely Hierarchical Graph Attention Network (HGAT) which employs a novel hierarchical attention mechanism to detect fake news by classifying news article nodes in the HIN. This method can effectively learn information from different types of related nodes through node-level and schema-level attention. Experiments with real-world fake news data show that our model can outperform text-based models and other network-based models. Besides, the experiments also demonstrate the expandability and potential of HGAT for heterogeneous graphs representation learning in the future.

연구 동기 및 목표

• 정보 오남용의 급속한 확산으로 인한 효과적인 가짜 뉴스 탐지의 급박한 필요성을 해결하기 위해.
• 뉴스 기사, 창작자, 주제를 포함하는 이질적 정보 네트워크(HIN) 내에서 뉴스 탐지를 문제로 모델링하기 위해.
• HIN 내에서 노드 수준 및 스키마 수준의 관계를 모두 포착하는 새로운 어텐션 메커니즘을 개발하기 위해.
• 텍스트 전용 모델 및 표준 그래프 기반 모델을 초월한 가짜 뉴스 탐지 성능 향상시키기 위해.
• HGAT의 확장성과 이질적 그래프 표현 학습에 대한 잠재력을 입증하기 위해.

제안 방법

• HGAT는 뉴스 기사, 창작자, 주제를 서로 다른 노드 유형으로 표현하고 관계 유형으로 연결된 이질적 정보 네트워크(HIN)를 구성한다.
• 모델은 노드 수준(노드의 이웃 내에서) 및 스키마 수준(다른 관계 유형 간에서)에 모두 어텐션을 적용하는 계층적 어텐션 메커니즘을 사용한다.
• 노드 수준 어テン션은 동일하거나 다른 유형의 이웃 노드에 대해 어텐션 가중치를 계산하여 정보성 특징을 집계한다.
• 스키마 수준 어텐션은 다양한 관계 유형(스키마)에 대한 중요도 가중치를 학습하여 HIN 내에서 더 관련성이 높은 상관관계 경로를 우선시한다.
• 최종적으로 뉴스 기사 노드의 표현은 두 어텐션 메커니즘을 통해 특징을 집계함으로써 얻어지며, 이는 맥락 인식 분류를 가능하게 한다.
• 모델은 이진 가짜 뉴스 분류를 위한 교차 엔트로피 손실을 사용하여 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 계층적 어텐션 메커니즘이 뉴스 탐지 작업에서 이질적 상관관계 정보를 효과적으로 포착할 수 있는가?
• RQ2 HGAT는 텍스트 전용 모델 및 표준 그래프 신경망과 비교해 어떻게 성능을 내는가?
• RQ3 HGAT는 어떤 정도로 노드 수준 및 스키마 수준 어텐션을 활용하여 HIN 내 표현 학습을 향상시킬 수 있는가?
• RQ4 HGAT는 새로운 뉴스 데이터에 대해 잘 일반화되고 더 큰 이질적 네트워크로 확장 가능한가?
• RQ5 다양한 관계 유형(스키마)이 최종 가짜 뉴스 예측에 어떤 기여를 하는가?

주요 결과

• HGAT는 원시 텍스트 외의 구조적 및 상관관계 정보를 통합함으로써 텍스트 기반 모델보다 뛰어난 성능을 보이며, 이는 이러한 정보의 가치를 입증한다.
• HGAT는 다른 네트워크 기반 모델보다 뛰어난 성능을 달성하여, 계층적 어텐션 메커니즘의 효과성을 확인한다.
• 모델는 강력한 일반화 및 확장성 성능를 보이며, 이질적 그래프 표현 학습에 광범위한 적용 가능성을 시사한다.
• 실험 결과, 노드 수준 및 스키마 수준 어텐션 모두가 모델 성능에 크게 기여하며, 특히 스키마 수준 어텐션은 중요한 상관관계 패턴을 식별하는 데 도움을 준다.
• 제거 실험 결과, 두 어텐션 메커니즘이 모두 필수적임을 입증하였으며, 둘 중 하나를 제거하면 성능 저하가 발생한다.