[논문 리뷰] Fake News Detection Through Graph-based Neural Networks: A Survey

Shuzhi Gong, Richard Sinnott외 2명|arXiv (Cornell University)|2023. 07. 24.

Misinformation and Its ImpactsSocial Sciences인용 수 3

한 줄 요약

이 종합 검토는 가짜 뉴스 탐지에 대한 그래프 기반 신경망 방법을 포괄적으로 분석하며, 지식 기반, 확산 기반, 이종 사회적 맥락 기반 접근 방식으로 분류한다. 그래프 모델링이 뉴스 엔티티 및 확산 구조 간의 복잡한 비유클리드적 관계를 포착하는 데 효과적임을 강조하면서도, 확장성, 데이터 품질, 공격에 대한 강건성 등의 주요 과제를 밝혀낸다.

ABSTRACT

The popularity of online social networks has enabled rapid dissemination of information. People now can share and consume information much more rapidly than ever before. However, low-quality and/or accidentally/deliberately fake information can also spread rapidly. This can lead to considerable and negative impacts on society. Identifying, labelling and debunking online misinformation as early as possible has become an increasingly urgent problem. Many methods have been proposed to detect fake news including many deep learning and graph-based approaches. In recent years, graph-based methods have yielded strong results, as they can closely model the social context and propagation process of online news. In this paper, we present a systematic review of fake news detection studies based on graph-based and deep learning-based techniques. We classify existing graph-based methods into knowledge-driven methods, propagation-based methods, and heterogeneous social context-based methods, depending on how a graph structure is constructed to model news related information flows. We further discuss the challenges and open problems in graph-based fake news detection and identify future research directions.

연구 동기 및 목표

• 트위터 및 레딧과 같은 소셜 미디어 플랫폼에서 급속히 퍼지는 가짜 뉴스의 증가하는 사회적 영향을 다루기 위해.
• 기존 검토에서 다루지 않은 바가 많은 그래프 기반 딥 러닝 방법에 대한 세밀하고 체계적인 검토를 제공하기 위해.
• 기존 그래프 기반 접근 방식을 지식 기반, 확산 기반, 이종 사회적 맥락 기반 방법으로 세 가지 범주로 분류하고 분석하기 위해.
• 확장성, 데이터 품질, 공격에 대한 강건성 등의 열린 과제를 특정하여 그래프 기반 가짜 뉴스 탐지 시스템에서의 도전 과제를 밝혀내기 위해.
• 외부 맥락 및 시간 동적 특성을 그래프 모델링에 통합하는 등 향후 연구를 이끌기 위한 유망한 방향을 제시하기 위해.

제안 방법

• 그래프 구축 기반으로 그래프 기반 가짜 뉴스 탐지 방법을 세 가지 유형으로 분류: 지식 기반(뉴스 콘텐츠에서 추출한 엔티티 사용), 확산 기반(리트윗, 댓글과 같은 사용자 상호작용 모델링), 이종 사회적 맥락 기반(다양한 소스의 사용자 및 주제 수준 맥락 통합).
• 그래프 신경망(GNNs), 특히 GCN 및 BiGCN를 활용하여 그래프 구조 데이터를 인코딩하고 분류를 위한 노드 수준 임베딩을 생성한다.
• 내부 뉴스 콘텐츠나 위키피디아와 같은 외부 자료에서 구축한 지식 그래프를 활용하여 사실 일관성과 엔티티 간 관계를 향상시킨다.
• 사용자 상호작용(예: 재게재, 댓글 등)을 사용하여 뉴스 확산을 트리 또는 그래프 구조로 모델링하고, 확산 패턴과 사용자 신뢰성에 기반해 진위 여부를 추론한다.
• 관련 뉴스 샘플 간의 관계를 활용하는 전이 학습 기법을 적용하여 맥락 기반 클러스터링을 통해 분류 성능을 향상시킨다.
• 시간적 및 외부 맥락을 통합하기 위해, 대상 뉴스 게시 시점 주변의 신뢰할 수 있는 출판사(예: NPR, 허프인턴드 포스트)에서 확보한 검증된 뉴스를 검색하여 비교 분석한다.

실험 결과

연구 질문

• RQ1 지식 기반 그래프 기반 방법은 내부 및 외부 지식을 어떻게 활용하여 가짜 뉴스 탐지 성능을 향상시키는가?
• RQ2 확산 기반 방법은 사용자 상호작용 패턴을 얼마나 잘 활용하여 뉴스 기사의 진위 여부를 추론하는가?
• RQ3 현재의 이종 사회적 맥락 기반 방법은 넓고 동적인 사회적 및 시간적 맥락을 포착하는 데 어떤 한계를 지니는가?
• RQ4 실제 환경에서 그래프 기반 모델은 비그래프 기반 또는 하이브리드 접근 방식에 비해 성능 및 확장성 측면에서 어떻게 비교되는가?
• RQ5 그래프 기반 가짜 뉴스 탐지 시스템을 대규모로 구현할 때 주로 발생하는 과제는 무엇인가? 특히 데이터 품질, 계산 비용, 공격에 대한 강건성 측면에서.

주요 결과

• 그래프 기반 방법은 엔티티 및 확산 구조 간의 복잡한 비유클리드적 관계를 모델링함으로써 기존의 단순 콘텐츠 중심 접근 방식보다 뚜렷이 뛰어난 성능을 보인다.
• 위키피디아와 같은 외부 자료에서의 지식 통합을 통해 사실성 검증 및 모호성 해소 기능을 향상시켜 정확도를 높이는 지식 기반 방법이 효과적이다.
• BiGCN와 같은 확산 기반 모델은 뉴스 공유의 구조적 패턴을 분석함으로써 뛰어난 성능을 발휘하며, 사용자 신뢰도 특징과 조합될 경우 더욱 강력한 성능을 보인다.
• 이종 사회적 맥락 기반 방법은 유망한 잠재력을 지니지만, 일반적인 대중의 의견이나 실시간 외부 맥락을 통합하지 못하는 등 범위가 좁다는 한계를 지닌다.
• 현재의 데이터셋은 종종 오래되었고 다양성이 부족한 편이며, 특히 새로운 AI 생성 콘텐츠의 출현를 고려할 때 모델의 일반화 능력과 장기적 신뢰성에 악영향을 미친다.
• 대부분의 연구에서 공격에 대한 강건성과 모델 회피 문제에 대한 고려가 부족하며, 공격에 대한 훈련이나 확산 엣지 강화를 통한 강건성 향상에 대한 연구도 소수에 그친다.