[논문 리뷰] GCAN: Graph-aware Co-Attention Networks for Explainable Fake News Detection on Social Media

Yi-Ju Lu, Cheng–Te Li|arXiv (Cornell University)|2020. 04. 24.

Misinformation and Its Impacts참고 문헌 31인용 수 6

한 줄 요약

이 논문은 소스 트윗 텍스트와 댓글 또는 네트워크 구조 없이 리트윗 사용자 시퀀스만을 사용하여 짧은 소셜 미디어 트윗에서 가짜 뉴스를 탐지하는 그래프 인식 공액 주의망(GCAN)을 제안한다. 사용자 상호작용을 그래프 컨볼루션을 통해 모델링하고, 비밀번호 공액 주의를 통해 의심스러운 사용자와 핵심 단어를 강조함으로써 GCAN은 최신 기술 대비 16% 높은 정확도를 달성하며 예측에 대한 해석 가능한 설명을 제공한다.

ABSTRACT

This paper solves the fake news detection problem under a more realistic scenario on social media. Given the source short-text tweet and the corresponding sequence of retweet users without text comments, we aim at predicting whether the source tweet is fake or not, and generating explanation by highlighting the evidences on suspicious retweeters and the words they concern. We develop a novel neural network-based model, Graph-aware Co-Attention Networks (GCAN), to achieve the goal. Extensive experiments conducted on real tweet datasets exhibit that GCAN can significantly outperform state-of-the-art methods by 16% in accuracy on average. In addition, the case studies also show that GCAN can produce reasonable explanations.

연구 동기 및 목표

• 소스 트윗이 짧고, 사용자 댓글이 없으며, 네트워크 구조가 제공되지 않는 실제 소셜 미디어 환경에서 가짜 뉴스 탐지 문제를 해결하기 위해.
• 의심스러운 리트윗 사용자와 주목할 만한 단어를 식별하여 정확한 가짜 뉴스 탐지와 의미 있는 설명을 동시에 수행할 수 있는 모델을 개발하기 위해.
• 실제 소셜 미디어에서 짧은 텍스트의 데이터 희소성과 사용자 댓글 신호의 부재를 해결하기 위해 사용자 프로필 특징과 확산 패턴을 활용하기 위해.
• 초기 리트위터와 그들의 행동 특성 분석을 통해 가짜 뉴스의 조기 탐지 가능성을 확보하기 위해.

제안 방법

• GCAN은 사용자 프로필과 리트윗 시퀀스에서 사용자 상호작용 그래프를 구축하여 잠재적 사회적 연결을 모델링하고, 그래프 컨볼루션 신경망을 사용해 그래프 인식 표현을 학습한다.
• 컨볼루션 신경망과 순환 신경망을 활용해 사용자 특징과 상호작용 시퀀스 기반의 리트윗 확산 패턴을 인코딩한다.
• 소스 트윗과 리트윗 확산 간의 상관관계, 그리고 트윗과 사용자 상호작용 간의 공통 영향을 포착하기 위해 双중 공액 주의 메커니즘을 설계한다.
• 소스 트윗의 단어 임베딩을 사용자 표현과 공액 주의를 통해 통합하여 맥락 인식형 해석 가능한 예측을 생성한다.
• 소스-확산 공액 주의 레이어의 주의 가중치를 시각화하여 트윗의 핵심 단어와 리트윗 체인 내 의심스러운 사용자를 강조한다.
• 공액 주의 및 그래프 인식 구성 요소에서 융합된 표현을 기반으로 이진 분류기로 최종 예측을 수행한다.

실험 결과

연구 질문

• RQ1 사용자 댓글이 없고 네트워크 구조가 제공되지 않는 조건에서, 짧은 소셜 미디어 트윗에서 가짜 뉴스를 탐지할 수 있는 모델은 가능한가?
• RQ2 실제 소셜 미디어 제약 조건 하에서 리트윗 확산과 사용자 상호작용의 표현을 효과적으로 학습할 수 있는가?
• RQ3 이중 공액 주의 메커니즘이 의심스러운 사용자와 가짜 뉴스의 핵심 단어를 식별함으로써 설명 가능한 설명을 제공할 수 있는가?
• RQ4 기본 모델 대비 사용자 상호작용에 대한 그래프 인식 모델링을 통합함으로써 탐지 정확도가 향상되는가?
• RQ5 초기 리트위터에 초점을 맞춤으로써 모델이 가짜 뉴스를 조기에 탐지할 수 있는가?

주요 결과

• GCAN은 실제 트윗 데이터셋에서 최신 기술 대비 평균 16% 높은 정확도를 달성하여 뛰어난 탐지 성능을 입증한다.
• 제거 실험 결과 그래프 인식 구성 요소와 이중 공액 주의 메커니즘이 성능 향상에 기여하며, 소스 트윗을 제거했을 때 정확도가 가장 크게 감소함을 확인했다.
• 모델은 가짜 뉴스에서 놀라움을 자극하는 단어인 'breaking'(긴급)이나 'strict'(엄격한) 같은 단어를 성공적으로 강조하여 가짜 정보의 알려진 언어적 특징과 일치시켰다.
• GCAN은 확인되지 않은 계정, 짧은 사용자 설명 길이, 소스 사용자까지의 짧은 경로 길이 등의 기준을 바탕으로 의심스러운 리트위터를 식별하여 설명 가능한 행동 지표를 제공한다.
• 주의 시각화 결과에서 초기 확산 단계에 해당하는 리트위터가 가짜 뉴스 탐지에 핵심적임을 확인했으며, 주의 가중치가 초기 확산 단계에 집중되어 있음을 보여주었다.
• 사례 연구를 통해 모델의 설명이 합리적이며, 저신뢰도 사용자가 빠르게 확산시키는 가짜 뉴스의 전파 패tern과 일치함을 확인했다.