[논문 리뷰] KGAP: Knowledge Graph Augmented Political Perspective Detection in News Media

Shangbin Feng, Zilong Chen외 5명|arXiv (Cornell University)|2021. 08. 09.

Topic Modeling인용 수 12

한 줄 요약

KGAP는 이질적 정보 네트워크 프레임워크를 통해 도메인 특화 외부 지식을 통합함으로써 뉴스 미디어에서 정치적 시각 탐지에 지식 그래프를 보완하는 접근법을 제안한다. 관계 기반 그래프 신경망을 사용하여 그래프 수준 분류를 수행하며, 텍스트 콘텐츠와 정치 지식을 효과적으로 융합함으로써 두 개의 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Identifying political perspectives in news media has become an important task due to the rapid growth of political commentary and the increasingly polarized political ideologies. Previous approaches focus on textual content and leave out the rich social and political context that is essential in the perspective detection process. To address this limitation, we propose KGAP, a political perspective detection method that incorporates external domain knowledge. Specifically, we construct a political knowledge graph to serve as domain-specific external knowledge. We then construct heterogeneous information networks to represent news documents, which jointly model news text and external knowledge. Finally, we adopt relational graph neural networks and conduct political perspective detection as graph-level classification. Extensive experiments demonstrate that our method consistently achieves the best performance on two real-world perspective detection benchmarks. Ablation studies further bear out the necessity of external knowledge and the effectiveness of our graph-based approach.

연구 동기 및 목표

• 텍스트 중심 접근법의 한계를 보완하기 위해 사회적 및 정치적 맥락을 풍부하게 통합함으로써 정치적 시각 탐지의 정확도를 향상시키기 위해.
• 뉴스 기사의 정치적 추론을 위한 외부 배경 지식으로 사용할 수 있는 도메인 특화 지식 그래프를 개발하기 위해.
• 텍스트와 지식을 함께 모델링하는 이질적 정보 네트워크를 활용하여 정치적 시각 탐지를 그래프 수준 분류 문제로 재정의하기 위해.
• 텍스트 분석 외부의 외부 지식이 탐지 성능 향상에 필수적이고 효과적인지 입증하기 위해.

제안 방법

• 현대적 미국 정치에 초점을 맞춘 1,071개의 실체와 10,703개의 삼중항을 포함하는 정치 지식 그래프를 구축하여 도메인 특화 배경 지식을 제공한다.
• 뉴스 문서를 표현하기 위해 이질적 정보 네트워크(HIN)를 구축하며, 텍스트 콘텐츠(단락 노드)와 외부 지식(실체 노드)를 세 가지 유형의 간선을 통해 통합한다: 문서-단락, 단락-단락, 단락-실체.
• 텍스트와 지식 간의 구조적 및 의미적 상호작용을 촉진하기 위해 지식 그래프 임베딩(e.g., TransE, RotatE)을 초기 노드 특징으로 활용한다.
• 이질적 노드 및 간선 유형 간 메시지 전달을 가능하게 하여 그래프 표현 학습을 수행하기 위해 관계 기반 그래프 신경망(R-GCN 및 게이트드 R-GCN)을 적용한다.
• 전체 뉴스 그래프가 정치적 입장을(예: 자유주의 또는 보수주의) 분류하는 방식으로 정치적 시각 탐지를 그래프 수준 분류 문제로 설정한다.
• 교차 엔트로피 손실을 사용하여 모델을 엔드 투 엔드로 훈련하며, 지식, 텍스트 모델링, 그래프 구조의 기여도를 평가하기 위해 추론 분석을 실시한다.

실험 결과

연구 질문

• RQ1 외부 도메인 지식이 텍스트 콘텐츠에만 의존하는 것보다 정치적 시각 탐지 성능을 크게 향상시킬 수 있는가?
• RQ2 이질적 정보 네트워크는 정치 입장 분류를 위한 텍스트 기반 표현과 지식 기반 표현을 얼마나 효과적으로 통합하는가?
• RQ3 다양한 지식 그래프 임베딩 기법이 정치적 시각 탐지 성능에 미치는 영향은 무엇인가?
• RQ4 텍스트 모델링의 변형(e.g., BERT 대비 경량 모델)과 그래프 구조의 변형(e.g., 간선 제거)이 탐지 정확도에 미치는 영향은 어떠한가?
• RQ5 관계 기반 그래프 신경망의 사용이 정치적 시각 탐지에 대한 표현 학습을 얼마나 향상시키는가?

주요 결과

• KGAP는 SemEval 및 AllSides 벤치마크에서 모두 최신 기술 수준의 성능을 달성하였으며, SemEval에서 매크로-F1 스코어 84.94, AllSides에서 85.52를 기록하여 기존 최신 기술 수준의 방법들을 능가하였다.
• 추론 분석 결과, 단락-실체 간선을 제거할 경우 성능 저하가 가장 크게 발생하였으며, 특히 더 작은 SemEval 데이터셋에서 두드러졌으며, 이는 외부 지식 통합의 핵심적 역할을 입증한다.
• 게이트드 R-GCN과 같은 관계 기반 그래프 신경망을 사용할 경우, GCN과 같은 단순한 GNN보다 성능이 뚜렷이 향상되었으며, SemEval에서 매크로-F1 스코어가 2.3%p 상승하였다.
• BERT와 같은 고급 텍스트 모델은 항상 단순한 모델보다 성능이 뛰어나며, 뉴스 그래프 구조와 결합할 경우 성능 향상이 더욱 두드러져 텍스트와 그래프 표현 간의 상호보완적 상호작용을 시사한다.
• 최소 10 에포크 동안 훈련된 지식 그래프 임베딩은 무작위 초기화보다 더 높은 성능을 보이며, 이는 다양한 임베딩 초기화 전략에 대해 본 방법의 강건성을 입증한다.
• TransE, RotatE 등 다양한 지식 그래프 임베딩 기법 간 성능에 큰 차이가 없었으며, 이는 본 방법이 특정 임베딩 기법에 의존하지 않음을 시사한다.