[논문 리뷰] Fine-grained Event Categorization with Heterogeneous Graph Convolutional Networks

Hao Peng, Jianxin Li외 5명|arXiv (Cornell University)|2019. 06. 09.

Complex Network Analysis Techniques참고 문헌 34인용 수 12

한 줄 요약

이 논문은 소셜 미디어 텍스트와 외부 지식 기반 시스템에서 구축된 이질적 정보 네트워크(HIN)를 사용하여 세분화된 소셜 이벤트 분류를 위한 새로운 쌍별 인기도 그래프 컨볼루션 네트워크(PP-GCN)를 제안한다. 지식 기반 메타패스 기반의 사회적 이벤트 유사도(KIES) 측정법과 인기도 기반 분류기를 도입함으로써, 두 개의 실세계 데이터셋에서 기준 모델 대비 NMI를 6%~24% 향상시키고, 이벤트 검출 정확도에서 SE-GCN 대비 10%~14% 향상시켰다.

ABSTRACT

Events are happening in real-world and real-time, which can be planned and organized occasions involving multiple people and objects. Social media platforms publish a lot of text messages containing public events with comprehensive topics. However, mining social events is challenging due to the heterogeneous event elements in texts and explicit and implicit social network structures. In this paper, we design an event meta-schema to characterize the semantic relatedness of social events and build an event-based heterogeneous information network (HIN) integrating information from external knowledge base, and propose a novel Pair-wise Popularity Graph Convolutional Network (PP-GCN) based fine-grained social event categorization model. We propose a Knowledgeable meta-paths Instances based social Event Similarity (KIES) between events and build a weighted adjacent matrix as input to the PP-GCN model. Comprehensive experiments on real data collections are conducted to compare various social event detection and clustering tasks. Experimental results demonstrate that our proposed framework outperforms other alternative social event categorization techniques.

연구 동기 및 목표

• 소셜 미디어에서 카테고리 수가 많고 클래스 샘플이 희박한 문제로 인해 발생하는 세분화된 소셜 이벤트 분류 과제를 해결하기 위해.
• 사람, 장소, 시간, 실체 등의 이질적 이벤트 요소와 함께 명시적 및 암시적 사회 네트워크 구조를 모델링하기 위해.
• 외부 지식 기반 시스템 통합 및 해석 가능한 메타패스 가중치 학습을 통해 이벤트 검출 및 클러스터링 성능을 향상시키기 위해.
• 저자원 이벤트 카테고리에서 과적합을 방지하는 안정적이고 일반화 가능한 표현 학습 프레임워크를 개발하기 위해.
• 데이터셋 간 일반화가 가능한 지식 기반 유사도 측정법(KIES)을 활용한 준지도 기반 클러스터링을 가능하게 하기 위해.

제안 방법

• 엔티티, 관계, 외부 지식 기반 시스템 연결(예: 'located-in', 'attribute-of')을 통합한 이벤트 기반 이질적 정보 네트워크(HIN)를 구축하기 위해.
• 정서적 및 구조적 관계를 사용하여 의미적 및 구조적 관계를 기반으로 HIN에 대한 가중치가 부여된 인접 행렬을 계산하기 위해 지식 기반 메타패스 기반의 사회적 이벤트 유사도(KIES) 측정법을 설계하기 위해.
• 쌍별 인기도 기반 분류기를 통해 메타패스 가중치와 분류 가능한 이벤트 인스턴스 표현을 동시에 학습하는 쌍별 인기도 그래프 컨볼루션 네트워크(PP-GCN)를 제안하기 위해.
• 일반적인 회귀 헤드를 대체하여 이벤트 인스턴스 쌍의 특징 기반의 절댓값 비율 분류기를 도입함으로써 안정성과 일반화 성능을 향상시키기 위해.
• 학습된 메타패스 가중치와 KIES 유사도를 활용하여 k-means 기반 준지도 기반 클러스터링을 수행하고, 데이터셋 간 전이 학습을 적용하기 위해.
• 라벨이 부여된 데이터를 활용하여 감독을 받는 손실 함수를 사용하여 이벤트 검출 및 유사도 학습을 동시에 최적화하는 방식으로 모델을 엔드 투 엔드로 훈련하기 위해.

실험 결과

연구 질문

• RQ1 지식 기반 이질적 그래프 컨볼루션 네트워크는 기존의 텍스트 기반 또는 동질적 그래프 방법을 초월하여 세분화된 소셜 이벤트 분류 성능을 향상시킬 수 있는가?
• RQ2 제안된 KIES 유사도 측정법은 사회적 이벤트 간의 의미적 및 구조적 관계를 얼마나 효과적으로 포착하는가?
• RQ3 PP-GCN 내의 쌍별 인기도 기반 분류기는 안정성과 일반화 성능 측면에서 각도 기반 또는 거리 기반 분류기보다 뛰어나다고 할 수 있는가?
• RQ4 한 데이터셋(예: 텐센트)에서 학습된 메타패스 가중치가 다른 데이터셋(예: 웨이보)에서의 클러스터링 성능 향상에 얼마나 효과적으로 전이될 수 있는가?
• RQ5 희박한 학습 샘플을 가진 저자원 세분화된 이벤트 카테고리에서 과적합을 완화할 수 있는가?

주요 결과

• PP-GCN 모델은 이벤트 검출 작업에서 SE-GCN 대비 10%~14% 높은 정확도를 기록했으며, 회귀 헤드를 인기도 기반 분류기로 교체할 경우 3%~5% 향상되었다.
• KIES 유사도 측정법은 WMD, mSDA, CCG를 모두 능가하여 텐센트 및 웨이보 데이터셋에서 준지도 기반 이벤트 클러스터링에서 NMI를 6%~24% 향상시켰다.
• 텐센트에서 학습한 메타패스 가중치를 웨이보로 전이하면 클러스터링 NMI가 2% 이상 향상되었지만, 반대 방향 전이는 효과가 없었으며, 이는 데이터 품질과 레이블의 풍부함이 메타패스 학습에 영향을 준다는 것을 시사한다.
• PP-GCN 내의 인기도 기반 분류기는 7,000 에포크 동안 안정적으로 증가하는 정확도를 보였으며, 각도 기반 PA-GCN는 주기적인 변동을 보여 일반화 성능이 떨어지고 과적합이 발생할 가능성이 있음을 시사한다.
• 학습 가능한 메타패스 가중치 덕분에 모델의 해석성이 향상되었으며, 이는 'located-in', 'attribute-of'와 같은 다양한 이벤트 관련 관계의 상대적 중요도를 반영한다.
• 종합적인 아블레이션 분석 결과, KIES 유사도와 인기도 기반 분류기 모두 모델의 뛰어난 성능을 위해 필수적이며, 각 구성 요소가 최종 성능에 크게 기여하고 있음을 확인했다.