[논문 리뷰] Unsupervised Meta-path Reduction on Heterogeneous Information Networks

Xiaokai Wei, Zhiwei Liu외 2명|arXiv (Cornell University)|2018. 10. 30.

Neural Networks and Reservoir Computing인용 수 4

한 줄 요약

이 논문은 이질적 정보 네트워크(HIN)에서 메타패스의 의미 정보를 유지하면서 전이 확률 유사도를 최적화하여 의미 정보를 보존하는 비지도 메타패스 축소 방법인 SPMR을 제안한다. 실제 데이터셋인 BlogCatalog와 DBLP에서 전체 메타패스 집합과 무작위 선택 대비 더 적은 수의 메타패스로도 우수한 클러스터링 성능을 달성한다.

ABSTRACT

Heterogeneous Information Network (HIN) has attracted much attention due to its wide applicability in a variety of data mining tasks, especially for tasks with multi-typed objects. A potentially large number of meta-paths can be extracted from the heterogeneous networks, providing abundant semantic knowledge. Though a variety of meta-paths can be defined, too many meta-paths are redundant. Reduction on the number of meta-paths can enhance the effectiveness since some redundant meta-paths provide interferential linkage to the task. Moreover, the reduced meta-paths can reflect the characteristic of the heterogeneous network. Previous endeavors try to reduce the number of meta-paths under the guidance of supervision information. Nevertheless, supervised information is expensive and may not always be available. In this paper, we propose a novel algorithm, SPMR (Semantic Preserving Meta-path Reduction), to reduce a set of pre-defined meta-paths in an unsupervised setting. The proposed method is able to evaluate a set of meta-paths to maximally preserve the semantics of original meta-paths after reduction. Experimental results show that SPMR can select a succinct subset of meta-paths which can achieve comparable or even better performance with fewer meta-paths.

연구 동기 및 목표

• 이질적 정보 네트워크(HIN)에서의 중복적이고 노이즈가 많은 메타패스로 인한 하류 작업 성능 저하 문제를 해결하기 위해.
• 비용이 많이 드는 감독 없이도 원래 HIN의 의미적 구조를 유지하는 비지도 메타패스 축소 방법을 개발하기 위해.
• 전체 집합에 존재하는 본질적인 연결성과 의미 관계를 유지하는 간결한 메타패스 하위집합을 식별하기 위해.
• 축소된 메타패스 집합을 통해 네트워크의 내재된 특성을 드러내어 HIN의 구조에 대한 인간의 이해를 돕기 위해.

제안 방법

• SPMR는 메타패스 간 노드 쌍 간 전이 확률 유사도를 유지하는 최적화 문제로 메타패스 축소를 공식화한다.
• 랜덤 워크를 기반으로 한 전이 확률 행렬을 활용해 메타패스 간 의미 유사도를 모델링한다.
• 원래 전이 확률 분포를 가장 잘 유지하는 최소한의 메타패스 하위집합을 선택하기 위해 투영된 쿼asi-뉴턴 최적화 기법을 적용한다.
• 목적 함수는 의미 보존과 메타패스 집합 크기의 균형을 맞추며, 컴act하고 정보가 풍부한 하위집합을 선호한다.
• 이 방법은 비지도이므로 외부 레이블이나 피드백에 의존하지 않고 네트워크 구조에만 기반한다.
• 하류의 클러스터링 작업을 통해 축소된 메타패스 집합의 품질을 평가하여 의미 보존 여부를 검증한다.

실험 결과

연구 질문

• RQ1 비지도 방법을 통해 이질적 정보 네트워크에서 메타패스 수를 효과적으로 줄일 수 있을까? 이 과정에서 의미 정보는 유지되는가?
• RQ2 모든 메타패스를 사용할 때와 비교해, 축소된 메타패스 집합을 사용했을 때 하류 작업(예: 클러스터링)의 성능은 어떻게 되는가?
• RQ3 최소한이지만 정보가 풍부한 메타패스 하위집합의 선택을 통해 네트워크의 어떤 특성이 드러날 수 있는가?
• RQ4 적은 수의 메타패스로 전체 메타패스를 사용할 때와 비슷하거나 더 뛰어난 성능을 달성할 수 있는가?

주요 결과

• BlogCatalog 데이터셋에서 SPMR가 선택한 3개의 메타패스만으로도 전체 15개 메타패스를 사용할 때보다 클러스터링 정확도가 42.4% 향상되었다.
• SPMR는 BlogCatalog에서 3개의 메타패스를 사용해 NMI 0.3777을 달성했으며, 전체 경로를 사용할 때의 베이스라인 0.1861을 뛰어넘었다.
• DBLP 데이터셋에서 SPMR는 3개의 메타패스로 전체 집합 대비 NMI를 17.0% 향상시켰고, 무작위 선택 대비 77.3% 향상시켰다.
• DBLP에서 상위 랭크된 메타패스인 'Author - Paper - Author - Paper - Term - Paper - Author'는 가장 많은 의미 정보를 유지했으며, 더 긴 중복된 변형들보다 뛰어난 성능을 보였다.
• BlogCatalog에서는 사용자와 태그 간 관계를 포함하는 메타패스가 우선시되었는데, 이는 네트워크 구조상의 중심성을 반영한다.
• 'Blog - User - User - User - Blog' 메타패스의 제거는 친구의 친구 관계가 BlogCatalog에서 희박하고 정보가 부족하다는 것을 시사한다.