[논문 리뷰] Similarity-based Link Prediction from Modular Compression of Network Flows

Christopher Blöcker, Jelena Smiljanić외 2명|arXiv (Cornell University)|2022. 08. 30.

Complex Network Analysis Techniques인용 수 5

한 줄 요약

이 논문은 맵 방정정식 프레임워크를 사용하여 네트워크 플로우를 모듈러 압축하는 정보 이론적 기반의 노드 유사도 측정법인 MapSim을 소개한다. 임베딩 기반 방법과 달리 MapSim은 공동체의 이산적이고 비거리수학적 공간에서 작동하여 초모수 조정이 필요 없고 비대칭 유사도를 제공하며, 47개의 네트워크에서 링크 예측 성능 평균 7% 향상을 달성하여 모든 경쟁자보다 뛰어나며, 11개 네트워크에서는 모든 임베딩보다 뛰어난 성능을 보였다.

ABSTRACT

Node similarity scores are a foundation for machine learning in graphs for clustering, node classification, anomaly detection, and link prediction with applications in biological systems, information networks, and recommender systems. Recent works on link prediction use vector space embeddings to calculate node similarities in undirected networks with good performance. Still, they have several disadvantages: limited interpretability, need for hyperparameter tuning, manual model fitting through dimensionality reduction, and poor performance from symmetric similarities in directed link prediction. We propose MapSim, an information-theoretic measure to assess node similarities based on modular compression of network flows. Unlike vector space embeddings, MapSim represents nodes in a discrete, non-metric space of communities and yields asymmetric similarities in an unsupervised fashion. We compare MapSim on a link prediction task to popular embedding-based algorithms across 47 networks and find that MapSim's average performance across all networks is more than 7% higher than its closest competitor, outperforming all embedding methods in 11 of the 47 networks. Our method demonstrates the potential of compression-based approaches in graph representation learning, with promising applications in other graph learning tasks.

연구 동기 및 목표

• 임베딩 기반 링크 예측의 한계를 해결하기 위해 초모수 민감도, 대칭 유사도, 낮은 해석 가능성 문제를 해결한다.
• 네트워크의 모듈러 구조에 뿌리를 둔 비지도 학습, 해석 가능한 유사도 측정법을 개발한다.
• 플로우 기반 압축을 활용하여 링크 예측 정확도를 향상시키며, 특히 방향성 네트워크에서 성능을 높인다.
• 압축 기반 접근 방식이 그래프 표현 학습에서 타당한지 입증한다.
• 차원 축소 없이도 비대칭 유사도 점수를 제공할 수 있는 이산적이고 비거리수학적 유사도 공간을 제공한다.

제안 방법

• MapSim는 맵 방정식을 사용하여 네트워크 플로우를 모듈러 압축하여 이산적 공동체 공간으로 인코딩함으로써 노드 유사도를 계산한다.
• 노드가 소속된 모듈 내에서의 코드어 길이를 기반으로 링크의 기술 길이를 유도하며, 짧은 기술 길이는 높은 유사도를 의미한다.
• 유사도는 두 노드를 연결할 때 기술 길이의 감소량으로 정의되며, 이는 내부 공동체 링크를 선호한다.
• 초모수 조정이나 후속 차원 축소 없이도 비지도 방식으로 작동한다.
• 방향성 네트워크에서 플로우 압축의 방향성으로 인해 자연스럽게 비대칭 유사도를 생성한다.
• 최소 기술 길이 원리를 활용하여 압축 효율성으로써 유사도를 정량화한다.

실험 결과

연구 질문

• RQ1 압축 기반의 임베딩이 아닌 접근 방식이 최신 노드 임베딩 방법보다 링크 예측에서 뛰어난 성능을 낼 수 있는가?
• RQ2 모듈러 플로우 압축에 기반한 정보 이론적 유사도 측정법이 벡터 공간 기반 임베딩보다 더 정확하고 해석 가능한 결과를 도출할 수 있는가?
• RQ3 학습된 임베딩에 의존하지 않고도 이산적이고 비거리수학적 공간에서 비대칭 유사도를 효과적으로 포착할 수 있는가?
• RQ4 MapSim은 방향성 네트워크에서 대칭 임베딩이 성능을 떨어뜨리는 상황에서도 다양한 네트워크 유형에서 어떻게 성능을 발휘하는가?
• RQ5 플로우 압축을 통해 드러나는 공동체 구조는 국소적 위상 구조를 초월해 링크 예측을 얼마나 향상시키는가?

주요 결과

• MapSim는 47개의 실제 네트워크에서 가장 가까운 경쟁자보다 평균 7퍼센트 이상의 성능 향상을 달성했다.
• 평가된 47개 네트워크 중 11개에서 모든 임베딩 기반 방법보다 뛰어나며, 다양한 환경에서의 일관된 우수성을 입증했다.
• 초모수 조정, 모델 피팅, 차원 축소 없이도 높은 정확도를 달성했다.
• 방향성 플로우 압축의 특성으로 인해 MapSim은 자연스럽게 비대칭 유사도를 생성하며, 방향성 네트워크에서 성능 향상을 이룬다.
• MapSim의 정보 이론적 기반은 압축 효율성과 공동체 구조에 기반하여 해석 가능성을 제공한다.
• 결과적으로 압축 기반 방법은 그래프 표현 학습에서 임베딩 기반 접근 방식의 강력한 대안이 될 수 있음을 시사한다.