[논문 리뷰] GOT: An Optimal Transport framework for Graph comparison

Hermina Petric Maretić, Mireille El Gheche외 2명|arXiv (Cornell University)|2019. 06. 05.

Complex Network Analysis Techniques참고 문헌 48인용 수 41

한 줄 요약

GOT는 그래프의 스무스한 그래프 신호 분포를 그래프 Laplacian을 통해 비교하여 최적 수송 기반의 거리로 그래프를 비교하고, 순열에 독립적으로 그래프를 정렬(permutation-agnostic alignment)을 가능하게 하며, 정렬, 분류 및 신호 전달 작업에서의 개선을 보여준다.

ABSTRACT

We present a novel framework based on optimal transport for the challenging problem of comparing graphs. Specifically, we exploit the probabilistic distribution of smooth graph signals defined with respect to the graph topology. This allows us to derive an explicit expression of the Wasserstein distance between graph signal distributions in terms of the graph Laplacian matrices. This leads to a structurally meaningful measure for comparing graphs, which is able to take into account the global structure of graphs, while most other measures merely observe local changes independently. Our measure is then used for formulating a new graph alignment problem, whose objective is to estimate the permutation that minimizes the distance between two graphs. We further propose an efficient stochastic algorithm based on Bayesian exploration to accommodate for the non-convexity of the graph alignment problem. We finally demonstrate the performance of our novel framework on different tasks like graph alignment, graph classification and graph signal prediction, and we show that our method leads to significant improvement with respect to the-state-of-art algorithms.

연구 동기 및 목표

• 전역 구조를 고려하는 의미 있는 그래프 거리를 제시한다.
• 그래프를 표현하기 위해 매끄러운 그래프 신호 분포를 활용한다.
• 알 수 없는 노드 대응 하에서 효율적인 OT 기반 그래프 정렬 방법을 개발한다.
• 그래프 정렬, 분류 및 신호 전달 작업에서 GOT의 효과를 보여준다.

제안 방법

• 그래프 신호를 각 그래프의 라플라시앙 의사역행행렬로 주어진 공분산을 갖는 가우시안 분포로 모델링한다.
• 이러한 신호 분포 간의 2-Wasserstein 거리를 정의하고 라플라시안으로 표현된 명시적 해를 도출한다.
• 두 번째 그래프의 순열 표현에 대해 Wasserstein 거리를 최소화하는 방향으로 그래프 정렬 문제를 형식화한다.
• 이산적 순열 제약을 그라디언트 기반 최적화를 가능하게 하는 연속적 Sinkhorn 기반 이완으로 변환한다.
• 좋지 않은 국소해를 피하기 위해 베이지안 탐색을 포함한 확률적 그라디언트 접근법을 사용한다.
• Sinkhorn 연산자를 사용하여 순열 행렬에 사영하고 미분 가능한 최적화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 그래프 간 거리가 국부 엣지 변화 이상의 전역 구조 정보를 어떻게 포착할 수 있는가?
• RQ2 알려지지 않은 노드 정렬 하에서 매끄러운 그래프 신호 분포가 그래프를 비교하기 위한 의미 있는 기초를 제공할 수 있는가?
• RQ3 신호 분포 간의 Wasserstein 거리를 최소화하는 그래프 정렬을 효율적으로 계산하고 최적화하는 것이 가능한가?
• RQ4 전송 맵을 그래프 간의 실용적인 그래프 신호 예측에 사용할 수 있는가?

주요 결과

• 제안된 Wasserstein 기반 거리는 전역 그래프 구조를 포착하고 그래프 정렬 및 클러스터링 작업에서 유클리드 및 그로모프-워셔스타인 거리보다 우수하다.
• GOT는 알려지지 않은 순열 하에서 정확한 그래프 정렬과 섭동 하에서의 강건한 커뮤니티 복구를 가능하게 한다.
• 전송 맵은 그래프 간 신호를 예측하거나 전달하는 데 사용할 수 있으며, 이미지 유사 데이터(MNIST, Fashion MNIST)에서 시연된다.
• Sinkhorn 이완을 이용한 확률적 최적화 approach은 비볼록 정렬 문제를 효과적으로 해결하고 그래프 크기에 따라 확장된다.