[논문 리뷰] Statistical embedding for directed graphs.

Thorben Funke, Tian Guo외 2명|arXiv (Cornell University)|2019. 05. 24.

Morphological variations and asymmetry참고 문헌 24인용 수 1

한 줄 요약

이 논문은 방향성 그래프에 대한 새로운 통계적 임bedding을 제안하며, 각 노드를 통계 다양체 위의 확률 밀도 함수로 모델링하여 쌍별 상대 엔트로피를 최소화하고 비선형 방식으로 그래프 기하구조를 활용한다. 이 방법은 전역 기하구조를 우수하게 유지하며 비지도 설정에서 기존 모델보다 우수한 성능을 보인다.

ABSTRACT

We propose a novel node embedding of directed graphs to statistical manifolds, which is based on a global minimization of pairwise relative entropy and graph geodesics in a non-linear way. Each node is encoded with a probability density function over a measurable space. Furthermore, we analyze the connection between the geometrical properties of such embedding and their efficient learning procedure. Extensive experiments show that our proposed embedding is better in preserving the global geodesic information of graphs, as well as outperforming existing embedding models on directed graphs in a variety of evaluation metrics, in an unsupervised setting.

연구 동기 및 목표

• 기존 노드 임베딩 방법이 방향성 그래프의 전역 구조적 특성을 유지하는 데에 한계가 있음을 해결하기 위해.
• 비선형적이며 기하학적으로 기반을 둔 임베딩을 개발하여 방향성 그래프의 내재된 방향성 관계를 포착하기 위해.
• 통계 다양체를 통해 효율적인 노드 표현 학습을 가능하게 하면서도 전역 기하구조 유지성을 유지하기 위해.
• 비지도 학습 프레임워크를 활용하여 방향성 그래프의 후행 작업에서 성능을 향상시키기 위해.

제안 방법

• 각 노드는 가측 공간 위의 확률 밀도 함수로 표현되어 노드가 통계 다양체에 임bedding된다.
• 노드 분포 간 쌍별 상대 엔트로피를 최소화하여 전역 그래프 구조를 유지한다.
• 그래프 기하구조를 비선형적으로 통합하여 방향성 그래프의 내재 기하학을 유지한다.
• 상대 엔트로피와 기하구조 일致성의 균형을 맞추는 전역 최적화 과정을 통해 임베딩을 학습한다.
• 부드럽고 의미 있는 표현을 보장하기 위해 통계 다양체의 미분기하학을 활용한다.

실험 결과

연구 질문

• RQ1 통계 다양체 기반 임베딩이 기존 방법보다 방향성 그래프의 전역 기하구조를 더 효과적으로 유지할 수 있는가?
• RQ2 상대 엔트로피 최소화가 방향성 그래프에서 노드 표현 학습을 향상시키는 데에 어떤 기여를 하는가?
• RQ3 비선형 기하구조 통합이 비지도 노드 임베딩의 품질을 얼마나 향상시키는가?
• RQ4 구조적 유지성과 후행 작업 성능 측면에서 제안된 방법은 최첨단 모델과 어떻게 비교되는가?

주요 결과

• 제안된 임베딩은 비지도 설정에서 방향성 그래프에 대한 다양한 평가 지표에서 기존 모델을 능가한다.
• 기본 모델 대비 전역 기하구조 정보 유지가 더 뛰어나다.
• 통계 다양체 표현은 상대 엔트로피 최소화를 통해 효과적이고 효율적인 노드 임베딩 학습을 가능하게 한다.
• 기하구조 정보의 비선형 통합은 더 정확하고 강건한 노드 표현을 이끈다.