[논문 리뷰] A Family of Tractable Graph Distances

José Bento, Stratis Ioannidis|arXiv (Cornell University)|2018. 01. 12.

Complex Network Analysis Techniques인용 수 10

한 줄 요약

이 논문은 이중 확률 행렬 또는 직교 행렬 등의 구조적 행렬 집합 위에서 최적화를 통해 화학적 및 CKS 거리의 일반화를 통해 계산 가능하고 증명된 메트릭인 그래프 거리의 가족을 제안한다. 이는 볼록 최적화 또는 스펙트럼 방법을 통해 메트릭 성질과 계산 가능성을 보장하며, 노드 속성을 소프트 또는 하드 제약 조건으로 통합함으로써 이러한 보장을 훼손하지 않는다.

ABSTRACT

Important data mining problems such as nearest-neighbor search and clustering admit theoretical guarantees when restricted to objects embedded in a metric space. Graphs are ubiquitous, and clustering and classification over graphs arise in diverse areas, including, e.g., image processing and social networks. Unfortunately, popular distance scores used in these applications, that scale over large graphs, are not metrics and thus come with no guarantees. Classic graph distances such as, e.g., the chemical and the CKS distance are arguably natural and intuitive, and are indeed also metrics, but they are intractable: as such, their computation does not scale to large graphs. We define a broad family of graph distances, that includes both the chemical and the CKS distance, and prove that these are all metrics. Crucially, we show that our family includes metrics that are tractable. Moreover, we extend these distances by incorporating auxiliary node attributes, which is important in practice, while maintaining both the metric property and tractability.

연구 동기 및 목표

• 데이터 마이닝 및 머신 러닝 분야에서 확장 가능하고 증명된 메트릭인 그래프 거리의 부족을 해결한다.
• 화학적 및 CKS 거리와 같이 메트릭이지만 계산이 비효율적인 고전적 그래프 거리의 비효율성 문제를 해결한다.
• 메트릭성과 계산 가능성을 동시에 확보함으로써 대규모 그래프에서 메트릭 기반 알고리즘(예: 클러스터링, 근접 이웃 검색)의 실용적 적용을 가능하게 한다.
• 노드 속성(예: 나이, 원자 번호)을 그래프 거리에 통합하면서도 메트릭 성질과 계산 효율성을 유지한다.
• 구조적 또는 속성 제약 조건이 있을 경우에도 일반화된 그래프 거리가 여전히 메트릭임을 보장하는 이론적 조건을 제공한다.

제안 방법

• 일반적인 그래프 거리를 $ d_S(A,B) = \min_{P \in S} \|AP - PB\| $ 로 정의한다. 여기서 $ S $ 는 닫힘과 유계성을 만족하는 행렬 집합이며, $ \|\cdot\| $ 는 행렬 노름이다.
• 적절한 노름 조건 하에서 $ S $ 가 순열 행렬 $ \mathbb{P}^n $, 이중 확률 행렬 $ \mathbb{W}^n $, 또는 직교 행렬 $ \mathbb{O}^n $ 인 경우 $ d_S $ 가 의사메트릭임을 증명한다.
• S = $ \mathbb{W}^n $ 일 때는 볼록 최적화 문제로 축소되고, S = $ \mathbb{O}^n $ 일 때는 스펙트럼 분해(예: SVD)로 축소됨을 보여 이를 통해 대규모 그래프에서의 효율적 계산을 보장한다.
• 노드 속성을 소프트 페널티(예: 목적 함수 내에 포함) 또는 하드 제약 조건(예: 레이블 유지 보장)을 통해 프레임워크에 확장함으로써 메트릭성과 계산 가능성을 유지한다.
• 그래프 색칠법(예: Weisfeiler-Lehman)을 사용해 최적화의 희소성(스패arsity)을 유도함으로써 변수 수를 감소시키고 계산 속도를 향상시킨다.
• 합성 그래프와 실세계 네트워크를 사용해 실험적으로 방법을 검증하며, 비메트릭 기준과 정확한 화학적 거리와의 비교를 수행한다.

실험 결과

연구 질문

• RQ1 계산 가능하고 증명된 메트릭인 일반적인 그래프 거리의 가족을 정의할 수 있는가?
• RQ2 노드 속성을 메트릭 성질이나 확장성의 손실 없이 그래프 거리에 통합할 수 있는가?
• RQ3 삼각 부등식 위반(TIVs)이 클러스터링 성능에 얼마나 심각하게 악영향을 미치며, 메트릭 기반 거리와 비메트릭 거리 간의 성능 비교는 어떠한가?
• RQ4 Weisfeiler-Lehman 색칠에서 유도된 구조적 제약 조건이 정확도를 훼손하지 않고 계산 시간을 크게 줄일 수 있는가?
• RQ5 제안된 계산 가능한 거리가 정확한 화학적 거리와 유사도 및 클러스터링 성능 측면에서 얼마나 가까이 근접하는가?

주요 결과

• 이중 확률 행렬 $ \mathbb{W}^n $ 과 직교 행렬 $ \mathbb{O}^n $ 기반으로 제안된 거리는 표준 행렬 노름(예: 프로베니우스 노름 및 연산자 2-노름) 하에서 증명된 메트릭이다.
• S = $ \mathbb{W}^n $ 일 때 최적화는 볼록 프로그래밍을 통해 계산 가능하며, S = $ \mathbb{O}^n $ 일 때는 스펙트럼 분해를 통해 계산 가능하여 대규모 그래프에서의 효율적 계산이 가능하다.
• 노드 속성을 소프트 또는 하드 제약 조건으로 통합함으로써 메트릭성과 계산 가능성을 유지하며, 특성 유지를 고려한 그래프 비교를 가능하게 한다.
• 삼각 부등식 위반(TIVs)은 클러스터링 성능을 심각하게 악화시킨다: 단 1%의 TIVs만으로도 오분류율이 급격히 증가하지만, 메트릭 기반 거리는 강건한 성능을 유지한다.
• 제안된 방법은 정확한 화학적 거리와 높은 유사도를 보이며, DISTATIS 및 메타그래프의 간선 오버랩 측정 기준으로 평가된 바, 일부 변종(예: Natalie)은 정확한 메트릭에 더 가까운 성능을 보였다.
• Weisfeiler-Lehman 색칠을 사용해 제약 조건을 유도함으로써 최적화의 효과적 차원을 감소시켜 5,242개 노드를 가진 협업 그래프에서 수렴 속도를 최대 110배 향상시켰다.