[논문 리뷰] How can we naturally order and organize graph Laplacian eigenvectors?

Naoki Saito|arXiv (Cornell University)|2018. 01. 21.

Advanced Graph Neural Networks참고 문헌 10인용 수 6

한 줄 요약

이 논문은 그래프 라플라시안 고유벡터를 자연스럽게 순서 정리하고 조직화하기 위해 램피티드 최적 운반(Ramified Optimal Transport, ROT) 이론을 활용하여 고유벡터 간의 내재적 거리를 정의하고, 다차원 척도화(Multidimensional Scaling, MDS)를 통해 저차원 임베딩을 수행하는 새로운 방법을 제안한다. 고유값 기반 순서 정렬 방식은 복잡한 그래프에서 진짜 주파수 성분을 반영하지 못하는 데 반해, 본 방법은 물리적으로 의미 있는 기하학적 일관성 있는 구조를 드러내며, 합성 격자와 생물학적 신경수 나무 구조에서 이를 입증하였다.

ABSTRACT

When attempting to develop wavelet transforms for graphs and networks, some researchers have used graph Laplacian eigenvalues and eigenvectors in place of the frequencies and complex exponentials in the Fourier theory for regular lattices in the Euclidean domains. This viewpoint, however, has a fundamental flaw: on a general graph, the Laplacian eigenvalues cannot be interpreted as the frequencies of the corresponding eigenvectors. In this paper, we discuss this important problem further and propose a new method to organize those eigenvectors by defining and measuring "natural" distances between eigenvectors using the Ramified Optimal Transport Theory followed by embedding them into a low-dimensional Euclidean domain. We demonstrate its effectiveness using a synthetic graph as well as a dendritic tree of a retinal ganglion cell of a mouse.

연구 동기 및 목표

• 스펙트럴 그래프 웨이브릿에서 그래프 라플라시안 고유값을 주파수의 대리자로 사용하는 데서 기인하는 근본적인 결함을 해결한다.
• 2D 격자나 수상수 나무와 같은 복잡한 그래프에서 주파수-고유값 대응의 단절 문제를 해결한다.
• 고유값 순서에 종속되지 않는 물리적으로 의미 있는 고유벡터의 내재적 순서를 개발한다.
• 고유벡터를 기하학적 구조를 가진 이중 도메인으로 정렬함으로써 일반 그래프에 대해 진정된 리틀우드-폴리형 웨이브릿을 구축할 수 있도록 한다.

제안 방법

• 각 라플라시안 고유벡터를 그 제곱 성분을 사용해 확률 측도로 변환하고, 총합이 1이 되도록 정규화한다.
• 공통 루트에서의 운반 비용을 기반으로 고유벡터 간의 '자연스러운' 거리를 계산하기 위해 램피티드 최적 운반(Ramified Optimal Transport, ROT) 이론을 적용한다.
• 모든 고유벡터 쌍 간의 ROT 기반 운반 비용으로부터 거리 행렬을 구성한다.
• 고유벡터를 ROT에 의해 유도된 거리를 유지하는 저차원 유클리드 공간(R² 또는 R³ 등)에 임베딩하기 위해 고전적 다차원 척도화(Multidimensional Scaling, MDS)를 사용한다.
• 임베딩을 조정하기 위해 매개변수 α ∈ [0,1]을 활용하여 고유벡터 에너지가 운반 비용 계산에 미치는 영향을 조절한다.
• 안정성 평가를 위해 ℓ¹ 정규화 또는 최소값을 빼는 방식의 확장과 같은 다른 확률 측도 구성 방법을 탐색한다.

실험 결과

연구 질문

• RQ1 그래프 라플라시안 고유벡터에 대해 고유값 단조성에 의존하지 않는 물리적으로 의미 있는 내재적 순서를 어떻게 정의할 수 있는가?
• RQ2 램피티드 최적 운반이 고유벡터 간의 功能적 및 기하학적 유사성을 반영하는 자연스러운 메트릭을 제공할 수 있는가?
• RQ3 결과로 도출된 저차원 임베딩이 전역 대비 局부 모드와 같은 다중 척도적 구조를 해석 가능하게 드러내는가?
• RQ4 이 방법을 통해 고유벡터를 이진 주파수 대역으로 정렬함으로써 그래프에서 진정된 리틀우드-폴리 이론을 가능하게 할 수 있는가?
• RQ5 임베딩 품질은 매개변수 α의 선택과 입력 확률 측도의 구성에 얼마나 민감한가?

주요 결과

• P₇×P₃ 격자에서 ROT-MDS 임베딩은 DC 벡터를 중심으로 고유벡터의 짝수 및 홀수 진동이 대칭적으로 배열된 2차원 구조를 드러내어 기하학적 일관성을 확인하였다.
• 마우스 망막 간상세포의 수상수 나무 구조(n=1154개 노드)에서 3차원 임베딩은 뒤집힌 박스 모양의 세 다리가 있는 형태로, λ < 4인 전역 진동 고유벡터와 λ > 4인 국소화된 고유벡터가 관절 부근에서 명확히 분리됨을 보였다.
• Fiedler 벡터(λ₁)는 항상 임베딩에서 DC 벡터로부터 멀리 떨어져 있어, 저주파수 모드와 첫 번째 비상수 모드 사이의 자연스러운 분리가 이루어짐을 시사했다.
• α=0.5일 경우 균형 임베딩이 도출되었고, α=1일 경우 DC 벡터 부근에 혼잡함이 발생하여 매개변수 선택에 민감함을 확인하였다.
• 본 방법은 고유벡터의 계단형 전이 행동을 성공적으로 드러내었으며, λ < 4이면 반구역 진동을, λ > 4이면 분지점에서 국소화된 진동을 보임을 확인하였다.
• 고유벡터 성분의 제곱을 확률 측도로 사용함으로써 안정적이고 해석 가능한 운반 비용 계산이 가능했으며, 비주얼 일관성 면에서 다른 정규화 방법보다 뛰어났다.