[논문 리뷰] Graph reduction with spectral and cut guarantees

Andreas Loukas|arXiv (Cornell University)|2018. 08. 31.

Sparse and Compressive Sensing Techniques참고 문헌 56인용 수 7

한 줄 요약

이 논문은 원본 그래프 라플라시안의 고유공간을 유지함으로써 강력한 스펙트럼 및 컷 보장을 보장하는 제한된 스펙트럼 근사에 기반한 새로운 그래프 군집화 프레임워크를 제안한다. 제안된 국소 변동 알고리즘은 최신 기술 대비 최대 3.9배 향상된 스펙트럼 근사도를 달성하면서도 거의 선형 시간 복잡도를 유지하여 기계학습 및 그래프 처리 파이프라인에서 효율적이고 증명 가능한 정확도를 갖춘 그래프 축소를 가능하게 한다.

ABSTRACT

Can one reduce the size of a graph without significantly altering its basic properties? The graph reduction problem is hereby approached from the perspective of restricted spectral approximation, a modification of the spectral similarity measure used for graph sparsification. This choice is motivated by the observation that restricted approximation carries strong spectral and cut guarantees, and that it implies approximation results for unsupervised learning problems relying on spectral embeddings. The paper then focuses on coarsening---the most common type of graph reduction. Sufficient conditions are derived for a small graph to approximate a larger one in the sense of restricted similarity. These findings give rise to nearly-linear algorithms that, compared to both standard and advanced graph reduction methods, find coarse graphs of improved quality, often by a large margin, without sacrificing speed.

연구 동기 및 목표

• 기존 그래프 축소 방법에서 이론적 보장의 부족, 특히 군집화에서의 부족을 해결하기 위해.
• 원본 그래프의 핵심 스펙트럼 및 구조적 성질을 유지하는 체계적인 그래프 군집화 접근법을 개발하기 위해.
• 새로운 제한된 스펙트럼 유사도 측정법을 통해 스펙트럼 근사도와 컷 보존에 대한 증명 가능한 경계를 제공하기 위해.
• 실제로 표준 및 고급 군집화 기법보다 뛰어난 성능을 보이는 효율적인 거의 선형 시간 알고리즘을 설계하기 위해.
• 직관적인 그래프 축소 히وري스틱과 이론적으로 기반을 둔 근사 보장 간 격차를 메우기 위해.

제안 방법

• 스펙트럼 유사도의 부분공간 제한 버전인 제한된 스펙트럼 근사도를 새로운 그래프 축소 측정법으로 제안하여 강력한 스펙트럼 및 컷 보장을 보장한다.
• 어떤 수준의 군집화에도 적용 가능한, 원본 그래프를 제한된 스펙트럼 의미에서 근사할 수 있는 군집화 그래프에 대한 충분조건을 유도한다.
• 국소 스펙트럼 변동을 기반으로 하여 원본 그래프의 고유공간에서의 편차를 최소화하는 방식으로 수축 집합을 탐색하는 국소 변동 알고리즘을 도입한다.
• 이웃 기반 또는 간선 기반 구조를 사용해 국소 변동 비용을 효율적으로 계산함으로써 거의 선형 시간 복잡도를 달성한다.
• 전반적인 근사 경계를 국소적, 각 수축 집합 기반 기여로 분리하여 확장 가능하고 모듈러한 계산을 가능하게 한다.
• 예비 정의된 후보 수축 집합(예: 인접한 정점 쌍)을 기반으로 탐욕 전략을 적용하여 증명 가능한 근사 품질을 갖는 군집화 그래프를 구축한다.

실험 결과

연구 질문

• RQ1 수정된 스펙트럼 유사도 측정법을 사용해 그래프 군집화를 증명 가능한 스펙트럼 및 컷 보장으로 형식화할 수 있는가?
• RQ2 어떤 조건이 수많은 군집화 수준에 관계없이 원본 그래프를 제한된 스펙트럼 의미에서 근사할 수 있도록 보장하는가?
• RQ3 이론적 보장을 갖춘 높은 품질의 군집화를 달성하기 위해 효율적이고 거의 선형 시간 복잡도의 알고리즘을 어떻게 설계할 수 있는가?
• RQ4 제안된 방법은 기존 최신 기술 대비 스펙트럼 근사도 및 컷 보존 측면에서 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ5 제한된 스펙트럼 근사도를 활용해 스펙트럼 클러스터링 및 라플라시안 고유매핑과 같은 후행 작업에서 우수한 성능을 달성할 수 있는가?

주요 결과

• 국소 변동 알고리즘은 평균적으로 최신 기술 대비 최대 3.9배 향상된 스펙트럼 근사도를 달성하며, 특히 높은 축소 비율(r = 70%)에서 두드러진다.
• 70%의 축소 비율 조건에서도 고유값 오차가 수용 가능한 수준을 유지하여 크기가 크게 감소함에도 불구하고 강력한 스펙트럼 보존이 이루어짐을 시사한다.
• 제안된 방법은 거의 선형 시간 복잡도를 유지하며, 실행 시간이 간선 수에 대해 준선형적으로 증가하여 더 복잡한 대안들보다 효율성 면에서 뛰어나다.
• 스펙트럼 근사도 및 행렬 근사도 실험에서 동일한 메서드 순위가 일관되게 나타나 국소 변동 접근법의 강건성을 확인한다.
• 제한된 스펙트럼 근사도에 대한 이론적 경계는 국소적으로 분리 가능하여 각 수축 집합 분석을 통해 효율적인 계산이 가능하다.
• 결과는 국소 변동을 최소화할 경우 강력한 스펙트럼 근사도가 달성됨을 확인하며 이론적 프레임워크의 타당성을 검증한다.