[논문 리뷰] Consistency of Cheeger and Ratio Graph Cuts

Nicolás García Trillos, Dejan Slepčev외 3명|arXiv (Cornell University)|2014. 11. 24.

Topological and Geometric Data Analysis참고 문헌 29인용 수 25

한 줄 요약

이 논문은 표본 크기가 증가함에 따라 이산 그래프 컷의 최소화자가 연속 컷의 최소화자로 수렴함을 증명함으로써 체거 및 비율 그래프 컷의 일致성을 확립한다. 감마수렴을 이용해 두 방향 및 다중 방향 분할 모두에 대해 수렴을 보장하는 연결성 반경 $\varepsilon_n$에 대한 정밀한 스케일링 조건을 유도하였으며, 수치 실험을 통해 다양한 스케일링 체제 하에서 오차의 감소를 확인하였다.

ABSTRACT

This paper establishes the consistency of a family of graph-cut-based algorithms for clustering of data clouds. We consider point clouds obtained as samples of a ground-truth measure. We investigate approaches to clustering based on minimizing objective functionals defined on proximity graphs of the given sample. Our focus is on functionals based on graph cuts like the Cheeger and ratio cuts. We show that minimizers of the these cuts converge as the sample size increases to a minimizer of a corresponding continuum cut (which partitions the ground truth measure). Moreover, we obtain sharp conditions on how the connectivity radius can be scaled with respect to the number of sample points for the consistency to hold. We provide results for two-way and for multiway cuts. Furthermore we provide numerical experiments that illustrate the results and explore the optimality of scaling in dimension two.

연구 동기 및 목표

• 랜덤 점 클라우드 상에서 그래프 컷 기반 클러스터링 알고리즘의 이론적 일치성을 확립하기 위해.
• 이산 그래프 컷이 연속 극한으로 수렴함을 보장하는 데 필요한 연결성 반경 $\varepsilon_n$의 정밀한 스케일링 조건을 규명하기 위해.
• 체거 및 비율 컷을 통한 두 방향 및 다중 방향 클러스터링에 대한 일치성 결과를 확장하기 위해.
• 다양한 $\varepsilon_n$ 스케일링 체제 하에서 이론적 결과를 수치 실험을 통해 검증하기 위해.
• 그래프가 비연결이 되더라도 최소화가 거대성분에 국한될 경우 일치성이 유지되는지 탐색하기 위해.

제안 방법

• 대규모 표본 근처에서 이산 그래프 컷 함수의 극한을 분석하기 위해 변분 프레임워크로 감마수렴을 사용한다.
• 반경 $\varepsilon_n$을 가진 근접성 그래프 상에서 체거 및 비율 컷 기반의 이산 목적 함수를 정의한다.
• 기저 측도 $\nu$ 위에서 체거 또는 비율 컷의 최소화에 대응하는 연속 극한 함수를 구성한다.
• 랜덤 기하 그래프 이론의 결과를 적용하여 다양한 $\varepsilon_n$ 스케일링 하에서 연결성 및 성분 구조를 특성화한다.
• 그래프 $\mathcal{G}_n$이 비연결일 경우 최적화를 거대성분 $\mathcal{H}_n$에 국한시키는 수정된 알고리즘을 구현하며, 고립된 정점은 균일하게 무작위로 할당한다.
• 최대 $128k$개의 점을 가진 수치 실험을 통해 평균 오차 $\mathbb{E}(e_n)$를 측정하고 $\varepsilon_n$ 스케일링 체제 간 수렴 속도를 평가한다.

실험 결과

연구 질문

• RQ1 표본 수 $n \to \infty$일 때, 이산 체거 컷의 최소화자가 연속 체거 컷의 최소화자로 수렴하기 위한 $\varepsilon_n$에 대한 조건은 무엇인가?
• RQ2 감마수렴을 통해 두 방향 및 다중 방향 그래프 컷 모두에 대해 일치성을 확립할 수 있는가?
• RQ3 일치성을 확보하기 위해 $\varepsilon_n$이 $n$에 대해 최적의 스케일링은 어떻게 되는가? 특히 연결성 임계점 근처에서의 경우를 포함하여.
• RQ4 그래프가 비연결이 되더라도 최적화가 거대성분에 국한될 경우 일치성이 유지되는가?
• RQ5 강한 연결, 약한 연결, 또는 약한 비연결 상태의 다양한 $\varepsilon_n$ 스케일링 체제가 실질적인 수렴에 어떤 영향을 미치는가?

주요 결과

• 적절한 $\varepsilon_n$ 스케일링 하에서, 이산 체거 및 비율 컷의 최소화자는 $n \to \infty$일 때 연속 컷의 최소화자로 수렴한다.
• 두 방향 컷의 경우 $\varepsilon_n \sim n^{-0.3}$일 때 일치성이 성립하며, 이는 강한 연결 체제 내에 속한다.
• $\varepsilon_n = n^{-0.3}$일 때 오차 $\mathbb{E}(e_n)$는 $n$에 대해 다항식적으로 감소하며, $n=1k$에서 0.0778에서 $n=128k$에서 0.0161로 감소한다.
• 비연결 임계 스케일링인 $\varepsilon_n = (\log n / (\pi n))^{1/2}$ 하에서도 오차 $\mathbb{E}(e_n)$는 $n=1k$에서 0.3243에서 $n=64k$에서 0.0442로 감소하여, 약한 비연결 체제에서도 일치성이 가능할 것으로 시사한다.
• 알고리즘의 성능은 다양한 체제에서 뛰어난 안정성을 보이며, $\varepsilon_n = 2(\log n / (\pi n))^{1/2}$일 때도 유사한 오차 감소가 관찰되어, 그래프의 구조적 성질이 수렴에 미치는 영향은 제한적임을 시사한다.
• 수치 결과는 거의확실한 수렴을 증명하진 않지만, 마르코프 부등식을 통해 확률적 수렴을 지지하며, 연결성 임계점에서도 일치성이 성립할 수 있음을 시사한다.