[논문 리뷰] KerGM: Kernelized Graph Matching

Zhen Zhang, Yijian Xiang외 3명|arXiv (Cornell University)|2019. 11. 25.

Advanced Graph Neural Networks인용 수 9

한 줄 요약

KerGM는 재생 커널 힐버트 공간(RKHS) 내에서 배열 정렬로 공식화하여 Koopmans-Beckmann의 QAP와 Lawler의 QAP를 통합하는 커널 기반 그래프 매칭 프레임워크를 제안한다. 이는 큰 $n^2 \times n^2$ 유사도 행렬을 명시적으로 계산하지 않으며, 상태 기반 정확도와 확장성을 갖춘 엔트로피 정규화된 프랭크-울프(EnFW) 알고리즘을 도입하여 영상 및 생물학적 그래프 매칭 벤치마크에서 최고 성능을 기록한다.

ABSTRACT

Graph matching plays a central role in such fields as computer vision, pattern recognition, and bioinformatics. Graph matching problems can be cast as two types of quadratic assignment problems (QAPs): Koopmans-Beckmann's QAP or Lawler's QAP. In our paper, we provide a unifying view for these two problems by introducing new rules for array operations in Hilbert spaces. Consequently, Lawler's QAP can be considered as the Koopmans-Beckmann's alignment between two arrays in reproducing kernel Hilbert spaces (RKHS), making it possible to efficiently solve the problem without computing a huge affinity matrix. Furthermore, we develop the entropy-regularized Frank-Wolfe (EnFW) algorithm for optimizing QAPs, which has the same convergence rate as the original FW algorithm while dramatically reducing the computational burden for each outer iteration. We conduct extensive experiments to evaluate our approach, and show that our algorithm significantly outperforms the state-of-the-art in both matching accuracy and scalability.

연구 동기 및 목표

• 작은 그래프에만 적용 가능한 $n^2 \times n^2$ 유사도 행렬 계산을 요구하는 Lawler의 QAP의 확장성 문제를 해결한다.
• 재생 커널 힐버트 공간(RKHS) 내에서 커널 유도 연산을 사용해 Koopmans-Beckmann의 QAP와 Lawler의 QAP를 통합하는 공통 프레임워크를 구축한다.
• 대규모 그래프 매칭에서 반복 계산 비용을 줄이면서도 수렴 속도를 유지하는 수치적으로 효율적인 최적화 알고리즘을 개발한다.
• 단백질-단백질 상호작용 네트워크 및 영상 기반 특징 대응과 같은 복잡한 간선 속성을 가진 실제 데이터셋에서 높은 정확도의 그래프 매칭을 가능하게 한다.
• QAP 최적화에서 국소 최적해 문제를 해결하기 위해 볼록에서 비볼록으로의 완화를 기반으로 한 경로 추적 전략을 도입한다.

제안 방법

• 힐버트 공간 내에서 배열 조작을 위한 $\mathcal{H}$-연산을 도입하여 Lawler의 QAP를 RKHS 내에서 Koopmans-Beckmann 유형의 정렬 문제로 재구성한다.
• 간선 유사도가 커널 구조를 가진다고 가정함으로써 커널 트릭과 RKHS 성질을 활용해 $n^2 \times n^2$ 유사도 행렬의 명시적 계산을 피할 수 있다.
• 표준 프랭크-울프와 동일한 수렴 속도를 유지하면서도 엔트로피 정규화를 통해 반복 계산 비용을 줄이는 엔트로피 정규화 프랭크-울프(EnFW) 알고리즘을 제안한다.
• QAP의 볼록에서 비볼록으로의 점진적 완화를 기반으로 한 경로 추적 전략을 구현하여 국소 최적해에 대한 민감도를 감소시킨다.
• 특히 대규모 PPI 네트워크에 적합하게 푸리에 무작위 특징을 사용해 커널 함수를 효율적으로 근사한다.
• 열화도 기반 간선 속성을 사용하여 영상 기반 그래프 매칭(CMU House, Pascal)과 생물학적 네트워크 정렬(S. cerevisiae PPI)에 모두 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 복잡한 간선 속성을 모델링할 수 있는 능력을 유지하면서도 $n^2 \times n^2$ 유사도 행렬의 명시적 계산을 피할 수 있는 방식으로 Lawler의 QAP를 재구성할 수 있는가?
• RQ2 재생 커널 힐버트 공간(RKHS) 내에서 커널 기반 프레임워크를 통해 Koopmans-Beckmann의 QAP와 Lawler의 QAP를 통합할 수 있는가?
• RQ3 엔트로피 정규화가 적용된 프랭크-울프 변종이 대규모 그래프 매칭에서 반복 계산 비용을 크게 줄이면서도 수렴 속도를 유지할 수 있는가?
• RQ4 볼록에서 비볼록으로의 완화를 기반으로 한 제안된 경로 추적 전략이 국소 최대값을 회피함으로써 해의 품질을 향상시키는가?
• RQ5 다양한 데이터셋에서 KerGM 프레임워크가 최고 성능(SOTA) 방법에 비해 매칭 정확도와 확장성 면에서 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• CMU House 데이터셋에서 KerGM-I는 FGM과 BPFG를 능가하는 최고의 매칭 정확도를 기록했으며, $n_1=20, n_2=30$ 조건에서 외곽선 노이즈가 있는 상황에서도 뛰어난 성능을 보였다.
• Pascal 데이터셋에서는 KerGM-I가 FGM과 BPFG의 정확도를 충족하거나 초월했으며, 특히 BPFG가 높은 계산 비용으로 인해 가장 느린 것으로 나타났다.
• 25%의 노이즈가 있는 S. cerevisiae PPI 네트워크에서 KerGM-II는 TAME, GHOST, MAGNA보다 50퍼센트 포인트 이상 높은 정확도를 기록하여 간선 노이즈에 대한 강건성을 입증했다.
• EnFW 알고리즘은 표준 프랭크-울프와 동일한 수렴 속도를 유지하면서도 반복 계산 부담을 줄여 더 큰 그래프에 대한 확장성을 가능하게 했다.
• $\mathcal{H}$-연산을 통한 커널 기반 공식화가 명시적 유사도 행렬 계산을 성공적으로 피함으로써 Lawler의 QAP를 대규모 그래프에 대해 실현 가능하게 했다.
• 볼록에서 비볼록으로의 완화를 기반으로 한 경로 추적 전략은 국소 최적해 민감도를 감소시켜 다양한 데이터셋에서 일관된 성능 향상을 보였다.