[논문 리뷰] High-Quality Hypergraph Partitioning

Sebastian Schlag|arXiv (Cornell University)|2020. 01. 01.

VLSI and FPGA Design Techniques참고 문헌 113인용 수 16

한 줄 요약

이 논문은 고급 코arsening, 리파인먼트 및 멜레틱 알고리즘을 갖춘 n-레벨 다중 수준 프레임워크를 도입한 오픈소스 초그래프 분할 프레임워크인 KaHyPar를 제시한다. 다양한 초그래프에서 컷넷 및 연결성 메트릭 모두에서 뛰어난 솔루션 품질과 속도를 달성하며, hMETIS, PaToH, Mondriaan, Zoltan-AlgD, HYPE 및 KaFFPa를 모두 능가한다.

ABSTRACT

This dissertation focuses on computing high-quality solutions for the NP-hard $ extit{balanced hypergraph partitioning problem}$ : Given a hypergraph and an integer $k$, partition its vertex set into $k$ disjoint blocks of bounded size, while minimizing an objective function over the hyperedges. Here, we consider the two most commonly used objectives: the $ extit{cut-net}$ metric and the $ extit{connectivity}$ metric. Since the problem is computationally intractable, heuristics are used in practice -- the most prominent being the three-phase multi-level paradigm: During coarsening, the hypergraph is successively contracted to obtain a hierarchy of smaller instances. After applying an initial partitioning algorithm to the smallest hypergraph, contraction is undone and, at each level, refinement algorithms try to improve the current solution. With this work, we give a brief overview of the field and present several algorithmic improvements to the multi-level paradigm. Instead of using a logarithmic number of levels like traditional algorithms, we present two coarsening algorithms that create a hierarchy of (nearly) $n$ levels, where $n$ is the number of vertices. This makes consecutive levels as similar as possible and provides many opportunities for refinement algorithms to improve the partition. This approach is made feasible in practice by tailoring all algorithms and data structures to the $n$-level paradigm, and developing lazy-evaluation techniques, caching mechanisms and early stopping criteria to speed up the partitioning process. Furthermore, we propose a sparsification algorithm based on locality-sensitive hashing that improves the running time for hypergraphs with large hyperedges, and show that incorporating global information about the community structure into the coarsening process improves quality. Moreover, we present a portfolio-based initial partitioning approach, and propose three refinement algorithms. Two are based on the Fiduccia-Mattheyses (FM) heuristic, but perform a highly localized search at each level. While one is designed for two-way partitioning, the other is the first FM-style algorithm that can be efficiently employed in the multi-level setting to directly improve $k$-way partitions. The third algorithm uses max-flow computations on pairs of blocks to refine $k$-way partitions. Finally, we present the first memetic multi-level hypergraph partitioning algorithm for an extensive exploration of the global solution space. All contributions are made available through our open-source framework KaHyPar. In a comprehensive experimental study, we compare KaHyPar with hMETIS, PaToH, Mondriaan, Zoltan-AlgD, and HYPE on a wide range of hypergraphs from several application areas. Our results indicate that KaHyPar, already without the memetic component, computes better solutions than all competing algorithms for both the cut-net and the connectivity metric, while being faster than Zoltan-AlgD and equally fast as hMETIS. Moreover, KaHyPar compares favorably with the current best graph partitioning system KaFFPa -- both in terms of solution quality and running time.

연구 동기 및 목표

• 개선된 솔루션 품질과 효율성을 바탕으로 NP-난이도의 균형 잡힌 초그래프 분할 문제를 해결하기 위해.
• 기존의 로그 수준의 다중 수준 분할 방식의 한계를 극복하기 위해, 로그 수준이 아닌 n-레벨 코어닝 계층을 도입하기 위해.
• 대규모 초모선을 위한 전역 커뮤니티 구조와 국소 감지 해싱을 통합하여 분할 품질을 향상시키기 위해.
• k-웨이 분할에 특화된 효율적인 리파인먼트 알고리즘을 개발하기 위해, FM-스타일 및 최대 유량 기반 방법을 포함한다.
• 새로운 멜레틱 다중 수준 알고리즘을 통해 솔루션 공간의 광범위한 전역 탐색을 가능하게 하기 위해.

제안 방법

• 연속된 레벨 간의 유사도를 최대화하는 두 가지 신규 코어닝 알고리즘을 사용해 거의 n-레벨의 코어닝 계층을 설계한다.
• n-레벨 환경에서의 성능 최적화를 위해 레이지 평가, 캐싱 및 조기 정지 기법을 구현한다.
• 대규모 초모선을 처리하는 데 속도를 높이기 위해 국소 감지 해싱 기반의 스퍼스피케이션 기법을 도입한다.
• 코어닝 단계에 전역 커뮤니티 구조를 통합하여 더 나은 초기 분할 결정을 유도한다.
• 다양한 시작 솔루션을 확보하기 위해 포트폴리오 기반의 초기 분할 전략을 제안한다.
• 세 가지 리파인먼트 알고리즘을 개발한다: 두 가지 FM-스타일 휴리스틱(이중 분할용, k-웨이 분할용)과 k-웨이 리파인먼트를 위한 최대 유량 기반 방법.

실험 결과

연구 질문

• RQ1 n-레벨 다중 수준 프레임워크는 로그 수준의 접근 방식에 비해 초그래프 분할 품질을 크게 향상시킬 수 있는가?
• RQ2 코어닝 단계에서 전역 커뮤니티 구조를 통합할 경우 솔루션 품질에 어떤 영향을 미치는가?
• RQ3 국소 감지 해싱 스퍼스피케이션 기법은 대규모 초모선을 가진 초그래프에서 실행 시간을 얼마나 줄일 수 있는가?
• RQ4 FM-스타일 리파인먼트는 다중 수준 환경에서 직접 k-웨이 분할 향상을 위해 효과적으로 적응될 수 있는가?
• RQ5 멜레틱 다중 수준 알고리즘은 초그래프 분할에서 뛰어난 전역 탐색과 솔루션 품질을 가능하게 하는가?

주요 결과

• KaHyPar는 컷넷 및 연결성 메트릭 모두에서 hMETIS, PaToH, Mondriaan, Zoltan-AlgD 및 HYPE를 뛰어넘는 솔루션 품질을 달성한다.
• 멜레틱 구성 요소 없이도, KaHyPar는 모든 벤치마크 초그래프에서 모든 경쟁 알고리즘보다 더 나은 솔루션을 도출한다.
• KaHyPar는 Zoltan-AlgD보다 빠르며, hMETIS와 동일한 속도로 실행되어 높은 효율성을 입증한다.
• n-레벨 코어닝 접근 방식은 레벨 간의 더 세밀한 유사도 덕분에 보다 효과적인 리파인먼트를 가능하게 한다.
• 제안된 FM-스타일 k-웨이 리파인먼트 알고리즘은 다중 수준 분할에서 직접적인 k-웨이 향상을 위한 첫 번째 효율적인 FM 기반 방법이다.
• 멜레틱 다중 수준 알고리즘은 광범위한 전역 탐색을 가능하게 하여 표준 리파인먼트를 초월해 솔루션 품질을 더욱 향상시킨다.