[논문 리뷰] Combinatorial Optimization by Decomposition on Hybrid CPU--non-CPU Solver Architectures

Ali Narimani, Seyed Saeed Changiz Rezaei외 1명|arXiv (Cornell University)|2017. 08. 11.

Formal Methods in Verification참고 문헌 19인용 수 6

한 줄 요약

이 논문은 대규모 최대 클리크 문제를 더 효율적으로 해결할 수 있도록 k-core 분해를 사용한 문제 분해 방법을 제안한다. 기존 그래프를 더 작고 조밀한 부분 문제로 줄임으로써, D-Wave 2000Q와 같은 21노드 비CPU 장치가 334,863개 정점을 가진 com-Amazon 그래프의 최대 클리크 문제를 해결할 수 있게 하며, 기존 알고리즘 대비 실행 시간을 수개의 주기수로 향상시킨다.

ABSTRACT

The advent of new special-purpose hardware such as FPGA or ASIC-based annealers and quantum processors has shown potential in solving certain families of complex combinatorial optimization problems more efficiently than conventional CPUs. We show that to address an industrial optimization problem, a hybrid architecture of CPUs and non-CPU devices is inevitable. In this paper, we propose problem decomposition as an effective method for designing a hybrid CPU--non-CPU optimization solver. We introduce the required algorithmic elements for making problem decomposition a viable approach in meeting the real-world constraints such as communication time and the potential higher cost of using non-CPU hardware. We then turn to the well-known maximum clique problem, and propose a new method of decomposition for this problem. Our method enables us to solve the maximum clique problem on very large graphs using non-CPU hardware that is considerably smaller than the size of the graph. As an example, we show that the maximum clique problem on the com-Amazon graph, with 334,863 vertices and 925,872 edges, can be solved with a single call to a device that can embed a fully connected graph of size at least 21 nodes, such as the D-Wave 2000Q. We also show that our proposed problem decomposition approach can improve the runtime of two of the best-known classical algorithms for large, sparse graphs, namely PMC and BBMCSP, by orders of magnitude. In the light of our study, we believe that new non-CPU hardware that is small in size could become competitive with CPUs if it could be either mass produced and highly parallelized, or able to provide high-quality solutions to specific, small-sized problems significantly faster than CPUs.

연구 동기 및 목표

• 기존 CPU에서 해결하기 어려운 대규모 조합 최적화 문제를 양자 안내기 및 디지털 안내기와 같은 신규 비CPU 하드웨어를 활용하여 해결하고자 한다.
• 비CPU 하드웨어의 크기가 제한된 상황에서도 복잡한 최적화 문제를 해결할 수 있도록 CPU와 비CPU 장치를 조합한 실용적인 하이브리드 아키텍처를 설계하고자 한다.
• 비CPU 장치가 대규모 인스턴스를 해결할 수 있도록 하며, 부분 문제 수와 통신 오버헤드를 최소화하는 문제 분해 전략을 개발하고자 한다.
• 특히 희박한 그래프에 대해 NP-완전 최대 클리크 문제에 대한 분해 전략의 효과를 입증하고자 한다.
• 비CPU 하드웨어가 소형이지만 적절히 선택된 부분 문제에 대해 고속·고품질 솔루션을 제공할 경우, CPU와 경쟁할 수 있음을 보여주고자 한다.

제안 방법

• 이 방법은 입력 그래프를 반복적으로 더 작고 조밀한 부분 그래프로 분할하기 위해 k-core 분해를 사용하여 최대 클리크 문제를 다수의 더 작은 인스턴스로 환원한다.
• 각 부분 문제는 원본 그래프의 k-core에서 유도되며, 부분 그래프가 조밀하고 비CPU 하드웨어의 큐비트 또는 노드 수 제한을 고려할 수 있도록 보장한다.
• DSATUR 색칠 알고리즘을 적용하여 각 부분 문제의 최대 클리크 크기 상한을 추정함으로써, 전역 최대 클리크를 포함할 수 없는 부분 문제를 제거한다.
• 분해 과정은 다항 시간 내에 수행되며, 분할 정복과 같은 지수적 방법에 비해 확장성과 낮은 오버헤드를 보장한다.
• 이 방법은 비CPU 장치가 최소 21노드의 완전 연결 그래프를 임bedding할 수 있는 단일 호출로 매우 큰 그래프에서 최대 클리크 문제를 해결할 수 있도록 한다 (예: D-Wave 2000Q).
• 이 방법은 PMC 및 BBMCSP와 같은 기존 솔버와 통합되며, 희박한 큰 그래프에서 이 솔버의 실행 시간을 수개의 주기수로 가속화한다.

실험 결과

연구 질문

• RQ1 소규모 비CPU 하드웨어의 적용 범위를 대규모 조합 최적화 문제로 확장할 수 있는가?
• RQ2 하이브리드 CPU–비CPU 아키텍처에서 부분 문제 수와 통신 비용을 최소화하기 위해 분해 전략을 어떻게 설계할 수 있는가?
• RQ3 그래프의 조밀함이 최대 클리크 문제에 대한 k-core 기반 분해의 효과성에 어떤 영향을 미치는가?
• RQ4 분해 기반 방법이 부분 문제 생성 및 실행 시간 측면에서 기존 분할 정복 접근법보다 우월한가?
• RQ5 소형 전용 비CPU 하드웨어가 어떤 조건에서 대규모 최적화 문제 해결에서 CPU와 경쟁력을 갖출 수 있는가?

주요 결과

• com-Amazon 그래프(334,863개 정점, 925,872개 간선)의 최대 클리크 문제는 D-Wave 2000Q와 같이 최대 21노드 완전 연결 그래프를 지원하는 비CPU 장치에 단일 호출로 해결할 수 있다.
• 제안된 분해 방법은 특히 조밀한 영역에서 기존 분할 정복 접근법에 비해 부분 문제 수를 크게 감소시킨다.
• 큰 희박한 그래프에서는 PMC 및 BBMCSP와 같은 기존 알고리즘의 실행 시간이 수개의 주기수로 향상된다.
• 부분 문제 수는 그래프의 조밀함에 따라 유리하게 스케일링되며, DSATUR 색칠을 통한 효과적인 제거로 인해 매우 희박한 그래프(조밀도 < 0.2)에서는 0으로 떨어진다.
• 비CPU 하드웨어 크기를 45에서 65노드로 증가시켜도 부분 문제 수 감소에 미미한 영향을 미치며, 이는 수익 감소 현상을 시사한다.
• 이 방법은 다항 시간 부분 문제 생성과 상한을 통한 제거를 통해 확장성과 실용성을 확보하여 실제 도입에 적합하다.