[논문 리뷰] GAMA: A Novel Algorithm for Non-Convex Integer Programs

Hedayat Alghassi, Raouf Dridi외 1명|arXiv (Cornell University)|2019. 07. 25.

Quantum Computing Algorithms and Architecture참고 문헌 20인용 수 6

한 줄 요약

이 논문은 구조적 행렬에 대해 그레이버 기반과 다중 초기 탄소 해를 활용하여 비볼록 정수계획문제를 해결하는 새로운 고전적 알고리즘인 GAMA를 제안한다. 구조적 행렬에 대해 그레이버 기반 원소를 체계적으로 계산하고, 다수의 시드로부터 증강을 수행함으로써, 이는 이차할당문제(QAP)에서 구로비(Gurobi)보다 최대 4,407배 빠른 최적해를 도출한다. 특히 상용 솔버가 실패하는 큰 크기 또는 어려운 인스턴스에서 뛰어난 성능을 보인다.

ABSTRACT

Inspired by the decomposition in the hybrid quantum-classical optimization algorithm we introduced in arXiv:1902.04215, we propose here a new (fully classical) approach to solving certain non-convex integer programs using Graver bases. This method is well suited when (a) the constraint matrix $A$ has a special structure so that its Graver basis can be computed systematically, (b) several feasible solutions can also be constructed easily and (c) the objective function can be viewed as many convex functions quilted together. Classes of problems that satisfy these conditions include Cardinality Boolean Quadratic Problems (CBQP), Quadratic Semi-Assignment Problems (QSAP) and Quadratic Assignment Problems (QAP). Our Graver Augmented Multi-seed Algorithm (GAMA) utilizes augmentation along Graver basis elements (the improvement direction is obtained by comparing objective function values) from these multiple initial feasible solutions. We compare our approach with a best-in-class commercially available solver (Gurobi). Sensitivity analysis indicates that the rate at which GAMA slows down as the problem size increases is much lower than that of Gurobi. We find that for several instances of practical relevance, GAMA not only vastly outperforms in terms of time to find the optimal solution (by two or three orders of magnitude), but also finds optimal solutions within minutes when the commercial solver is not able to do so in 4 or 10 hours (depending on the problem class) in several cases.

연구 동기 및 목표

• 기존 솔버가 실패하는, 구조적 제약 행렬을 가진 어려운 비볼록 정수계획문제를 해결하는 데 도전한다.
• 체계적으로 그레이버 기반과 탐색 가능한 해를 계산하여 하이브리드 양자-고전 알고리즘의 완전한 고전적 대안을 개발한다.
• 목적이 조각별 볼록인 문제들인 CBQP, QSAP, QAP에 대해 해의 속도와 확장성을 향상시킨다.
• 그레이버 기반을 사용한 다중 시드 증강이 상용 솔버보다 최적해에 도달하는 데 오랜 시간 단위로 더 빠르게 작용할 수 있음을 입증한다.
• 사용 빈도에 따라 그레이버 기반 원소를 선택적으로 생성함으로써 확장성 있고 메모리 효율적인 방법을 제공한다.

제안 방법

• 알고리즘은 n-곱, 크로네커 합 등과 같은 구조적 제약 행렬의 그레이버 기반을 체계적 리프팅과 힐베르트 기반 생성을 통해 계산한다.
• 초기 해에서 시작하여 랜덤 워크를 통해 랜덤 기반 원소를 추가함으로써 다수의 탐색 가능한 해를 구성한다. 이때 경계 조건을 준수한다.
• 각 시드 해에서 그레이버 기반 원소를 따라 증강을 수행하며, 목적 함수 비교를 통해 향상 단계를 유도한다.
• 메모리 사용량을 줄이면서도 성능을 유지하기 위해 저브릭수 라이프팅을 우선순위로 삼는 선택적 생성 전략을 사용한다.
• 모든 볼록 비선형 함수는 그레이버 기반을 사용해 임의의 탐색 가능한 해에서 다항 시간 내에 전역 최적화가 가능하다는 수학적 성질을 활용한다.
• CBQP, QSAP, QAP에 대해 제약 조건과 목적 함수를 부분공간 위의 퀼트드 볼록 함수로 모델링함으로써 알고리즘을 적용한다.

실험 결과

연구 질문

• RQ1 구조적 제약 조건을 가진 비볼록 정수계획문제에서 최신 상용 솔버인 구로비보다 성능이 뛰어난 완전한 고전적 알고리즘이 존재하는가?
• RQ2 실제 문제들인 QAP와 QSAP에서 유도된 행렬에 대해 그레이버 기반을 체계적으로 계산할 수 있는 정도는 어느 정도인가?
• RQ3 그레이버 기반을 사용한 다중 시드 증강이 단일 시작 방법보다 최적해 도달 시간을 크게 줄일 수 있는가?
• RQ4 상용 솔버가 시간 초과하는 경우, 문제 크기가 증가함에 따라 알고리즘이 어떻게 확장되는가?
• RQ5 선택적 그레이버 기반 생성 전략은 해 품질을 훼손하지 않고도 메모리 오버헤드를 줄일 수 있는가?

주요 결과

• GAMA는 17개의 QAP 인스턴스를 모두 0.1144초에서 212.86초 사이에 해결했고, 구로비는 10개의 인스턴스를 10시간이 넘도록 해결하지 못했다.
• 구로비가 해결한 가장 큰 QAP 인스턴스(문제 크기 108)에서 GAMA는 7.8초 만에 최적해를 확보하며, 구로비보다 4,407배 더 빠르게 작동했다.
• CBQP와 QSAP 문제에서는 GAMA가 최적해를 분 단위 내에 확보했고, 구로비는 4~10시간이 걸리거나 전혀 해결하지 못했다.
• 민감도 분석 결과, 문제 크기가 증가함에 따라 GAMA의 성능 저하율이 구로비보다 훨씬 낮았다.
• 비용 감소 기여를 하는 대부분의 그레이버 기반 원소는 저브릭수 라이프팅(t=2–4)에서 유래되었으며, 이는 효율적인 선택적 생성을 가능하게 했다.
• 높은 브릭수 기반 원소를 실시간으로 선택적으로 생성함으로써 메모리 사용량을 크게 줄였고, 성능 유지는 유지했다.