[논문 리뷰] ADMM for the SDP relaxation of the QAP

Danilo Elias Oliveira, Henry Wolkowicz외 1명|arXiv (Cornell University)|2015. 12. 17.

Advanced Optimization Algorithms Research인용 수 4

한 줄 요약

이 논문은 이분할 방법 다중승수법(ADMM)을 사용하여 순환 배치 문제(QAP)의 준선형계획법(SDP) 근사 문제를 해결함으로써, 원시-이중 내점법보다 훨씬 빠른 수렴 속도와 높은 정확도를 달성한다. 이 방법은 낮은 랭크 해를 제공하고, 비음성 및 커팅 평면 제약 조건을 효율적으로 통합하며, 희박성 유지에 기여하여 QAP 인스턴스의 하한 및 상한을 향상시킨다.

ABSTRACT

The semidefinite programming (SDP) relaxation has proven to be extremely strong for many hard discrete optimization problems. This is in particular true for the quadratic assignment problem (QAP), arguably one of the hardest NP-hard discrete optimization problems. There are several difficulties that arise in efficiently solving the SDP relaxation, e.g.,~increased dimension; inefficiency of the current primal-dual interior point solvers in terms of both time and accuracy; and difficulty and high expense in adding cutting plane constraints. We propose using the alternating direction method of multipliers (ADMM) to solve the SDP relaxation. This first order approach allows for inexpensive iterations, a method of cheaply obtaining low rank solutions, as well a trivial way of adding cutting plane inequalities. When compared to current approaches and current best available bounds we obtain remarkable robustness, efficiency and improved bounds.

연구 동기 및 목표

• QAP의 SDP 근사 문제를 해결할 때 원시-이중 내점법의 계산 비효율성과 확장성 한계를 해결하기 위해.
• 낮은 랭크 해를 제공하고 비음성 및 커팅 평면 제약 조건을 효율적으로 통합할 수 있는 일阶 최적화 방법을 개발하기 위해.
• ADMM가 희박성을 유지하고 높은 정확도를 달성할 수 있음을 활용하여 QAP의 하한 및 상한을 향상시키기 위해.
• 최신 기술 대비 대규모 QAP 인스턴스에서 ADMM의 강건성과 효율성을 입증하기 위해.

제안 방법

• 논문은 QAP를 이차 제약 조건이 있는 이차 프로그래밍 문제로 재구성하고, 동차화 및 얼굴 감소 기법을 사용하여 새로운 SDP 근사 문제를 유도한다.
• 증강 라그랑주 최소화를 통해 문제를 행렬 변수, 이중 변수, 제약 조건으로 분할하여 ADMM을 적용하여 SDP 근사 문제를 해결한다.
• 행과 열의 원소별 수직성(행렬 간의 정규직교성)을 나타내는 '간스트러 제약 조건'을 활용하여 문제의 복잡성과 중복을 줄인다.
• 비음성 및 커팅 평면 제약 조건은 ADMM 반복 과정에서 간단히 통합되며, 이로 인해 희박성이 유지되고 하한이 향상된다.
• 수렴이 고정밀도 해에 도달하도록 보장하기 위해 변수 분할과 이중 상승 단계를 포함한 수정된 ADMM 설정을 사용한다.
• ADMM 반복 결과를 잘라내어 낮은 랭크 해를 얻으며, 이는 원래 QAP 문제에 대한 타당한 근사 해를 제공한다.

실험 결과

연구 질문

• RQ1 ADMM는 원시-이중 내점법에 비해 QAP의 SDP 근사 문제 해결에서 속도와 정확도 측면에서 승리할 수 있는가?
• RQ2 ADMM는 QAP의 타당한 상한을 향상시키는 데 기여하는 낮은 랭크 해를 효율적으로 계산할 수 있는가?
• RQ3 ADMM 프레임워크 내에서 비음성 및 커팅 평면 제약 조건을 희박성이나 계산 효율성을 희생시키지 않고 효율적으로 통합할 수 있는가?
• RQ4 ADMM 기반의 SDP 근사 문제는 SDPLIB 및 기타 벤치마크에서 기존의 최고 성능 기준과 비교해 어떻게 성능을 발휘하는가?

주요 결과

• ADMM는 원시-이중 내점법에 비해 QAP의 SDP 근사 문제에 대해 훨씬 낮은 계산 비용으로 고정밀도 해를 달성한다.
• Nug25 인스턴스에서 ADMM는 하한 3535를 확보하고 이중성 갭 2.43%를 기록하여 이전 방법들을 능가했다.
• 모든 테스트 인스턴스에 대해 향상된 하한을 제공했으며, Nug20에서는 14.35%, Tai20a에서는 15.85%의 이중성 갭을 기록하여 강력한 수렴 성능를 입증했다.
• ADMM는 QAP에 대해 더 나은 타당 근사 해를 제공하는 낮은 랭크 해를 생성함으로써 상한 품질을 향상시켰다.
• ADMM 반복 과정에서 비음성 및 커팅 평면 제약 조건을 통합하는 데 있어 계산적으로 매우 단순했으며, 이로 인해 희박성이 유지되고 하한 강도가 향상되었다.
• Tai30a 및 Tho30과 같은 대규모 인스턴스에서는 이중성 갭이 11.11% 이하로 유지되었고, 150초 이내에 문제를 해결하여 확장성을 입증했다.