[논문 리뷰] Bundle-based pruning in the max-plus curse of dimensionality free method

Stéphane Gaubert, Zheng Qu외 1명|arXiv (Cornell University)|2014. 02. 06.

Advanced Optimization Algorithms Research참고 문헌 21인용 수 4

한 줄 요약

이 논문은 최대-합 차원의 문제 없이 최적 제어 방법에서 효율적인 프루닝을 위한 번들 방법을 제안한다. 여기서 기저 함수는 볼록 최적화를 통해 계산된 중요도 지표에 기반해 프루닝된다. 이 방법은 기저 함수의 수에 대해 선형 계산 스케일링을 달성하며, 양자 게이트 합성 문제에 대한 수치 실험에서 표준 내부점법 솔버보다 뚜렷이 뛰어난 성능을 보인다.

ABSTRACT

Recently a new class of techniques termed the max-plus curse of dimensionality-free methods have been developed to solve nonlinear optimal control problems. In these methods the discretization in state space is avoided by using a max-plus basis expansion of the value function. This requires storing only the coefficients of the basis functions used for representation. However, the number of basis functions grows exponentially with respect to the number of time steps of propagation to the time horizon of the control problem. This so called "curse of complexity" can be managed by applying a pruning procedure which selects the subset of basis functions that contribute most to the approximation of the value function. The pruning procedures described thus far in the literature rely on the solution of a sequence of high dimensional optimization problems which can become computationally expensive. In this paper we show that if the max-plus basis functions are linear and the region of interest in state space is convex, the pruning problem can be efficiently solved by the bundle method. This approach combining the bundle method and semidefinite formulations is applied to the quantum gate synthesis problem, in which the state space is the special unitary group (which is non-convex). This is based on the observation that the convexification of the unitary group leads to an exact relaxation. The results are studied and validated via examples.

연구 동기 및 목표

• 시간 단계 수에 따라 기저 함수의 수가 지수적으로 증가하는 최대-합 차원의 문제 없이 최적 제어 방법에서 '복잡성의 고통'을 해결한다.
• 현재 많은 대규모 준정형 프로그램을 풀이하는 데 의존하는 중요도 지표 계산의 계산 비용을 줄인다.
• 고차원 설정에서 중요도 지표 계산을 위한 일반 목적의 볼록 솔버(예: CVX/SDPT3)의 확장 가능한 대안을 개발한다.
• 최대-합 방법을 양자 게이트 합성과 같이 상태 공간이 비볼록인(예: 유니터리 군) 복잡한 문제에 실용적으로 적용할 수 있도록 한다.

제안 방법

• 기저 함수가 선형이고 상태 공간이 볼록일 때, 중요도 지표를 프루닝하기 위해 번들 방법—비내부점법 볼록 최적화 기법—을 적용한다.
• 기저 함수의 선형성과 상태 공간의 볼록성을 활용하여 프루닝 문제를 번들 방법으로 해결할 수 있는 볼록 최적화 과제로 재구성한다.
• 중요도 지표를 행렬 값 함수의 내적에 대한 최대-최소 문제로 표현하기 위해 준정형 프로그래밍 공식을 사용한다.
• 특수 유니터리 군 SU(n)를 행렬의 단위 구로 볼록화하여, 양자 게이트 합성 문제에 대해 정확한 이론적 이론화가 가능함을 증명한다.
• 매개수 μ=0.5, ε=1e-8, γ=0.5를 사용한 번들 방법을 기반으로 한 알고리즘 1을 구현하고, 벤치마크 인스턴스에서 CVX/SDPT3와의 성능을 비교한다.
• 근사 함수 φβ가 진짜 목표 함수 φ로의 균일 수렴과 컴actness 추론(아르체라-아스콜리 정리)을 통해 최적 해의 존재성을 보장함으로써 수렴성과 최적성 보장.

실험 결과

연구 질문

• RQ1 기저 함수가 선형이고 상태 공간이 볼록할 때, 번들 방법이 최대-합 기저 방법에서 중요도 지표 계산에 효과적으로 적용될 수 있는가?
• RQ2 대규모 프루닝 문제에 대해 표준 내부점법 솔버(CVX/SDPT3 등)와 비교해 번들 방법이 훨씬 우수한 계산 스케일링을 달성하는가?
• RQ3 유니터리 군 SU(n)의 볼록화가 양자 게이트 합성 문제에 대해 유효한 이론화인가? 이로 인해 최적 해가 여전히 유니터리일 수 있는가?
• RQ4 번들 반복 횟수는 기저 함수의 수에 따라 어떻게 변화하는가? 이는 실제로 전체 계산 시간에 영향을 미치는가?

주요 결과

• 번들 방법은 기저 함수의 수 m에 대해 거의 선형 계산 시간을 기록하며, 내부점법 솔버의 O(m^3.5) 스케일링과 대비된다.
• 번들 방법의 반복 횟수 K₀는 m과 함께 증가하지 않으며, 안정적으로 유지되어 계산 비용의 느린 증가를 설명한다.
• 모든 테스트된 m에 대해 번들 방법이 계산한 최적 값과 CVX의 결과 간 차이가 5e-8 이내로 유지되어 높은 수치 정확도를 보인다.
• SU(n)의 단위 구로의 볼록화는 정확한 이론화를 이끌어내며, 이는 정리 IV.1에 의해 증명되었고, 이는 유니터리 최적 해의 존재를 보장한다.
• 그림 1의 수치 결과는 m이 증가함에 따라 번들 방법이 내부점법(CVX/SDPT3)보다 뚜렷이 빠르며, 특히 m>100일 때 두드러진다.
• 번들 방법은 높은 정밀도와 안정성을 유지하며, 이중성 갭과 해의 차이가 1e-8 수준으로 유지되어 표준 솔버와 유사한 성능을 보인다.