[논문 리뷰] Trust Region Subproblem with a Fixed Number of Additional Linear Inequality Constraints has Polynomial Complexity

Yong Hsia, Ruey-Lin Sheu|arXiv (Cornell University)|2013. 12. 05.

Advanced Optimization Algorithms Research참고 문헌 18인용 수 19

한 줄 요약

이 논문은 고정된 수의 추가 선형 부등식 제약 조건 $m$을 가진 트러스트 리전 하위문제 $\mathrm{T}_m$가 각 고정된 $m$에 대해 다항시간 복잡도를 가짐을 입증한다. 마르티네스의 국소 비전역 최소값의 특성과 표준 트러스트 리전 하위문제($\mathrm{T}_0$)로의 귀납적 감소를 활용하여, $\mathrm{T}_m$을 해결하는 데 필요한 $\mathrm{T}_0$ 문제의 수가 $m$에 대해 다항적으로 증가함을 보이며, 이는 최악의 경우에 $m$에 대해 지수적 의존성이 있음에도 불구하고 고정된 $m$에 대해 다항시간 복잡도를 증명한다. 추가로, 정확한 SDP 타협 조건을 향상시켜 이전 조건보다 엄밀히 더 강력한 조건을 제시한다.

ABSTRACT

The trust region subproblem with a fixed number m additional linear inequality constraints, denoted by (Tm), have drawn much attention recently. The question as to whether Problem (Tm) is in Class P or Class NP remains open. So far, the only affirmative general result is that (T1) has an exact SOCP/SDP reformulation and thus is polynomially solvable. By adopting an early result of Martinez on local non-global minimum of the trust region subproblem, we can inductively reduce any instance in (Tm) to a sequence of trust region subproblems (T0). Although the total number of (T0) to be solved takes an exponential order of m, the reduction scheme still provides an argument that the class (Tm) has polynomial complexity for each fixed m. In contrast, we show by a simple example that, solving the class of extended trust region subproblems which contains more linear inequality constraints than the problem dimension; or the class of instances consisting of an arbitrarily number of linear constraints is NP-hard. When m is small such as m = 1,2, our inductive algorithm should be more efficient than the SOCP/SDP reformulation since at most 2 or 5 subproblems of (T0), respectively, are to be handled. In the end of the paper, we improve a very recent dimension condition by Jeyakumar and Li under which (Tm) admits an exact SDP relaxation. Examples show that such an improvement can be strict indeed.

연구 동기 및 목표

• 고정된 $m$에 대해 추가 선형 부등식 제약 조건을 가진 트러스트 리전 하위문제 $\mathrm{T}_m$의 계산 복잡도를 해결하는 것.
• 일반적인 경우가 열려 있는 바에 비해, $\mathrm{T}_m$이 클래스 P 또는 클래스 NP에 속하는지 판단하는 것.
• 고정된 $m$에 대해 다항시간 복잡도를 가지는 구조적이고 귀납적인 알고리즘을 개발하여 $\mathrm{T}_m$을 표준 트러스트 리전 하위문제($\mathrm{T}_0$)의 순서로 감소시키는 것.
• 기존의 $\mathrm{T}_m$에 대한 정확한 SDP 타협을 위한 충분조건을 향상시키기 위해, 이전 것보다 엄밀히 더 강력한 조건인 새로운 차원 조건 [NewDC]를 도입하는 것.

제안 방법

• 클래식한 트러스트 리전 하위문제에서 국소 비전역 최소값의 특성에 기반한 마르티네스의 결과를 활용하여, $\mathrm{T}_m$을 $\mathrm{T}_0$ 하위문제로의 귀납적 감소를 이끌어내는 데 사용한다.
• 모든 $\mathrm{T}_m$의 인스턴스를 유한 개의 $\mathrm{T}_0$ 문제로 감소시키는 귀납적 기법을 적용하며, 하위문제의 수는 $m$에 대해 지수적으로 증가하지만 고정된 $m$에 대해서는 여전히 다항적으로 유 bounds된다.
• 숨겨진 볼록성과 행렬 펜슬 분석을 적용하여 $\mathrm{T}_m$의 SDP 타협이 정확한지 식별한다.
• 행렬 $[Q - \lambda_{\min}(Q)I_n \mid a_1 \mid \cdots \mid a_m]$의 랭크를 통해 정의된 새로운 차원 조건 [NewDC]를 도입하여 정확한 SDP 타협을 위한 충분조건으로 사용한다.
• 행렬 랭크-일치 분해와 슬레이터 조건을 활용하여 SDP 타협의 타이트함을 분석한다.
• 제이아쿠마르와 리(2014)의 [DC] 조건과 비교하여, [NewDC] 조건이 이전 조건보다 엄밀히 더 강력함을 보여주는 반례를 통해 새로운 조건을 검증한다.

실험 결과

연구 질문

• RQ1 고정된 $m$에 대해 추가 선형 부등식 제약 조건을 가진 트러스트 리전 하위문제($\mathrm{T}_m$)는 각각 다항시간 내에 해결 가능한가?
• RQ2 클래식한 트러스트 리전 하위문제에서 국소 비전역 최소값의 구조를 활용하여 $\mathrm{T}_m$을 더 단순한 $\mathrm{T}_0$ 하위문제로 감소시킬 수 있는가?
• RQ3 언제 $\mathrm{T}_m$의 SDP 타협이 정확한지를 보장하는 조건은 무엇이며, 이러한 조건을 향상시킬 수 있는가?
• RQ4 제약 조건 수가 무한한 경우인 클래스 $\bigcup_{m=1}^\infty \mathrm{T}_m$는 NP-난이도이며, 이는 고정된 $m$과의 대비에서 어떻게 설명되는가?

주요 결과

• 각 고정된 $m$에 대해 추가 선형 부등식 제약 조건을 가진 트러스트 리전 하위문제($\mathrm{T}_m$)는 다항시간 복잡도를 가지며, 필요한 $\mathrm{T}_0$ 하위문제의 수가 $m$에 대해 다항적으로 증가하기 때문이다.
• 마르티네스의 국소 비전역 최소값 특성에 기반한 귀납적 감소 기법을 통해, $\mathrm{T}_m$은 최대 $2^m$개의 $\mathrm{T}_0$ 인스턴스를 해결하는 것으로 해결 가능하며, 이는 고정된 $m$에 대해 다항시간 복잡도를 보장한다.
• $\mathrm{T}_{n+1}$ 클래스는 제약 조건 수가 문제 차원보다 하나 많을 때 NP-난이도이며, 이는 최대 안정 집합 문제와 같이 NP-난이도 문제를 인코딩할 수 있기 때문이다.
• 행렬 $[Q - \lambda_{\min}(Q)I_n \mid a_1 \mid \cdots \mid a_m]$의 랭크를 기반으로 하는 새로운 차원 조건 [NewDC]는 이전 조건 [DC]보다 엄밀히 더 강력한 정확한 SDP 타협을 위한 충분조건이다.
• 예제 1은 [DC] 조건이 실패할 수 있는 상황에서조차 [NewDC] 조건이 만족될 수 있음을 보여주며, 이는 그 조건의 엄밀한 향상임을 입증한다.
• 예제 2는 [NewDC] 조건이 실패할 경우 SDP 타협에 양의 갭이 발생할 수 있음을 보여주며, 이는 조건이 뿐만 아니라 실용적으로도 의미 있는 조건임을 확인한다.