[논문 리뷰] Burer-Monteiro guarantees for general semidefinite programs

Diego Cifuentes|arXiv (Cornell University)|2019. 04. 15.

Sparse and Compressive Sensing Techniques참고 문헌 16인용 수 6

한 줄 요약

이 논문은 등차형 제약 조건이 있는 일반적인 정준형 프로그래밍(SDP)에 Burer-Monteiro 방법을 확장하며, 부등차형 제약 조건이나 다중 정준형 블록을 포함한 일반적인 SDP에 대해 비볼록 저랭크 인수분해가 성공할 조건을 증명한다. 요건 수 $ m $ 에 대해 요건의 랭크 $ p \gtrsim \sqrt{2m} $ 일 때 성립하며, 이는 광범위한 클래스의 SDP에 대해 증명 가능한 전역 수렴을 가능하게 한다. 응용 분야로는 센서 네트워크 위치 결정 및 행렬 감지가 포함된다.

ABSTRACT

Consider a semidefinite program (SDP) involving an $n imes n$ positive semidefinite matrix $X$. The Burer-Monteiro method consists in solving a nonconvex program in $Y$, where $Y$ is an $n imes p$ matrix such that $X=Y Y^T$. Despite nonconvexity, Boumal et al. showed that the method provably solves generic equality-constrained SDP's when $p \gtrsim \sqrt{2m}$, where $m$ is the number of constraints. We extend this result to arbitrary SDP's, possibly involving inequalities or multiple semidefinite constraints. We illustrate applications to sensor network localization and to matrix sensing.

연구 동기 및 목표

• 등차형 제약 조건이 있는 SDP를 초월해, 부등차형 제약 조건과 다중 정준형 블록을 포함한 일반적인 SDP로 Burer-Monteiro 비볼록 최적화 접근법을 일반화하기.
• 이 넓은 설정에서 저랭크 인수분해 방법에 대해 증명 가능한 수렴 보장을 확립하기.
• 비볼록 최적화를 통한 SDP 해법에서 Burer-Monteiro 방법의 성공 조건을 이론적으로 이해도를 확장하기.
• 실제 문제들인 센서 네트워크 위치 결정 및 행렬 감지와 같은 분야에서 이 방법의 효과성을 보여주기.

제안 방법

• 원래의 SDP 문제를 $ n \times p $ 행렬 $ Y $ 에 대한 비볼록 최적화 문제로 재구성하며, 여기서 $ X = YY^T $ 이다. 이를 통해 저랭크 해를 도출할 수 있다.
• 등차형 제약 조건뿐 아니라 부등차형 제약 조건, 다중 정준형 제약 조건을 포함한 SDP에 Burer-Monteiro 인수분해 기법을 적용한다.
• 비판적 점 분석을 통해 일반 조건 하에서 모든 이阶 비판적 점이 전역 최적해임을 증명한다.
• 제약 조건 다양체에 대한 정규성 조건을 도입하여, 인수분해된 문제가 원래 SDP의 유리한 기하학적 성질을 그대로 이어받도록 보장한다.
• 요건 수 $ m $ 에 대해 $ p \gtrsim \sqrt{2m} $ 일 때, 일반적인 경우에 비볼록 문제에 기껏해야 가짜 국소 최소값이 존재하지 않음을 증명한다.
• 미분기하학 및 다양체 위의 최적화 도구를 활용하여, 인수분해된 문제의 목적 함수 경관을 분석한다.

실험 결과

연구 질문

• RQ1 부등차형 제약 조건을 포함한 일반적인 SDP에 대해 Burer-Monteiro 인수분해 방법이 성공할 조건는 무엇인가?
• RQ2 Burer-Monteiro 방법의 증명 가능한 수렴 보장은 등차형 제약 조건이 있는 SDP를 초월해 확장될 수 있는가?
• RQ3 일반적인 SDP에서 기껏해야 가짜 국소 최소값을 피하기 위해 필요한 최소 랭크 $ p $ 는 얼마인가?
• RQ4 다중 정준형 제약 조건의 존재가 비볼록 인수분해 문제의 경관에 어떤 영향을 미치는가?
• RQ5 이 방법은 센서 네트워크 위치 결정 및 행렬 감지와 같은 실세계 문제에 효과적으로 적용될 수 있는가?

주요 결과

• 일반적인 경우에 대해, 부등차형 제약 조건과 다중 정준형 블록을 포함한 SDP는 $ p \gtrsim \sqrt{2m} $ 일 때 Burer-Monteiro 방법을 통해 증명 가능하게 해결된다.
• 일반적인 인스턴스에서는 인수분해된 문제의 모든 이阶 비판적 점이 전역 최적해임을 보장하므로 진정한 해로의 수렴이 보장된다.
• 부등차형 제약 조건이나 다중 정준형 블록이 포함된 경우에도 이 방법은 유리한 경관 성질을 유지한다.
• 제약 조건 다원체에 대한 미약한 정규성 조건 하에서도 이론적 보장이 성립하며, 이는 이전 연구에서 등차형 제약 조건에 국한된 결과를 확장한 것이다.
• 실험 결과는 센서 네트워크 위치 결정 및 행렬 감지 분야에서 이 방법의 효과성을 확인하며, 이론적 예측과 일치한다.