[논문 리뷰] Semidefinite representations of gauge functions for structured low-rank matrix decomposition

Hsiao-Han Chao, Lieven Vandenberghe|arXiv (Cornell University)|2016. 04. 08.

Sparse and Compressive Sensing Techniques참고 문헌 31인용 수 5

한 줄 요약

이 논문은 구조적 낮은 질서 행렬 분해와 관련된 게이지 함수와 원자 노름에 대한 정수형 프로그래밍(SDP) 표현을 제시하며, 복소 지수 함수 위에서의 1-노름 최적화에 관한 이전 결과를 일반화한다. 매트릭스 펜슬 파arameterization과 일반화된 칼만-야쿠보비치-포포프(Kalman-Yakubovich-Popov, KYP) 보조정리 간의 연결을 활용하여, 매트릭스 펜슬의 영공간으로 정의된 집합 위에서 원자 노름의 SDP 표현에 대해 구성적이고 쌍대 기반의 증명을 제공함으로써, 슈퍼레졸루션 및 어레이 처리 분야의 적용 가능성을 열어 놓는다.

ABSTRACT

This paper presents generalizations of semidefinite programming formulations of 1-norm optimization problems over infinite dictionaries of vectors of complex exponentials, which were recently proposed for superresolution, gridless compressed sensing, and other applications in signal processing. Results related to the generalized Kalman-Yakubovich-Popov lemma in linear system theory provide simple, constructive proofs of the semidefinite representations of the penalty functions used in these applications. The connection leads to several extensions to gauge functions and atomic norms for sets of vectors parameterized via the nullspace of matrix pencils. The techniques are illustrated with examples of low-rank matrix approximation problems arising in spectral estimation and array processing.

연구 동기 및 목표

• 표준 1-노름 및 노른 노름 설정을 초월하여 원자 노름의 정수형 프로그래밍 표현을 일반화하는 것.
• 매트릭스 펜슬의 영공간으로 매개변수화된 벡터 집합 위에서 정의된 원자 노름에 대한 SDP 표현을 확장하는 것.
• 선형 시스템 이론의 결과를 활용하여 정수형 표현의 구성적이고 쌍대 기반의 증명을 제공하는 것.
• 구조적 원자 노름을 통해 신호 처리 분야의 새로운 응용, 예를 들어 그리드 없는 압축 센싱 및 스펙트럼 추정을 가능하게 하는 것.
• 기존의 구조적 낮은 질서 행렬 근사 문제에 대한 정수형 프로그래밍 표현을 통합하고 일반화하는 것.

제안 방법

• 표준 복소 지수 기저를 일반화하여 매트릭스 펜슬 $\lambda G - F$ 의 영공간을 사용해 원자 집합을 매개변수화한다.
• 집합의 볼록 hull의 게이지로 원자 노름을 정의함으로써, 볼록이고 양의 동차 함수가 되도록 한다.
• 볼록 쌍대성과 일반화된 칼만-야쿠보비치-포포프(Kalman-Yakubovich-Popov, KYP) 보조정리를 통해 정수형 표현을 유도한다.
• 매트릭스 펜슬의 크로네커 표준형을 사용해 이중 SDP의 타당해를 구성한다.
• 펜슬의 일반화된 고유값과 고유벡터의 구조를 활용하여 강한 쌍대성과 타당성을 증명한다.
• 토플리츠 행렬과 신호 처리 분야의 구조적 낮은 질서 근사와 관련된 예제를 통해 프레임워크를 설명한다.

실험 결과

연구 질문

• RQ1 매트릭스 펜슬의 영공간으로 매개변수화된 벡터 집합 위에서 정의된 원자 노름에 대해 정수형 표현을 구성할 수 있는가?
• RQ2 일반화된 칼만-야쿠보비치-포포프 보조정리와 볼록 쌍대성은 이러한 노름의 구성적 SDP 표현을 어떻게 가능하게 하는가?
• RQ3 이중 SDP에서 강한 쌍대성과 엄밀한 타당해의 존재를 보장하는 매트릭스 펜슬에 대한 조건은 무엇인가?
• RQ4 기존의 $\|a\| = 1$ 대신 $\|Ea\| \leq 1$ 과 같은 제약 조건을 포함하는 데에 이 프레임워크는 어떻게 확장될 수 있는가?
• RQ5 이 방법은 스펙트럼 추정 및 어레이 처리 분야의 낮은 질서 행렬 근사에 어떤 영향을 미치는가?

주요 결과

• 집합 $C = \{a \in \mathbb{C}^n \mid (\mu G - \nu F)a = 0, (\mu, \nu) \in \mathcal{C}\}$ 에 대한 원자 노름은 토플리츠 제약 조건이 있는 SDP를 통해 정수형 표현을 갖는다.
• SDP 표현은 볼록 쌍대성과 일반화된 KYP 보조정리를 통해 구성적으로 도출되며, 적절한 조건 하에서 강한 쌍대성을 보장한다.
• SDP의 최적값은 주어진 구조적 집합에 대한 게이지 함수(원자 노름)와 일치한다.
• 증명은 펜슬 $\lambda G - F$ 의 일반화된 고유값이 단위 원주 위에 위치하고, $q_\Psi(\mu, \nu) < 0$ 를 만족해야 엄밀한 타당성이 확보됨을 보여준다.
• 이 프레임워크는 1-노름 및 핵 노름 근사에 관한 이전 결과를 더 넓은 범위의 구조적 신호 클래스로 일반화한다.
• 이 방법은 원자 노름에 대한 정확한 SDP 표현을 제공함으로써 슈퍼레졸루션 및 어레이 처리 분야의 새로운 응용 가능성을 열어 놓는다.