[논문 리뷰] Towards Sample-Optimal Compressive Phase Retrieval with Sparse and Generative Priors

Zhaoqiang Liu, Subhroshekhar Ghosh외 1명|arXiv (Cornell University)|2021. 06. 29.

Advanced X-ray Imaging Techniques참고 문헌 72인용 수 7

한 줄 요약

이 논문은 희소 및 생성적 사전을 사용한 압축형 위상 복원(compressive phase retrieval)에 대해 근사 최적의 표본 복잡도 보장을 수립한다. $O(k\log L)$개의 표본이 $k$차원 잠재 코드를 가진 $L$-립시츠 생성 모델을 사용할 때, 진폭 기반 경험 손실 최소화를 통해 신호 복원에 충분하며, $O(s\log n)$개의 표본이 $s$-희소 신호에 대해 충분함을 보여, 정보 이론적 한계와 일치한다. 새로운 스펙트럼 초기화 방법을 제안하고, 기존 방법들과의 비교에서 성능 향상을 실험적으로 검증하였다.

ABSTRACT

Compressive phase retrieval is a popular variant of the standard compressive sensing problem in which the measurements only contain magnitude information. In this paper, motivated by recent advances in deep generative models, we provide recovery guarantees with near-optimal sample complexity for phase retrieval with generative priors. We first show that when using i.i.d. Gaussian measurements and an $L$-Lipschitz continuous generative model with bounded $k$-dimensional inputs, roughly $O(k \log L)$ samples suffice to guarantee that any signal minimizing an amplitude-based empirical loss function is close to the true signal. Attaining this sample complexity with a practical algorithm remains a difficult challenge, and finding a good initialization for gradient-based methods has been observed to pose a major bottleneck. To partially address this, we further show that roughly $O(k \log L)$ samples ensure sufficient closeness between the underlying signal and any {\em globally optimal} solution to an optimization problem designed for spectral initialization (though finding such a solution may still be challenging). We also adapt this result to sparse phase retrieval, and show that $O(s \log n)$ samples are sufficient for a similar guarantee when the underlying signal is $s$-sparse and $n$-dimensional, matching an information-theoretic lower bound. While these guarantees do not directly correspond to a practical algorithm, we propose a practical spectral initialization method motivated by our findings, and experimentally observe performance gains over various existing spectral initialization methods for sparse phase retrieval.

연구 동기 및 목표

• 생성적 및 희소 사전 하에서 압축형 위상 복원의 이론적 복원 보장을 근사 최적의 표본 복잡도로 수립하는 것.
• 위상 복원을 위한 기울기 기반 알고리즘에서 열악한 초기화 문제를 해결하기 위해 새로운 스펙트럼 초기화 방법을 설계하는 것.
• 위상 복원에서 이론적 표본 복잡도 한계와 실용적 알고리즘 성능 사이의 격차를 메우는 것.
• 제안된 방법을 실험적으로 검증하여, 기존의 스펙트럼 초기화 기법들보다 향상된 성능을 보이는 것.

제안 방법

• 독립 동일분포 가우시안 측정 벡터를 사용하고, 신호 복원을 위한 진폭 기반 경험 손실 최소화를 분석한다.
• L-립시츠 생성 모델과 $k$차원 잠재 코드를 가진 경우, 농도 불등식과 커버링 추론을 통해 복원 보장을 수립한다.
• 측도 엔트로피와 가우시안 폭 분석을 통해 표본 복잡도 한계를 유도하며, 정확한 복원을 위해 $O(k\log L)$개의 표본이 충분함을 보인다.
• 희소 신호에 대해 분석을 적응시켜, $s$-희소 $n$차원 신호에 대해 $O(s\log n)$개의 표본이 충분함을 증명한다.
• 이론적 통찰을 기반으로 저랭크 근사와 파wer 반복을 활용한 실용적인 스펙트럼 초기화 방법—PRI-SPCA—를 제안한다.
• CoPRAM의 반복 알고리즘과 함께 방법을 실험적으로 평가하여, 노이즈 없는 및 노이즈 있는 환경에서 상대 오차와 성공률을 비교한다.

실험 결과

연구 질문

• RQ1 생성적 사전을 사용한 압축형 위상 복원에서 근사 최적의 표본 복잡도를 달성할 수 있는가?
• RQ2 생성적 사전을 사용해 진폭만 측정된 신호를 복원하기 위해 필요한 최소 측정 수는 얼마인가?
• RQ3 희소 위상 복원에서 성능을 향상시키기 위해 스펙트럼 초기화를 어떻게 개선할 수 있는가?
• RQ4 제안된 이론적 프레임워크는 신호 복원 정확도 향상에 실용적 성과를 가져오는가?

주요 결과

• 차원이 $k$이고 $L$-립시츠 성질을 가진 생성 모델에 대해, $O(k\log L)$개의 표본이 충분하여 진폭 기반 경험 손실의 임의의 최소화자도 진짜 신호에 가까워짐을 보장한다.
• 동일한 표본 복잡도 $O(k\log L)$는 스펙트럼 초기화 기반 최적화 문제의 충분한 초기화 품질을 보장하지만, 그 문제를 해결하는 것은 여전히 도전적이다.
• $s$-희소 $n$차원 신호에 대해 $O(s\log n)$개의 표본이 충분하며, 이는 정보 이론적 하한과 일치한다.
• 제안된 PRI-SPCA 스펙트럼 초기화 방법은 노이즈 없는 및 노이즈 있는 환경에서 기존 방법들보다 낮은 상대 오차와 높은 경험적 성공률을 달성한다.
• CoPRAM의 반복 알고리즘과 조합했을 때, 시간 비용이 유사한 조건에서 노이즈 실험에서 $\sigma = 0.1$ 및 $\sigma = 0.2$일 때 상대 오차가 가장 작다.
• 랜덤 초기화 방법은 유의미하게 열등하여, 희소 위상 복원에서 구조적 초기화의 핵심적 역할을 강조한다.