[논문 리뷰] On DC based Methods for Phase Retrieval

Meng Huang, Ming‐Jun Lai외 2명|arXiv (Cornell University)|2018. 10. 22.

Advanced X-ray Imaging Techniques인용 수 3

한 줄 요약

이 논문은 비볼록 최소제곱 목적함수를 볼록 함수의 차분으로 분해하여 단순화한 새로운 DC(볼록 함수의 차분) 최적화 프레임워크를 제안한다. 이는 가속화된 프록시멀 방법을 통해 해결되며, 임계점으로의 선형 수렴을 달성하고, 특히 $ m \approx 2n $ 측정값에서 Wirtinger Flow 및 가우스-뉴턴 방법보다 뛰어난 성능을 보이며, $ \ell_1 $ 정규화를 통해 $ m \approx n $에서 희소 신호 복원을 가능하게 한다.

ABSTRACT

In this paper, we develop a new computational approach which is based on minimizing the difference of two convex functionals (DC) to solve a broader class of phase retrieval problems. The approach splits a standard nonlinear least squares minimizing function associated with the phase retrieval problem into the difference of two convex functions and then solves a sequence of convex minimization sub-problems. For each subproblem, the Nesterov's accelerated gradient descent algorithm or the Barzilai-Borwein (BB) algorithm is used. In the setting of sparse phase retrieval, a standard $\ell_1$ norm term is added into the minimization mentioned above. The subproblem is approximated by a proximal gradient method which is solved by the shrinkage-threshold technique directly without iterations. In addition, a modified Attouch-Peypouquet technique is used to accelerate the iterative computation. These lead to more effective algorithms than the Wirtinger flow (WF) algorithm and the Gauss-Newton (GN) algorithm and etc.. A convergence analysis of both DC based algorithms shows that the iterative solutions is convergent linearly to a critical point and will be closer to a global minimizer than the given initial starting point. Our study is a deterministic analysis while the study for the Wirtinger flow (WF) algorithm and its variants, the Gauss-Newton (GN) algorithm, the trust region algorithm is based on the probability analysis. In particular, the DC based algorithms are able to retrieve solutions using a number $m$ of measurements which is about twice of the number $n$ of entries in the solution with high frequency of successes. When $m\approx n$, the $\ell_1$ DC based algorithm is able to retrieve sparse signals.

연구 동기 및 목표

• 기존의 확률적 또는 스토하스틱 방법에 비해 향상된 수렴성과 강건성을 갖춘 비볼록 위상 복원 문제 해결 과제를 다루기.
• 위상 복원에서 비선형 최소제곱 목적함수를 최소화하기 위한 결정론적이고 볼록 분석 기반의 프레임워크 개발.
• DC 최적화 프레임워크에 $ \ell_1 $ 정규화를 통합하여 희소 위상 복원 가능하게 하기.
• 제안된 DC 기반 알고리즘에 대한 이론적 수렴 보장 제공하여, 임계점으로의 선형 수렴을 보여주기.
• 임의의 측정 벡터에 대해 정확한 해가 존재하지 않는 조건 분석 및 해가 존재할 경우의 서로 다른 해의 수의 상한을 도출하기.

제안 방법

• 표준 비선형 최소제곱 기능을 $ f = g - h $ 형태로 분해하여 두 볼록 함수의 차분으로 표현함으로써 위상 복원 문제를 두 볼록 함수의 차분 최소화 문제로 재구성.
• 비희소 케이스에서는 네스테로프의 가속화된 경사하강법 또는 바르질라이-보우백(BB) 방법을 사용하여 유도된 DC 하위문제를 해결.
• 희소 위상 복원을 위해 목적함수에 $ \ell_1 $-노름 페널티를 추가하고, 반복 없이 소프트 스레셔닝을 사용한 프록시멀 경사하강법으로 각 하위문제를 해결.
• 반복적 절차의 수렴을 가속화하기 위해 수정된 안다루흐-페퓌퀘 기법을 통합.
• 복소수 신호를 다루기 위해 실수 기반 매개변수화 $ \mathbf{z} = \mathbf{x} + i\mathbf{y} $를 사용하고, 수렴 분석을 위한 목적함수의 헤시안을 유도.
• 전역 최소화점에서 헤시안이 양의 준정부호임을 입증하며, 이는 일조화된 위상 모호성에 대응하는 영공간 방향과 일치함.

실험 결과

연구 질문

• RQ1 결정론적이고 DC 기반의 최적화 프레임워크가 위상 복원에서 Wirtinger Flow와 같은 확률적 알고리즘을 능가할 수 있는가?
• RQ2 제안된 DC 방법을 사용할 때 성공적인 복원을 위해 필요한 최소 측정 수 $ m $는 얼마인가? 특히 희소 케이스에서.
• RQ3 $ \ell_1 $ 정규화의 통합이 DC 알고리즘의 성능과 복원 임계값에 어떤 영향을 미치는가?
• RQ4 어떤 조건에서 주어진 측정값 집합에 대해 위상 복원 문제가 해를 갖지 않는가?
• RQ5 주어진 측정 집합에 대해 해가 존재할 경우, 서로 다른 해의 수의 상한은 얼마인가?

주요 결과

• 제안된 DC 기반 알고리즘은 임계점으로의 선형 수렴을 보이며, 초기 추정치에서부터 반복 수렴이 단조롭게 향상된다.
• 특히 결정론적 설정에서 Wirtinger Flow 및 가우스-뉴턴 알고리즘보다 수렴 속도와 성공률 면에서 뛰어나다.
• 일반적인 위상 복원의 경우, $ m \approx 2n $ 측정값에서 높은 성공률를 달성하며, 이는 알려진 이론적 하한과 일치한다.
• 희소 신호의 경우, $ \ell_1 $-정규화된 DC 알고리즘이 $ m \approx n $ 측정값에서 신호를 복원하며, 압축 감지 유사 행동을 보인다.
• 논문은 목적함수의 헤시안이 전역 최소화점에서 양의 준정부호임을 증명하며, 이는 일조화된 위상 모호성에 대응하는 영공간 방향과 일치함을 보였다.
• 논문은 임의의 측정값에 대해 위상 복원 문제의 해가 존재하지 않을 수 있으며, 해가 존재할 경우 서로 다른 해의 수가 상한으로 제한됨을 확립하였다.