[논문 리뷰] Median-Truncated Nonconvex Approach for Phase Retrieval with Outliers

Huishuai Zhang, Yuejie Chi외 1명|arXiv (Cornell University)|2016. 03. 11.

Advanced X-ray Imaging Techniques인용 수 3

한 줄 요약

이 논문은 악성 이상치에 대해 강건한 위상 복원을 위한 비볼록 알고리즘인 중앙값 절단(nonconvex) 알고리즘인 median-TWF와 median-RWF를 제안한다. 초기화 단계와 경사하강법 동안 측정값의 표본 중앙값을 사용하여 손상된 측정값을 지도적으로 제거함으로써, 임의의 측정값이 상수 비율로 손상된 경우에도 near-optimal 샘플 크기에서 신호를 증명 가능한 방식으로 복원할 수 있으며, 선형 수렴 속도와 조밀한 유한 노이즈 하에서의 안정성을 확보한다.

ABSTRACT

This paper investigates the phase retrieval problem, which aims to recover a signal from the magnitudes of its linear measurements. We develop statistically and computationally efficient algorithms for the situation when the measurements are corrupted by sparse outliers that can take arbitrary values. We propose a novel approach to robustify the gradient descent algorithm by using the sample median as a guide for pruning spurious samples in initialization and local search. Adopting the Poisson loss and the reshaped quadratic loss respectively, we obtain two algorithms termed median-TWF and median-RWF, both of which provably recover the signal from a near-optimal number of measurements when the measurement vectors are composed of i.i.d. Gaussian entries, up to a logarithmic factor, even when a constant fraction of the measurements are adversarially corrupted. We further show that both algorithms are stable in the presence of additional dense bounded noise. Our analysis is accomplished by developing non-trivial concentration results of median-related quantities, which may be of independent interest. We provide numerical experiments to demonstrate the effectiveness of our approach.

연구 동기 및 목표

• 희박한, 임의로 큰 이상치에 강건한 통계적이고 계산적으로 효율적인 위상 복원 알고리즘 개발
• 기존의 Wirtinger flow 유형의 방법들이 청소년적 환경에서는 뛰어난 성능를 보이지만, 악성 이상치 하에서는 실패하는 한계를 해결
• 측정 벡터가 i.i.d. 가우시안일 경우, 측정 수가 로그 인자까지 near-optimal 수준이 되도록 증명 가능한 복원 달성
• 추가적인 조밀한 유한 노이즈 하에서도 안정성 확보하여 실제 노이즈 환경에의 적용 범위 확장
• 중앙값과 관련된 통계량에 대한 새로운 농도 부등식을 통해 이론적 보장을 확립

제안 방법

• 초기화 및 국소 탐색 단계에서 측정값 크기의 표본 중앙값을 사용하여 오염된 측정값을 식별하고 제거하는 데 강건한 지침으로 활용
• 중앙값 기반 절단을 통합하여 TWF와 RWF 프레임워크를 개선함으로써 강건성 향상
• 두 변종인 median-TWF와 median-RWF에서 각각 Poisson 손실과 재형상된 제곱 손실 함수 사용
• 중앙값에서 크게 벗어난 크기를 가진 측정값을 제외하기 위해 중앙값 기반 임계값 설정 규칙 적용
• 고차원 분석에서 중앙값과 관련된 양의 농도를 제어하기 위해 지표 함수의 리프시츠 근사 사용
• 단위 구 위에서의 균일 수렴 경계를 확보하기 위해 $\u00055$-넷과 서브가우시안 尾 불등식을 사용하여 고확률 보장을 가능하게 함

실험 결과

연구 질문

• RQ1 기존의 경사 기반 위상 복원 방법이 위치나 크기 정보 없이도 임의의 값을 가진 악성 이상치에 대해 강건하게 설계될 수 있는가?
• RQ2 상수 비율의 측정값이 손상된 경우에도 샘플 복잡도가 near-optimal 수준($n$ 수준)이 되도록 강건성을 확보할 수 있는가?
• RQ3 표본 중앙값을 제거 기준으로 사용할 경우, 기존의 비볼록 해법(TWF 또는 RWF)보다 수렴성과 안정성이 향상되는가?
• RQ4 추가적인 조밀한 유한 노이즈 하에서도 제안된 알고리즘이 선형 수렴 속도와 안정성을 유지하는가?
• RQ5 중앙값 기반 통계량에 대한 새로운 농도 부등식이 고차원, 비-i.i.d. 환경에서도 이론적 보장을 뒷받침하는 데 충분한가?

주요 결과

• 측정 벡터가 i.i.d. 가우시안일 경우, median-TWF와 median-RWF 알고리즘은 최대 상수 비율의 악성 이상치가 존재하더라도 $m = \mathcal{O}(n \log n)$ 측정값에서 진짜 신호를 증명 가능한 방식으로 복원한다.
• 두 알고리즘 모두 선형 수렴 속도를 확보하며, $\epsilon$-정확도에 도달하기 위해 $\mathcal{O}(mn\log(1/\epsilon))$개의 부동소수점 연산이 필요하다.
• 추가적인 조밀한 유한 노이즈 하에서도 안정성이 확보되어 노이즈 환경에서도 강건한 성능 유지.
• 이론적 분석은 중앙값과 관련된 양의 새로운 농도 결과에 기반하며, 이는 위상 복원 이외의 분야에서도 별도의 관심을 끌 수 있다.
• 수치 실험을 통해 중앙값 절단 전략이 기존 기준 방법 대비 이상치 영향을 억제하고 복원 정확도를 향상시키는 데 효과적임을 입증하였다.