[論文レビュー] Coordinate Descent Algorithms for Phase Retrieval

Wenjun Zeng, Hing Cheung So|arXiv (Cornell University)|Jun 12, 2017

Advanced X-ray Imaging Techniques参考文献 36被引用数 8

ひとこと要約

本稿では、非凸な四次最小化問題を1変数ずつ閉形式の1変数3次方程式の根を用いて最適化することで、位相再構成に向けた座標降下（CD）アルゴリズム—順番型、ランダム型、グリーディ型—を提案する。これらの手法は、局所最適解へのグローバル収束を達成し、十分なサンプルサイズ下では、ランダム型CDが幾何的収束速度でグローバル最小値に収束し、高確率で正確な再構成を達成する。密度的およびスパース信号の両方において、最新の手法を上回る速度と精度を示し、ブラインドイコライゼーション応用においても同様の優位性を示す。

ABSTRACT

Phase retrieval aims at recovering a complex-valued signal from magnitude-only measurements, which attracts much attention since it has numerous applications in many disciplines. However, phase recovery involves solving a system of quadratic equations, indicating that it is a challenging nonconvex optimization problem. To tackle phase retrieval in an effective and efficient manner, we apply coordinate descent (CD) such that a single unknown is solved at each iteration while all other variables are kept fixed. As a result, only minimization of a univariate quartic polynomial is needed which is easily achieved by finding the closed-form roots of a cubic equation. Three computationally simple algorithms referred to as cyclic, randomized and greedy CDs, based on different updating rules, are devised. It is proved that the three CDs globally converge to a stationary point of the nonconvex problem, and specifically, the randomized CD locally converges to the global minimum and attains exact recovery at a geometric rate with high probability if the sample size is large enough. The cyclic and randomized CDs are also modified via minimization of the $\ell_1$-regularized quartic polynomial for phase retrieval of sparse signals. Furthermore, a novel application of the three CDs, namely, blind equalization in digital communications, is proposed. It is demonstrated that the CD methodology is superior to the state-of-the-art techniques in terms of computational efficiency and/or recovery performance.

研究の動機と目的

• 測定値が大きさのみの二次方程式からなる、非凸的でNP困難な位相再構成の課題に取り組む。
• PhaseLift や PhaseCut などの凸緩和手法で用いられる半定値計画法の高コストを回避する計算効率の良いアルゴリズムを開発する。
• Wirtinger Flow などの勾配ベース手法を改善し、収束速度を加速し、再構成精度を向上させる。
• 圧縮センシング応用を想定し、ℓ₁正則化を用いたスパース信号再構成のためのCDフレームワークを拡張する。
• デジタル通信分野におけるブラインドイコライゼーションへのCDの新規応用を示し、より低いISIと高い精度を達成する。

提案手法

• CDフレームワークは、他のすべての変数を固定することで1変数の四次多項式を繰り返し最小化し、部分問題を1変数3次方程式の閉形式解に還元する。
• 3つの変種を提案：順番型（C-CD）、ランダム型（R-CD）、グリーディ型（G-CD）、それぞれが反復毎の更新座標選択ルールで異なる。
• スパース信号の場合は、スパース性を促進するため、ℓ₁正則化付き四次多項式の最小化により、ℓ₁正則化CDを導入する。
• 理論的分析により、3つのCD変種が非凸目的関数の停留点にグローバル収束することを証明する。
• R-CDに関しては、十分なサンプルサイズ下で、グローバル最小値への収束が高確率で達成され、幾何的収束速度で正確な再構成が実現することを証明する。
• イコライザを位相再構成問題としてモデル化することで、CDをブラインドイコライゼーションに応用し、ノイズありで歪んだ観測値から送信信号を回復する。

実験結果

リサーチクエスチョン

• RQ1 座標降下が、Wirtinger Flow などの勾配ベース手法よりも高速な収束を達成できるか、位相再構成に効果的に適用可能か？
• RQ2 十分なサンプリング下で、ランダム型座標降下が高確率でグローバル最小値に収束するか、収束速度はいかほどか？
• RQ3 ℓ₁正則化付き座標降下は、位相再構成におけるスパース信号の再構成性能を向上させられるか？
• RQ4 ブラインドイコライゼーションにおいて、提案されたCDフレームワークは、計算効率および再構成精度の面で最新手法を上回るか？
• RQ5 ノイズありで歪んだ信号を伴う実世界の応用、例えばデジタル通信分野において、座標降下を効果的に拡張可能か？

主な発見

• 順番型、ランダム型、グリーディ型の3つのCD変種は、任意の初期値に対して非凸位相再構成問題の停留点にグローバル収束する。
• 十分なサンプルサイズ下で、ランダム型CDは高確率でグローバル最小値に収束し、幾何的収束速度で正確な再構成を達成する。
• 絶対値の偏微分が最大の座標を選択するグリーディCD変種は、順番型およびランダム型CDよりも高速に収束する。
• ノイズなし条件下では、CDアルゴリズムはWirtinger Flowと同等またはわずかに優れた成功確率を示し、GCDはWFをわずかに上回り、CCD/RCDはやや劣る。
• スパース信号の場合は、測定数が少ない状況下で、ℓ₁正則化CD（ℓ₁-CCD および ℓ₁-RCD）がWF、PhaseLift、PhaseCut、およびスパースGSを著しく上回る性能を発揮する。
• ブラインドイコライゼーションにおいて、CDベースの手法はWirtinger Flow、WFOS、および超指数的アルゴリズムよりも低いISIと高い信号再構成精度を達成し、CCDが最も優れた性能を示す。