[論文レビュー] Unfolded Algorithms for Deep Phase Retrieval

Naveed Naimipour, Shahin Khobahi+1 more|arXiv (Cornell University)|Dec 21, 2020

Advanced X-ray Imaging Techniques参考文献 62被引用数 8

ひとこと要約

本論文は、反復的手順をニューラルネットワークに展開する手法として、Unfolded Phase Retrieval (UPR) を提案する。UPR は、IRWF や SPARTA といった反復的アルゴリズムをニューラルネットワークに変換することで、位相再構成の性能を向上させる、モデルベースとデータ駆動の両方の特徴を併せ持つ深層学習フレームワークである。感度行列と事前処理層を同時に学習することで、特に低サンプル数の状況やスパース信号において、最先端のモデルベースおよびデータ駆動手法を上回る高速な収束と優れた再構成性能を達成する。

ABSTRACT

Exploring the idea of phase retrieval has been intriguing researchers for decades, due to its appearance in a wide range of applications. The task of a phase retrieval algorithm is typically to recover a signal from linear phaseless measurements. In this paper, we approach the problem by proposing a hybrid model-based data-driven deep architecture, referred to as Unfolded Phase Retrieval (UPR), that exhibits significant potential in improving the performance of state-of-the art data-driven and model-based phase retrieval algorithms. The proposed method benefits from versatility and interpretability of well-established model-based algorithms, while simultaneously benefiting from the expressive power of deep neural networks. In particular, our proposed model-based deep architecture is applied to the conventional phase retrieval problem (via the incremental reshaped Wirtinger flow algorithm) and the sparse phase retrieval problem (via the sparse truncated amplitude flow algorithm), showing immense promise in both cases. Furthermore, we consider a joint design of the sensing matrix and the signal processing algorithm and utilize the deep unfolding technique in the process. Our numerical results illustrate the effectiveness of such hybrid model-based and data-driven frameworks and showcase the untapped potential of data-aided methodologies to enhance the existing phase retrieval algorithms.

研究の動機と目的

• 既存のモデルベースおよびデータ駆動型位相再構成アルゴリズムの限界、特に収束速度、ノイズへのロバスト性、ハイパーパrameterへの感受性を改善すること。
• 解釈可能性を持つモデルベース手法の利点と深層学習の表現力の両方を組み合わせたハイブリッドアーキテクチャを構築し、性能を向上させること。
• 深層アンフォールディングを用いて感度行列と信号再構成アルゴリズムを同時に最適化することで、タスク固有のデータに適応する柔軟性を高めること。
• 学習された事前処理行列とタスク固有の感度行列が収束を著しく加速し、実験的成功率を向上させることを実証すること。

提案手法

• UPRフレームワークは、モデルベース位相再構成アルゴリズムの反復ステップを、具体的には通常の位相再構成のための IRWF およびスパース位相再構成のための SPARTA を、深層ニューラルネットワークアーキテクチャに展開する。
• ネットワークの各層は元のアルゴリズムの1反復に対応し、ステップサイズやしきい値といった固定されたアルゴリズム的要素が学習可能なパラメータに置き換えられる。
• 感度行列 A はトレーニング中に同時に最適化され、ネットワークが信号再構成可能性を高めるタスク固有の測定行列を学習できるようになる。
• 各層ごとに導入された事前処理行列 {Gi} により、勾配のスケーリングを適応的に行い、収束ダイナミクスを改善し、反復回数を削減する。
• 合成データを用いて信号再構成に基づく教師あり損失関数を用い、エンドツーエンドでネットワークをトレーニングする。
• モデルベース構造のおかげで、純粋にデータ駆動のブラックボックスネットワークでは不可能な、各層ごとの収束解析が可能になる。

実験結果

リサーチクエスチョン

• RQ1 モデルベースとデータ駆動の両方の特徴を併せ持つハイブリッドフレームワークは、位相再構成アルゴリズムの実験的成功率と収束速度を向上させることができるか？
• RQ2 感度行列と事前処理層を学習することで、通常の位相再構成およびスパース位相再構成の性能がどの程度向上するか？
• RQ3 UPRフレームワークは、IRWF や SPARTA といった最先端のモデルベースアルゴリズムと比較して、再構成精度とロバスト性において優れているか？
• RQ4 データ駆動学習による性能向上を達成しつつも、モデルベース手法の解釈可能性は維持できるか？

主な発見

• 感度行列と事前処理行列を同時に学習した UPR（ケース4）は、全測定比（m/n）において最高の実験的成功率を達成し、ベースラインの IRWF より顕著に優れていた。
• 感度行列を固定したケース3では、事前処理行列のみを学習することで、収束が速くなり、再構成性能も向上した。これは、各層ごとのスケーリングを適応的に行う価値があることを示している。
• UPR-IRWF は最短で30層で最適性能に到達した。これは、実時間または大規模応用に適した短縮可能なアーキテクチャであり、精度損失が最小限に抑えられることを示している。
• 感度行列を学習した場合（ケース2）、固定ステップサイズでも UPR-IRWF は優れた性能を示した。これは、タスク固有の測定行列がロバスト性を高めることを示している。
• 各層ごとの相対 MSE 分析により、UPR は標準的な IRWF よりも収束が速く、反復回数に伴う誤差の低下が急峻であることが確認された。