[論文レビュー] Fast Iterative Shrinkage for Signal Declipping and Dequantization

Lucas Rencker, Francis Bach+2 more|arXiv (Cornell University)|Dec 4, 2018

Sparse and Compressive Sensing Techniques参考文献 8被引用数 5

ひとこと要約

本稿では、FISTAに基づく高速な反復的シャーリングアルゴリズムを提案し、制約付きスパースコーディング問題を制約なし、凸的で微分可能な最適化問題に緩和することで、クリッピングまたは量子化された測定値からスパース信号を回復する。この手法は、特に大規模問題において、ADMMベースの手法と比較して顕著に計算時間を短縮しつつ、優れた再構成性能を達成する。

ABSTRACT

We address the problem of recovering a sparse signal from clipped or quantized measurements. We show how these two problems can be formulated as minimizing the distance to a convex feasibility set, which provides a convex and differentiable cost function. We then propose a fast iterative shrinkage/thresholding algorithm that minimizes the proposed cost, which provides a fast and efficient algorithm to recover sparse signals from clipped and quantized measurements.

研究の動機と目的

• デジタル信号処理において一般的に見られるクリッピングまたは量子化された測定値からスパース信号を回復する課題に対処すること。
• 各反復で高価な非直交射影を必要とする、既存のADMMベースの手法の計算非効率性を克服すること。
• 制約の妥当性を保ちつつ、凸性と微分可能性を維持する緩和された、制約なしの最適化問題を定式化すること。
• 特に過完全辞書に対して効率的に解ける、FISTAに基づく高速な一次元アルゴリズムを開発すること。
• 提案手法がADMMと比較して同等または優れた再構成品質を達成する一方で、著しく短い実行時間を実現することを示すこと。

提案手法

• スパースコーディング問題の制約付き形式を、$ f^{-1}({\bf y}) $ への二乗距離の最小化に加えてスパース性を促進する $ \tilde{\ell}_1 $-ノルムペナルティを用いて、制約なしの形式に緩和する。
• データ適合項を $ \frac{1}{2} \operatorname{d}({\bf D} {\bm \alpha}, f^{-1}({\bf y}))^2 $ と定義し、これは凸的で微分可能であり、1-Lipschitz勾配を持つ。
• 妥当性を強制するために、$ \Pi_{f^{-1}({\bf y})}({\bf x}) $ として直交射影を用い、クリッピングおよび量子化に対して要素ごとの演算で計算可能である。
• 緩和問題を効率的に解くために、高速反復的シャーリング・スレッショーディング法（FISTA）を適用し、$ \mathcal{O}(1/k^2) $ の収束速度を持つ加速勾配法を活用する。
• 直近2回の反復に基づくソフトスレッショーニングとモーメンタム項を含む、単純な更新則を実装する。
• 射影と勾配ステップが反復的サブ問題を伴わず直接計算可能であるため、ネストされたADMM反復を回避することで計算効率を確保する。

実験結果

リサーチクエスチョン

• RQ1 信号のクリッピングおよび量子化のための制約付きスパースコーディング問題の凸的緩和は、微分可能で効率的に解ける最適化問題をもたらすか？
• RQ2 元の制約付き問題に対するADMMと比較して、緩和問題に対するFISTAの再構成精度と計算コストの観点での性能はいかがなものか？
• RQ3 FISTAの加速が、クリッピングおよび量子化信号の収束速度と最終的な再構成品質に与える影響は何か？
• RQ4 提案手法は、ADMMベースの手法と比較して著しく計算時間を短縮しつつ、高い再構成忠実度を維持できるか？
• RQ5 非直交射影が計算的に困難な過完全辞書を伴う大規模問題において、この手法はどのようにスケーリングするか？

主な発見

• 提案された緩和形式は、元の制約付き問題に対するADMMと同等の再構成性能を達成し、精度の損失は最小限に抑えられる。
• FISTAを緩和問題に適用した場合、150反復以内に収束し、収束速度においてISTAおよびADMMを顕著に上回る。
• クリッピングのためのFISTAの計算時間は1.56秒、量子化解除のための計算時間は1.81秒であり、ADMMの968.4秒および943.52秒と比較して顕著に短縮されている。
• FISTAベースの手法は、ADMMと比較して計算コストを99％削減しながらも、再構成における高い信号対雑音比（SNR）を維持している。
• アルゴリズムの効率性は、射影が直接的に要素ごとの演算で計算可能であるため、ネストされたADMM反復を回避できる点に起因する。
• 従来のADMM手法が非直交射影に起因する高い計算オーバーヘッドを抱える過完全辞書に対しても、本手法は依然として有効である。