[論文レビュー] Alternating Direction Algorithms for Constrained Sparse Regression: Application to Hyperspectral Unmixing

José M. Bioucas‐Dias, Mário A. T. Figueiredo|arXiv (Cornell University)|Feb 24, 2010

Remote-Sensing Image Classification参考文献 18被引用数 53

ひとこと要約

本稿では、高スペクトル分離における制約付きスパース回帰問題を解くために、交替方向乗数法（ADMM）に基づくSUnSALおよびC-SUnSALの2つのアルゴリズムを提案する。これらの手法は、CLS、FCLS、CBP、CBPDN問題を、市販のソルバーよりも高速かつ高精度に効率的に解き、合成および実際のスペクトルデータにおいて最大100倍の高速化と、再構成SNRの向上を達成する。

ABSTRACT

Convex optimization problems are common in hyperspectral unmixing. Examples include: the constrained least squares (CLS) and the fully constrained least squares (FCLS) problems, which are used to compute the fractional abundances in linear mixtures of known spectra; the constrained basis pursuit (CBP) problem, which is used to find sparse (i.e., with a small number of non-zero terms) linear mixtures of spectra from large libraries; the constrained basis pursuit denoising (CBPDN) problem, which is a generalization of BP that admits modeling errors. In this paper, we introduce two new algorithms to efficiently solve these optimization problems, based on the alternating direction method of multipliers, a method from the augmented Lagrangian family. The algorithms are termed SUnSAL (sparse unmixing by variable splitting and augmented Lagrangian) and C-SUnSAL (constrained SUnSAL). C-SUnSAL solves the CBP and CBPDN problems, while SUnSAL solves CLS and FCLS, as well as a more general version thereof, called constrained sparse regression (CSR). C-SUnSAL and SUnSAL are shown to outperform off-the-shelf methods in terms of speed and accuracy.

研究の動機と目的

• 高スペクトル分離における制約付きスパース回帰（CSR）問題のための既存のソルバの計算非効率性を解消すること。
• 非負性およびアビュナンス合計制約を含む、CSR問題の特定の構造に特化した効率的アルゴリズムの開発。
• 大規模なスペクトルライブラリとノイズの多い観測を伴う高スペクトル分離タスクにおける、解の精度と収束速度の向上。
• 単一のアルゴリズムファミリーを用いて、CLS、FCLS、CBP、CBPDNの複数のCSRバージョンを統一的に解くフレームワークの提供。
• MATLABのlsqnonnegのような標準的な最適化ツールと比較して、速度と再構成品質の両面で提案アルゴリズムの優位性を実証すること。

提案手法

• CLS、FCLS、CBP、CBPDNのCSR問題を、非負性およびアビュナンス合計制約を含む凸最適化問題として定式化する。
• 変数分割を用いて、元の問題をADMM分解に適した部分問題に分解する。
• 増大ラグランジュ法を用いて制約を強制し、分割された変数の間で交互最小化を可能にする。
• CLS/FCLSに適したSUnSALと、CBP/CBPDNに適したC-SUnSALを、それぞれの問題構造に合わせてADMMフレームワークを適合させることで導出する。
• 目的関数が適切で、凸的かつ下からの半連続的であり、制約行列がフルランクであることを確認することで収束を保証する。
• 可能な限り閉形式解を用いて、プライム変数および双対変数の反復更新を実装し、1反復あたりの計算を高速化する。

実験結果

リサーチクエスチョン

• RQ1 ADMMベースのアルゴリズムは、高スペクトル分離における制約付きスパース回帰問題を、速度と精度の両面で改善して効果的に解くために適応可能か？
• RQ2 SUnSALおよびC-SUnSALは、lsqnonnegのような標準ソルバーよりも再構成SNRおよび計算時間においてどのように異なるか？
• RQ3 スペクトルライブラリの構造（例：ガウス確立的独立同分布 vs. 実世界のUSGS材料）がアルゴリズムの性能に与える影響は何か？
• RQ4 C-SUnSALにℓ₁ノルム正則化を組み込むことで、実世界のデータにおいて精度を損なわずにスパースな解が得られるか？
• RQ5 提案アルゴリズムはどのような条件下で収束するのか？また、実際の分離シナリオにおいて理論的収束保証が満たされているか？

主な発見

• SUnSALおよびC-SUnSALは、lsqnonnegよりも顕著に高い再構成SNR（RSNR）を達成し、ガウスライブラリでは最大48 dB、USGSライブラリでは最大23 dBの向上を示した。
• 提案アルゴリズムは、lsqnonnegよりも最大100倍高速であり、大規模なスペクトルライブラリに対しても、ピクセルあたり平均0.13秒未満の実行時間で実現した。
• 相関が高い特徴を持つUSGSスペクトルライブラリでは、問題の悪条件性のため性能が低下するが、C-SUnSALは依然としてSNRおよび速度の両面でlsqnonnegを上回った。
• 50 dB SNRのUSGSライブラリにおいて、C-SUnSALは14.5 dBのRSNRを達成したのに対し、lsqnonnegはわずか10 dBにとどまり、実世界のスペクトル変動に対して高いロバストネスを示した。
• 200イテレーション以内に安定して収束し、凸性および制約行列のフルランク性により理論的収束保証が満たされた。
• SUnSALおよびC-SUnSALは、特に高次元的でノイズが多く、スパースな分離タスクにおいて、市販のソルバーよりも精度が高く、高速であることが示された。