[论文解读] Alternating Direction Algorithms for Constrained Sparse Regression: Application to Hyperspectral Unmixing

José M. Bioucas‐Dias, Mário A. T. Figueiredo|arXiv (Cornell University)|Feb 24, 2010

Remote-Sensing Image Classification参考文献 18被引用 53

一句话总结

本文提出SUnSAL与C-SUnSAL两种基于交替方向乘数法（ADMM）的算法，用于求解高光谱解混中的约束稀疏回归问题。这些方法在合成与真实光谱数据上，相较于现成的求解器，以更快的收敛速度和更高的精度求解CLS、FCLS、CBP与CBPDN问题，实现最高达100倍的速度提升，并改善了重建信噪比（SNR）。

ABSTRACT

Convex optimization problems are common in hyperspectral unmixing. Examples include: the constrained least squares (CLS) and the fully constrained least squares (FCLS) problems, which are used to compute the fractional abundances in linear mixtures of known spectra; the constrained basis pursuit (CBP) problem, which is used to find sparse (i.e., with a small number of non-zero terms) linear mixtures of spectra from large libraries; the constrained basis pursuit denoising (CBPDN) problem, which is a generalization of BP that admits modeling errors. In this paper, we introduce two new algorithms to efficiently solve these optimization problems, based on the alternating direction method of multipliers, a method from the augmented Lagrangian family. The algorithms are termed SUnSAL (sparse unmixing by variable splitting and augmented Lagrangian) and C-SUnSAL (constrained SUnSAL). C-SUnSAL solves the CBP and CBPDN problems, while SUnSAL solves CLS and FCLS, as well as a more general version thereof, called constrained sparse regression (CSR). C-SUnSAL and SUnSAL are shown to outperform off-the-shelf methods in terms of speed and accuracy.

研究动机与目标

• 解决现有求解器在高光谱解混中约束稀疏回归（CSR）问题上的计算低效问题。
• 开发针对CSR问题特定结构（包括非负性与丰度和约束）的高效算法。
• 提升在大规模光谱库与噪声观测条件下高光谱解混任务的解算精度与收敛速度。
• 提供统一框架，通过单一算法族求解多种CSR变体：CLS、FCLS、CBP与CBPDN。
• 展示所提算法相较于MATLAB的lsqnonneg等标准优化工具在速度与重建质量上的优越性。

提出的方法

• 将CSR问题（CLS、FCLS、CBP、CBPDN）建模为带有非负性与丰度和约束的凸优化问题。
• 采用变量分裂技术，将原始问题分解为适合ADMM分解的子问题。
• 利用增广拉格朗日法施加约束，并实现对分裂变量的交替最小化。
• 通过将ADMM框架适配至不同问题结构，推导出SUnSAL用于CLS/FCLS，C-SUnSAL用于CBP/CBPDN。
• 通过验证目标函数为正规、凸、下确连续且强制，且约束矩阵具有满列秩，确保收敛性。
• 在可能的情况下，使用闭式解实现对偶变量与原始变量的迭代更新，从而实现每轮迭代的快速计算。

实验结果

研究问题

• RQ1 基于ADMM的算法能否被有效适配以解决高光谱解混中约束稀疏回归问题，并实现更高的速度与精度？
• RQ2 SUnSAL与C-SUnSAL相较于标准求解器（如lsqnonneg）在重建信噪比（SNR）与计算时间方面表现如何？
• RQ3 光谱库结构（如高斯i.i.d.与真实世界USGS材料）对算法性能有何影响？
• RQ4 C-SUnSAL中引入ℓ₁-范数正则化是否在不牺牲真实数据精度的前提下获得更稀疏的解？
• RQ5 所提算法在何种条件下收敛？其理论收敛保证在实际解混场景中是否成立？

主要发现

• SUnSAL与C-SUnSAL的重建信噪比（RSNR）显著高于lsqnonneg，在高斯库上最高提升达48 dB，在USGS库上提升达23 dB。
• 所提算法相较于lsqnonneg最快可提升100倍，平均每个像素的执行时间低于0.13秒，即使在大规模光谱库下亦表现优异。
• 在USGS光谱库（具有高度相关光谱特征）上，性能因问题病态化而下降，但C-SUnSAL在SNR与速度上仍优于lsqnonneg。
• 在USGS库上，C-SUnSAL在50 dB SNR下实现14.5 dB RSNR，而lsqnonneg仅达10 dB，表明其对真实世界光谱变异具有更强鲁棒性。
• 算法在200次迭代内可稳定收敛，理论收敛保证因目标函数的凸性及约束矩阵的满列秩而成立。
• SUnSAL与C-SUnSAL被证明在高维、噪声大与稀疏解混场景下，比现成求解器更准确且更快速。