[论文解读] Stable Recovery with Analysis Decomposable Priors

M.J. Fadili, Gabriel Peyré+3 more|arXiv (Cornell University)|Apr 16, 2013

Numerical methods in inverse problems参考文献 7被引用 13

一句话总结

本文通过基于线性算子组合的可分解范数的统一框架，为通过分析型可分解先验（如总变差、组lasso和核范数）正则化的线性反问题，建立了唯一且稳定恢复解的充分条件。关键贡献是提出了一种类强零空间性质条件，确保了唯一性，并给出了与噪声水平 $\Vert w \Vert_2 \leq \varepsilon$ 成比例的 $\Vert x^* - x_0 \Vert_2$ 稳定性界，即使在未完全恢复真实解结构的情况下也成立。

ABSTRACT

In this paper, we investigate in a unified way the structural properties of solutions to inverse problems. These solutions are regularized by the generic class of semi-norms defined as a decomposable norm composed with a linear operator, the so-called analysis type decomposable prior. This encompasses several well-known analysis-type regularizations such as the discrete total variation (in any dimension), analysis group-Lasso or the nuclear norm. Our main results establish sufficient conditions under which uniqueness and stability to a bounded noise of the regularized solution are guaranteed. Along the way, we also provide a strong sufficient uniqueness result that is of independent interest and goes beyond the case of decomposable norms.

研究动机与目标

• 统一分析基于分析型可分解先验正则化的反问题中的结构特性。
• 建立确保在有界噪声下唯一且稳定恢复真实解的充分条件。
• 将现有零空间性质和稳定性结果推广至 $\rVert \cdot \rVert_1$ 情况和 $L = \mathrm{Id}$ 之外的情形。
• 提供一种框架，确保在无需完全恢复真实解稀疏结构的情况下仍具有稳定性。
• 在最小假设下，将稳定性保证扩展至包括总变差和低秩先验在内的广泛正则化器类别。

提出的方法

• 引入一般正则化框架 $ R(x) = \rVert L^*x \rVert_{\mathcal{A}} $，其中 $ \rVert \cdot \rVert_{\mathcal{A}} $ 为可分解范数。
• 采用源条件 $ \Phi^*\eta = L\alpha \in \partial R(x) $ 来刻画最优性和唯一性。
• 提出强零空间性质：对所有 $ h \in \ker(\Phi) \setminus \{0\} $，有 $ \langle L_T^*h, e \rangle < \rVert L_S^*h \rVert_{\mathcal{A}}^* $，以确保唯一性。
• 通过将 $ x^* - x_0 $ 分解为 $ \ker(L_{S_0}^*) $ 和 $ \mathrm{Im}(L_{S_0}^*) $ 中的分量，结合单射性和范数不等式，推导出稳定性界。
• 利用对偶范数 $ \rVert \cdot \rVert_{\mathcal{A}}^* $ 和 Fenchel-Young 不等式，对 $ \ell_2 $-范数中的重构误差进行上界估计。
• 应用广义的受限特征值型条件（INJ_T）以在数据保真项的范围内控制误差的 $ \ell_2 $-范数。

实验结果

研究问题

• RQ1 在何种条件下，分析型正则化反问题的解是唯一确定的？
• RQ2 在有界噪声下，何种条件能确保解的 $ \ell_2 $-稳定性，而无需完全恢复真实解的结构？
• RQ3 如何将经典零空间性质推广至非 $ \ell_1 $ 和非恒等分析算子的情形？
• RQ4 能否在最小假设下，为包括总变差和核范数在内的广泛正则化器类别保证稳定性？
• RQ5 稳定性界在多大程度上可与真实解稀疏结构的精确恢复解耦？

主要发现

• 提出了一种类强零空间性质条件，可保证分析型正则化反问题最小化解的唯一性。
• 论文证明，在所提条件下，噪声问题解 $ x^* $ 的 $ \ell_2 $-稳定性被有界于噪声水平 $ \varepsilon $ 的常数倍，具体为 $ \rVert x^* - x_0 \rVert_2 \leq C \cdot \varepsilon $。
• 该稳定性界在无需完全恢复真实解稀疏结构 $ T_0 $ 和向量 $ e_0 $ 的前提下推导得出，因此对模型失配具有鲁棒性。
• 源条件 $ \Phi^*\eta = L\alpha \in \partial R(x) $ 被证明对唯一性和稳定性是充分的，推广了已知的 $ \ell_1 $-正则化结果。
• 该分析适用于通过一般形式 $ R(x) = \rVert L^*x \rVert_{\mathcal{A}} $ 与可分解范数 $ \rVert \cdot \rVert_{\mathcal{A}} $ 关联的广泛正则化器类别，包括总变差、组lasso和核范数。
• 稳定性结果适用于优化问题的正则化形式和数据保真约束形式，仅需调整常数。