[论文解读] Robust Polyhedral Regularization

Jalal Fadili, Gabriel Peyré+1 more|arXiv (Cornell University)|Sep 9, 2013

Sparse and Compressive Sensing Techniques参考文献 7被引用 4

一句话总结

本文在有噪声条件下建立了线性反问题中多面体正则化鲁棒恢复的充分条件。它基于正则化单位球的几何结构提出了一种类可识别性准则，确保当噪声有界时，真实解与恢复解位于同一多面体面。关键结果表明，当正则化参数选择适当时，ℓ2 恢复误差与噪声水平成正比，推广了已知的 ℓ1 和 ℓ∞ 类惩罚的结果。

ABSTRACT

Publication in the conference proceedings of SampTA, Bremen, Germany, 2013

研究动机与目标

• 在有界噪声扰动下，为线性反问题中的多面体正则化建立鲁棒性保证。
• 将现有关于 ℓ1 和分析 ℓ1 正则化的稳定性结果推广到任意多面体范数。
• 为分析各类正则化（包括 ℓ∞ 和 ℓ1−ℓ∞）的恢复稳定性提供统一框架。
• 推导出一个充分条件，确保真实信号的 H-支撑（面）在恢复解中得以保持。
• 在所提准则下，量化 ℓ2 恢复误差与噪声水平的正比关系。

提出的方法

• 将向量的 H-支撑定义为多面体规范次微分中活动超平面的集合。
• 定义受限单射性条件（CI），确保传感算子 Φ 在活动超平面矩阵 H∗_I 的核空间上是单射的。
• 提出可识别性准则 ICH(I)，其形式为一个涉及传感算子伪逆及活动子空间正交补投影的线性规划。
• 利用源条件与次微分分析，推导出正则化问题的一阶最优性条件。
• 以真实信号 x0、噪声 w 和投影算子 Γ⊥_I 的形式，推导出解 x⋆ 的显式表达式。
• 证明当 ICH(I) > 0 且 λ 在特定范围内选取时，解 x⋆ 与 x0 位于同一面。

实验结果

研究问题

• RQ1 在何种条件下，多面体正则化可在有界噪声下保持真实信号的 H-支撑？
• RQ2 对于一般多面体正则化，ℓ2 恢复误差如何以噪声水平为基准进行有界？
• RQ3 正则化单位球的几何结构在决定恢复稳定性方面起什么作用？
• RQ4 ℓ1 和分析 ℓ1 的稳定性保证能否推广到 ℓ∞ 和 ℓ1−ℓ∞ 等其他多面体范数？
• RQ5 确保稳定恢复并保持面结构的正则化参数 λ 的精确范围是什么？

主要发现

• 可识别性准则 ICH(I) > 0 是充分条件，可确保恢复解 x⋆ 与真实信号 x0 位于同一多面体面。
• 当 ICH(I) > 0 且正则化参数 λ 满足 cI||w||2 < λ < T ˜cI 时，解 x⋆ 唯一且满足 suppH(x⋆) = suppH(x0)。
• 当 λ 与噪声水平成正比选取时，ℓ2 恢复误差 ||x⋆ − x0||2 为 O(||w||2)。
• 该准则推广了已知的 ℓ1 和分析 ℓ1 正则化结果，并可作为 ℓ∞ 和 ℓ1−ℓ∞ 正则化的特例应用。
• 在无噪声情况下，ICH(I) > 0 意味着 x0 是等式约束问题 (P0(y)) 的唯一解。
• 可识别性准则 ICH(I) 可通过涉及伪逆与活动子空间上投影算子的线性规划计算得出。