[论文解读] Solution Uniqueness of Convex Piecewise Affine Functions Based Optimization with Applications to Constrained $\ell_1$ Minimization

Seyedahmad Mousavi, Jinglai Shen|arXiv (Cornell University)|Nov 16, 2017

Sparse and Compressive Sensing Techniques参考文献 16被引用 13

一句话总结

本文在一般多面体约束下，针对涉及凸分段仿射（PA）函数的凸优化问题，建立了基于双变量的解唯一性的必要与充分条件。通过利用PA函数的极大值表述形式与凸分析，推导出统一且可验证的唯一性条件，适用于ℓ1最小化问题（如基追踪、LASSO与Dantzig选择器），并提出一种有效的线性规划验证方法，消除了先前工作中存在的限制性假设。

ABSTRACT

In this paper, we study the solution uniqueness of an individual feasible vector of a class of convex optimization problems involving convex piecewise affine functions and subject to general polyhedral constraints. This class of problems incorporates many important polyhedral constrained $\ell_1$ recovery problems arising from sparse optimization, such as basis pursuit, LASSO, and basis pursuit denoising, as well as polyhedral gauge recovery. By leveraging the max-formulation of convex piecewise affine functions and convex analysis tools, we develop dual variables based necessary and sufficient uniqueness conditions via simple and yet unifying approaches; these conditions are applied to a wide range of $\ell_1$ minimization problems under possible polyhedral constraints. An effective linear program based scheme is proposed to verify solution uniqueness conditions. The results obtained in this paper not only recover the known solution uniqueness conditions in the literature by removing restrictive assumptions but also yield new uniqueness conditions for much broader constrained $\ell_1$-minimization problems.

研究动机与目标

• 解决在任意多面体约束下ℓ1最小化缺乏通用解唯一性条件的问题。
• 为具有线性不等式约束的凸分段仿射（PA）优化问题，构建统一的解唯一性分析框架。
• 通过对偶变量，为单个可行向量的唯一性提供必要与充分条件。
• 通过消除限制性假设，扩展现有对基追踪、LASSO与BPDN的唯一性结果。
• 提出一种基于线性规划的高效验证方案，用于检查唯一性条件。

提出的方法

• 利用凸PA函数的极大值表述形式，简化并统一唯一性条件的推导过程。
• 应用凸分析工具，特别是法锥与对偶性，推导基于对偶变量的条件。
• 通过存在满足方程组与不等式组的特定对偶证书，推导出必要与充分的唯一性条件。
• 通过基于扰动的重构方法，将严格不等式条件转化为可解的线性规划问题。
• 通过将唯一性检查形式化为带有显式可行性与正性约束的线性规划，提出系统化的验证方案。
• 将该框架应用于一般多面体约束下的ℓ1最小化问题，包括基追踪、LASSO、BPDN与Dantzig选择器。

实验结果

研究问题

• RQ1 在多面体约束下，凸PA优化问题的可行解唯一性的必要与充分条件是什么？
• RQ2 如何利用对偶变量以统一且计算上可行的方式表征解的唯一性？
• RQ3 所提出的框架能否恢复并推广已知的ℓ1最小化问题（如基追踪与LASSO）的唯一性条件？
• RQ4 在实践中，唯一性准则中的严格不等式条件如何被有效验证？
• RQ5 使用所提出的线性规划方案验证解唯一性的计算复杂度是多少？

主要发现

• 本文推导出基于对偶变量的必要与充分唯一性条件，其形式比以往结果更简洁且更具普适性。
• 所提出的条件在无需全秩或相干性等限制性假设的前提下，恢复了基追踪、LASSO与BPDN的已知唯一性结果。
• 提出了一种新的基于线性规划的验证方案，将严格不等式检查转化为带有正性约束的可解线性规划问题。
• 该框架适用于广泛类别的ℓ1最小化问题，包括稀疏融合LASSO与Dantzig选择器，在一般线性不等式约束下均适用。
• 通过现代LP求解器，验证复杂度被证明为O(N^3 / log N)，对稀疏问题具有计算高效性。
• 该方法即使在传统方法因限制性假设而失效的高维场景下，也能实现有效的唯一性验证。