[論文レビュー] Solution Uniqueness of Convex Piecewise Affine Functions Based Optimization with Applications to Constrained $\ell_1$ Minimization

Seyedahmad Mousavi, Jinglai Shen|arXiv (Cornell University)|Nov 16, 2017

Sparse and Compressive Sensing Techniques参考文献 16被引用数 13

ひとこと要約

本稿は、一般の多面体的制約下での凸区分線形（PA）関数を含む凸最適化問題における解の一意性に関する、双変数に基づく必要十分条件を確立する。PA関数のmax表現と凸解析を活用することで、基底追跡、LASSO、Dantzig選択子などに適用可能な統一的かつ検証可能な一意性条件を導出する。また、先行研究における制限的仮定を排除する、効果的な線形計画法に基づく検証手法を提示する。

ABSTRACT

In this paper, we study the solution uniqueness of an individual feasible vector of a class of convex optimization problems involving convex piecewise affine functions and subject to general polyhedral constraints. This class of problems incorporates many important polyhedral constrained $\ell_1$ recovery problems arising from sparse optimization, such as basis pursuit, LASSO, and basis pursuit denoising, as well as polyhedral gauge recovery. By leveraging the max-formulation of convex piecewise affine functions and convex analysis tools, we develop dual variables based necessary and sufficient uniqueness conditions via simple and yet unifying approaches; these conditions are applied to a wide range of $\ell_1$ minimization problems under possible polyhedral constraints. An effective linear program based scheme is proposed to verify solution uniqueness conditions. The results obtained in this paper not only recover the known solution uniqueness conditions in the literature by removing restrictive assumptions but also yield new uniqueness conditions for much broader constrained $\ell_1$-minimization problems.

研究の動機と目的

• 任意の多面体的制約下でのℓ1最小化における一般化された解の一意性条件の欠如に対処すること。
• 線形不等式制約を伴う凸区分線形（PA）最適化問題における解の一意性を分析する統一的枠組みを構築すること。
• 双変数を用いた個々の実行可能ベクトルの一意性の必要十分条件を提供すること。
• 基底追跡、LASSO、BPDNに対する既存の一意性結果を、フルランクや非一貫性条件などの制限的仮定を排除することで拡張すること。
• 一意性条件の検証に適した、線形計画法に基づく効率的な検証スキームを提案すること。

提案手法

• 凸PA関数のmax表現を用いて、一意性条件の導出を単純化・統一化する。
• 特に法線錐と双対性を含む凸解析のツールを適用し、双変数に基づく条件を導出する。
• 特定の双対証明が方程式および不等式系を満たす存在を通じて、必要十分な一意性条件を導出する。
• 摂動に基づく再定式化を用いて、厳密な不等式条件を解ける線形計画問題に変換する。
• 明示的な実行可能性および正の制約を備えた線形計画問題として定式化することで、一意性チェックの体系的検証スキームを提案する。
• 一般の線形不等式制約下で、基底追跡、LASSO、BPDN、Dantzig選択子を含むℓ1最小化問題にこの枠組みを適用する。

実験結果

リサーチクエスチョン

• RQ1 多面体的制約を伴う凸PA最適化における実行可能解の一意性の必要十分条件は何か？
• RQ2 双変数を用いて、一貫的かつ計算的に扱いやすい方法で解の一意性を特徴づける方法は何か？
• RQ3 提案された枠組みは、基底追跡やLASSOのような既知の一意性条件を回復し、一般化できるか？
• RQ4 一意性基準における厳密な不等式条件を実際の応用で効果的に検証する方法は何か？
• RQ5 提案された線形計画法に基づく検証スキームを用いた解の一意性検証の計算複雑度は何か？

主な発見

• 本稿は、先行研究よりも単純かつより一般的な双変数に基づく必要十分条件を導出し、解の一意性を確立する。
• 提案された条件は、フルランクや非一貫性条件といった制限的仮定を必要とせず、基底追跡、LASSO、BPDNの一意性結果を回復する。
• 正の制約を備えた解ける線形計画問題に変換する、新しい線形計画法に基づく検証スキームを構築した。
• 一般の線形不等式制約下で、スパース融合LASSOやDantzig選択子を含む広範なℓ1最小化問題にこの枠組みを適用可能である。
• 現代のLPソルバーを用いることで、検証の計算複雑度がO(N^3 / log N)であることが示され、スパース問題において計算的に効率的である。
• 従来のアプローチが制限的仮定により失敗する高次元設定においても、本手法は効果的な一意性検証を可能にする。