[論文レビュー] Hidden Convexity in the l0 Pseudonorm

Jean‐Philippe Chancelier, Michel De Lara|arXiv (Cornell University)|Jun 7, 2019

Point processes and geometric inequalities参考文献 16被引用数 7

ひとこと要約

本稿は、非凸な l0 仮想ノルムに隠された凸性を明らかにする新しい共役枠組み E-Capra を導入する。この新しい双対性のもとで、l0 仮想ノルムが自身の二重共役に等しくなることを示し、その結果、非凸性が隠れていることが解明される。主な貢献は、l0 仮想ノルムが E-Capra-凸であることを証明することであり、これは、組合せ的かつ非凸的であるにもかかわらず、単位球面上でそれと一致する適切な凸下準連続関数が存在することを示唆している。

ABSTRACT

The so-called l0 pseudonorm counts the number of nonzero components of a vector of a Euclidian space. It is well-known that the l0 pseudonorm is not convex, as its Fenchel biconjugate is zero. In this paper, we introduce a suitable conjugacy, induced by a novel coupling, E-Capra, that has the property of being constant along primal rays like the l0 pseudonorm. The coupling E-Capra belongs to the class of one-sided linear couplings, that we introduce; we show that they induce conjugacies that share nice properties with the classic Fenchel conjugacy. For the E-Capra conjugacy, induced by the coupling E-Capra, we relate the E-Capra conjugate and biconjugate of the l0 pseudonorm, the characteristic functions of its level sets and the sequence of so-called top-k norms. In particular, we prove that the l0 pseudonorm is equal to its biconjugate: hence, the l0 pseudonorm is E-Capra-convex in the sense of generalized convexity. As a corollary, we show that there exists a proper convex lower semicontinuous function such that this function and the l0 pseudonorm coincide on the Euclidian unit sphere. This hidden convexity property is somewhat surprising as the l0 pseudonorm is a highly nonconvex function of combinatorial nature. We provide different expressions for this proper convex lower semicontinuous function, and we give explicit formulas in the two-dimensional case.

研究の動機と目的

• l0 仮想ノルムが極めて非凸的かつ組合せ的であるため、スパース回復における最適化が困難であるという根本的課題に対処すること。
• l0 仮想ノルムが保持するレイ射線定数性を保つ一般化された共役枠組みを構築し、新たな双対性ツールを可能にすること。
• 新しい結合のもとで l0 仮想ノルムが自身の二重共役に等しいことを証明することで、l0 仮想ノルムが E-Capra-凸であることを確立すること。
• l0 仮想ノルムがユークリッド単位球面上で一致する適切な凸下準連続関数を構築すること。
• 特に二次元のような低次元の場合に、この凸関数の明示的公式を提供すること。

提案手法

• 一方向線形結合と呼ばれる新しい結合クラスを導入し、Fenchel 共役を一般化するとともに、レイ射線定数性を保持する。
• E-Capra 結合を、一方向線形結合の特定の例として定義し、主双対射線に沿った l0 仮想ノルムの挙動に適合するように設計する。
• l0 仮想ノルムに E-Capra 共役を適用し、結合の性質を用いてその共役および二重共役を導出する。
• l0 仮想ノルムの E-Capra 二重共役とそのレベル集合の特性関数との間の明確な関係を確立する。
• E-Capra 共役を通じて、l0 仮想ノルムとトップ-k ノルムの系列との関連を明らかにし、構造的つながりを解明する。
• 特に R² において、単位球面上で l0 仮想ノルムと一致する凸関数の明示的表現を導出する。

実験結果

リサーチクエスチョン

• RQ1 非凸関数としての l0 仮想ノルムが、一般化された共役枠組みのもとで凸であることを示せるか？
• RQ2 E-Capra 結合のもとで l0 仮想ノルムが自身の二重共役に等しくなるか、すなわち E-Capra-凸性が成立するか？
• RQ3 l0 仮想ノルムがユークリッド単位球面上で一致する適切な凸下準連続関数が存在するか？
• RQ4 l0 仮想ノルムのレベル集合は、その E-Capra 共役および二重共役とどのように関係しているか？
• RQ5 R² などの低次元空間において、この凸関数の明示的形はどのようなものか？

主な発見

• l0 仮想ノルムは自身の E-Capra 二重共役に等しくなることが示され、これは l0 仮想ノルムが E-Capra-凸であることを証明する。この凸性は、標準的な Fenchel 共役では見えない、隠れた凸性である。
• l0 仮想ノルムが非凸的であるにもかかわらず、ユークリッド単位球面上でそれと一致する適切な凸下準連続関数が存在する。
• l0 仮想ノルムの E-Capra 共役および二重共役は、そのレベル集合の特性関数と明示的に関係している。
• E-Capra 共役を通じて、l0 仮想ノルムとトップ-k ノルムの系列との間の深い構造的つながりが明らかになった。
• 二次元では、単位球面上で l0 仮想ノルムと一致する凸関数が明示的な閉形式で表せる。