[論文レビュー] Convexification of Permutation-Invariant Sets and Applications

Jinhak Kim, Mohit Tawarmalani+1 more|arXiv (Cornell University)|Oct 7, 2019

Sparse and Compressive Sensing Techniques参考文献 12被引用数 4

ひとこと要約

本稿では、置換および符号不変集合の凸化技術を導入し、スパース最適化におけるより緊密な緩和を可能にする。新しい凸包を導出し、スパースPCAの定式化を改善し、外部積緩和において古典的結果を一般化する。0-1論理制約のための古典的結果を一般化する。

ABSTRACT

We develop techniques to convexify a set that is invariant under permutation and/or change of sign of variables and discuss applications of these results. First, we convexify the intersection of the unit ball of a permutation and sign-invariant norm with a cardinality constraint. This gives a nonlinear formulation for the feasible set of sparse principal component analysis (Sparse PCA), and an alternative proof of the $K$-support norm. Second, we develop new relaxations for the exterior product of sparse vectors and show numerically that, on several problem instances, our relaxation closes 95% of the gap left by the relaxation in the literature. Third, we derive convex and concave envelopes of various permutation-invariant nonlinear functions and their level-sets over hypercubes, with congruent bounds on all variables. Finally, we study permutation-invariant sets in $0-1$ variables, including those that arise in the formulation of various logical requirements. For these models, we project the convex hull descriptions in the space of original variables, generalizing several classical results.

研究の動機と目的

• 変数の置換および符号変更に対して不変な集合の凸化技術の開発。
• 特にスパース主成分分析（Sparse PCA）において、より緊密な凸緩和を提供すること。
• 元の変数空間への投影を用いて、0-1論理制約の古典的凸包記述を一般化すること。
• 対称な境界を持つ超立方体上での置換不変非線形関数の凸および凹包の導出。

提案手法

• 置換および符号不変ノルムの単位球と順序制約の交差を、対称性の性質を用いて凸化する。
• 対称構造の利用によるスパースベクトルの外部積のための非線形凸緩和の開発。
• 対称な境界を用いた超立方体上での置換不変関数の凸および凹包の導出。
• 0-1置換不変集合のための凸包記述を、拡張空間から元の変数空間に投影する。
• これらの技術を用いて、凸化に基づく別証明により$K$-サポートノルムを再導出する。
• 既存の文献と比較して双対ギャップを評価することにより、緩和の品質の数値的検証。

実験結果

リサーチクエスチョン

• RQ1 置換および符号不変集合は、どのようにしてスパース最適化における緩和を改善するために凸化できるか？
• RQ2 スパースベクトルの外部積の凸緩和は、従来の手法と比較して双対ギャップをどの程度まで縮小できるか？
• RQ3 対称な超立方体上での置換不変非線形関数の最も緊密な凸および凹包は何か？
• RQ4 0-1置換不変集合の凸包は、どのようにして元の変数空間に再投影され、古典的結果を一般化できるか？

主な発見

• 外部積のための提案された緩和は、テストされた問題例において、既存の文献が残した双対ギャップの95%を埋める。
• 置換および符号不変ノルムの単位球と順序制約の交差は、スパースPCAのための非線形凸定式化をもたらす。
• 対称集合の凸化を用いた別証明により、$K$-サポートノルムが再導出される。
• 同一の変数境界を持つ超立方体上でのさまざまな置換不変関数の凸および凹包が導出される。
• 0-1論理制約のための凸包記述を元の変数空間に投影することにより、古典的結果を一般化する。
• このフレームワークにより、さまざまな対称最適化問題におけるより緊密な緩和が可能となり、スパースおよび組合せ的設定での解の品質が向上する。