[論文レビュー] Counterexample to global convergence of DSOS and SDSOS hierarchies

Cédric Josz|arXiv (Cornell University)|Jul 10, 2017

Advanced Optimization Algorithms Research参考文献 5被引用数 4

ひとこと要約

本稿は、多項式最適化におけるDSOSおよびSDSOS階層のグローバル収束について反例を提示する。線形および第二順序錐プログラミングに基づくこれらの手法が、グローバルな下界に収束しない可能性があることを示している。著者らは、緩和次数を増加させても、これらの階層が真の最適値に近づかないことがあることを示しており、既存の文献におけるそれらのグローバル収束性およびSOS最適化の代替手法としての実行可能性に関する主張に反する。

ABSTRACT

We exhibit a convex polynomial optimization problem for which the diagonally-dominant sum-of-squares (DSOS) and the scaled diagonally-dominant sum-of-squares (SDSOS) hierarchies, based on linear programming and second-order conic programming respectively, do not converge to the global infimum. The same goes for the r-DSOS and r-SDSOS hierarchies. This refutes the claim in the literature according to which the DSOS and SDSOS hierarchies can solve any polynomial optimization problem to arbitrary accuracy. In contrast, the Lasserre hierarchy based on semidefinite programming yields the global infimum and the global minimizer with the first order relaxation. We further observe that the dual to the SDSOS hierarchy is the moment hierarchy where every positive semidefinite constraint is relaxed to all necessary second-order conic constraints. As a result, the number of second-order conic constraints grows quadratically in function of the size of the positive semidefinite constraints in the Lasserre hierarchy. Together with the counterexample, this suggests that DSOS and SDSOS are not necessarily more tractable alternatives to sum-of-squares.

研究の動機と目的

• DSOSおよびSDSOS階層が多項式最適化問題の最適解にグローバルに収束すると広く信じられている考えを挑戦すること。
• DSOSおよびSDSOS階層がグローバル下界に収束しない、明確な凸多項式最適化問題を提示すること。
• SDSOS階層とモーメント階層の関係、特に制約緩和の観点から明確にすること。
• DSOSおよびSDSOSが半正定値プログラミングに基づくSOS手法よりも本質的に実行可能であるという仮定を疑問視すること。

提案手法

• 一意なグローバル最小解とコンパクトな実行可能集合を有する特定の凸多項式最適化問題を構築すること。
• DSOSおよびSDSOS階層を適用すること。これらは、ラッセルレ階層における半正定値制約をそれぞれ線形制約および第二順序錐制約に置き換える。
• プティナールのポジティビスティェレンツァトを用いて、同じ問題におけるラッセルレ階層のグローバル収束性を確立すること。
• SDSOS階層の双対問題を分析し、すべての半正定値制約が必要な第二順序錐制約に緩和されることを示すこと。
• 第二順序錐制約の数が元の半正定値制約のサイズに二次的に増加することを示すこと。
• 背理法を用いて、目的関数のスケーリング版に対するSDSOS表現が存在しないことを証明し、SDSOS階層の収束しないことを示すこと。

実験結果

リサーチクエスチョン

• RQ1 DSOS階層は、すべての凸多項式最適化問題の最適解にグローバルに収束するのか？
• RQ2 緩和次数を増加させても、SDSOS階層がグローバル下界に収束しないことがあるのか？
• RQ3 収束性の観点から、SDSOS階層はラッセルレ階層よりも厳密に弱いか？
• RQ4 グローバル収束に失敗する可能性があるにもかかわらず、DSOSおよびSDSOS階層はSOS最適化よりも真に実行可能なのか？
• RQ5 SDSOS階層の双対問題とモーメント階層の正確な関係は何か？

主な発見

• DSOSおよびSDSOS階層がグローバル下界に収束しない、凸多項式最適化問題が構築された。緩和次数を増加させても同様である。
• 半正定値プログラミングに基づくラッセルレ階層は、最初の緩和次数でグローバル最小解を正しく特定し、グローバルに収束する。
• SDSOS階層の双対問題は、すべての半正定値制約を必要な第二順序錐制約に緩和したものに対応し、制約数が二次的に増加する。
• SDSOS階層は、制約下で目的関数のスケーリング版を二乗和として表現できないため、非収束性が証明された。
• r-DSOSおよびr-SDSOS階層も、同じ反例に対してグローバルに収束しない。
• DSOSおよびSDSOS階層が任意の精度で多項式最適化問題を解けるという文献上の主張は、反証された。