[論文レビュー] Near-optimal analysis of univariate moment bounds for polynomial optimization

Monique Laurent, Lucas Slot|arXiv (Cornell University)|Jan 30, 2020

Advanced Optimization Algorithms Research参考文献 5被引用数 5

ひとこと要約

本稿は、多項式最適化における1変数モーメントに基づく階層の分析を行い、コンパクト集合 $ K $ にややきつい幾何的条件（例：凸性）が課された場合、その収束速度が $ O(\log^2 r / r^2) $ であることを示している。この分析は近似的に最適であり、$ [-1,1] $ 上の多項式に対しては、$ \Omega(1/r^2) $ の下界が確立されており、直交多項式との関係が利用されている。

ABSTRACT

We consider a recent hierarchy of upper approximations proposed by Lasserre (arXiv:1907.097784, 2019) for the minimization of a polynomial $f$ over a compact set $K \subseteq \mathbb{R}^n$. This hierarchy relies on using the push-forward measure of the Lebesgue measure on $K$ by the polynomial $f$ and involves univariate sums of squares of polynomials with growing degrees $2r$. Hence it is weaker, but cheaper to compute, than an earlier hierarchy by Lasserre (SIAM Journal on Optimization 21(3), 864--885, 2011), which uses multivariate sums of squares. We show that this new hierarchy converges to the global minimum of $f$ at a rate in $O(\log^2 r / r^2)$ whenever $K$ satisfies a mild geometric condition, which holds, e.g., for convex bodies. As an application this rate of convergence also applies to the stronger hierarchy based on multivariate sums of squares, which extends earlier convergence results to a wider class of compact sets. Furthermore, we show that our analysis is near-optimal by proving a lower bound on the convergence rate in $\Omega(1/r^2)$ for a class of polynomials on $K=[-1,1]$, obtained by exploiting a connection to orthogonal polynomials.

研究の動機と目的

• 1変数モーメントに基づく階層の収束速度を分析すること。この階層は、押し出し測度と1変数の平方和（SOS）を用いる。
• 許容領域 $ K $ がややきつい幾何的条件（例：凸体であること）を満たす場合、この階層が $ O(\log^2 r / r^2) $ の速度で収束することを確立すること。
• 1変数解析を活用して、より強い多変数SOS階層への収束速度結果を拡張すること。
• 特定の多項式クラス $ [-1,1] $ 上で、上界と一致する $ \Omega(1/r^2) $ の下界を証明することで、上界のタイトさを示すこと。

提案手法

• Lebesgue測度を多項式 $ f $ で押し出し、その結果得られる測度の1変数モーメント問題に還元することで、問題を単純化する。
• 次数 $ 2r $ の増加する1変数多項式の平方和を用いる。これは多変数SOS緩和よりも計算コストが低い。
• 近似理論と直交多項式の道具を用いて収束分析を行う。特に、レジェンドル多項式およびチェビシェフ多項式の極値性質を活用する。
• 主要な技術的ステップとして、直交展開における係数の減衰を用いて、モーメント近似の誤差を評価する。
• 下界は、上界と一致する収束速度を持つ特定の $ [-1,1] $ 上の多項式族を構成することで得られる。これには、直交多項式の既知の漸近的性質が利用される。
• 収束速度は、押し出し測度の正則性と $ K $ の幾何的性質（特にミンコフスキー汎関数や曲率条件）に依存しており、それらと関連づけられる。

実験結果

リサーチクエスチョン

• RQ1 許容領域 $ K $ にややきつい幾何的仮定がある場合、多項式最適化における1変数モーメントに基づく階層の収束速度は何か？
• RQ2 この1変数階層の収束速度が近似的に最適であることが示せるか？ すなわち、一致する下界が存在するか？
• RQ3 1変数階層の収束速度結果は、より強い多変数SOS階層へ拡張可能か？
• RQ4 直交多項式は、この文脈におけるモーメント近似の収束挙動にどのように影響を与えるか？
• RQ5 収束速度は次数 $ r $ にどのように依存するか？ そして $ O(\log^2 r / r^2) $ が最良の可能性があるか？

主な発見

• コンパクト集合 $ K $ がややきつい幾何的条件（例：凸性）を満たす場合、1変数モーメントに基づく階層は、グローバル最小値へ $ O(\log^2 r / r^2) $ の速度で収束する。
• この収束速度は、$ [-1,1] $ 上の多項式クラスに対して $ \Omega(1/r^2) $ の下界が確立されることから、近似的に最適であることが示された。
• この分析により、より強い多変数SOS階層についても、同様のコンパクト集合クラスに対して $ O(\log^2 r / r^2) $ の収束速度が成立することが示された。
• 下界は、特に $ L^1 $-ノルムにおける直交多項式の極値的挙動を活用して導出された。
• 結果として、理論的には弱い1変数アプローチでも、広範な多項式最適化問題において実用的にほぼ最適な収束速度を達成することが示された。
• 直交多項式との関連は、モーメントに基づく多項式最適化における収束の理解に新たな解析的ツールを提供する。