[論文レビュー] A Faster Small Treewidth SDP Solver

Yuzhou Gu, Zhao Song|arXiv (Cornell University)|Nov 11, 2022

Advanced Optimization Algorithms Research被引用数 4

ひとこと要約

本稿は、変数の数に対して線形時間で、小さい木幅をもつ半定値計画問題（SDP）を解くための新規アルゴリズムを提示する。$ O(n \cdot \tau^{2\omega + 0.5} \log(1/\epsilon)) $ となる。ここで $ \omega $ は行列乗算指数、$ \tau $ は木幅を表す。また、低木幅線形計画問題の実行時間も $ O(n \cdot \tau^{(\omega+1)/2} \log(1/\epsilon)) $ に改善され、この設定下で初めてほぼ線形時間のSDPソルバーを達成した。

ABSTRACT

Semidefinite programming is a fundamental tool in optimization and theoretical computer science. It has been extensively used as a black-box for solving many problems, such as embedding, complexity, learning, and discrepancy. One natural setting of semidefinite programming is the small treewidth setting. The best previous SDP solver under small treewidth setting is due to Zhang-Lavaei '18, which takes $n^{1.5} τ^{6.5}$ time. In this work, we show how to solve a semidefinite programming with $n imes n$ variables, $m$ constraints and $τ$ treewidth in $n τ^{2ω+0.5}$ time, where $ω< 2.373$ denotes the exponent of matrix multiplication. We give the first SDP solver that runs in time in linear in number of variables under this setting. In addition, we improve the running time that solves a linear programming with tau treewidth from $n τ^2$ (Dong-Lee-Ye '21) to $n τ^{(ω+1)/2}$.

研究の動機と目的

• 小さい木幅をもつ半定値計画問題が変数の数に関してほぼ線形時間で解けるかどうかという未解決の問題に取り組む。
• 小さい木幅下での従来の最良SDPソルバー（$ n^{1.5} \tau^{6.5} $ 時間）を上回る性能を達成する。
• 低木幅線形計画問題への改善を拡張し、従来の $ n\tau^2 $ の境界を上回る。
• 内部点法において木幅構造と高度な行列乗算技術を活用することで、これを達成する。

提案手法

• SDPグラフの木分解に基づく、SDP問題の新規分解を用いる。低木幅を活用して計算複雑性を低減する。
• 木幅構造に適合したカスタマイズされたバリア関数と中心路線法を適用し、従来の方法の $ \Omega(m^\omega) $ のボトルネックを回避する。
• 木分解のノード上で再帰的なシュール補行列計算を導入。ノードごとの行列演算は $ \widetilde{O}(\tau^{\omega}) $ で制限される。
• 制約と変数の階層的クラスタリングを用いてスパarsityを維持し、低ランク更新による効率的な行列逆行列化を実現する。
• 条件数の精密分析と条件数低減の手法を統合し、収束を高速化する。
• 木分解上の動的計画法と高速行列乗算を組み合わせ、$ \widetilde{O}(n \cdot \tau^{2\omega + 0.5}) $ の実行時間を得る。

実験結果

リサーチクエスチョン

• RQ1 小さい木幅をもつ半定値計画問題は、変数の数に関して線形時間で解けるか？
• RQ2 指数部における木幅依存性を $ \tau^6 $ 以下にまで低減できるか、特に $ \tau^{2\omega + 0.5} $ にまで？
• RQ3 同じ構造的洞察を用いて、低木幅線形計画問題の実行時間を改善できるか？
• RQ4 行列乗算指数 $ \omega \approx 2.373 $ であっても、小さい木幅下でSDPに対してほぼ線形時間（$ n $ に関して）を達成できるか？

主な発見

• 本稿は、$ O(n \cdot \tau^{2\omega + 0.5} \log(1/\epsilon)) $ のSDPソルバー実行時間を達成。これは $ n $ に関して線形であり、従来の $ n^{1.5} \tau^{6.5} $ の境界を改善した。
• 本アルゴリズムは、標準的な線形独立性仮定の下で、初めて小さい木幅SDPを変数の数に関してほぼ線形時間で解ける。
• 低木幅線形計画問題について、実行時間を $ O(n \cdot \tau^{(\omega+1)/2} \log(1/\epsilon)) $ に改善。従来の $ n\tau^2 $ の境界を上回った。
• 木分解内の行列演算の新しい分析により、ノードごとの有効コストを $ \widetilde{O}(\tau^{\omega}) $ にまで低減した。
• スパarsityと木幅構造を活用することで、従来の内部点法の $ \Omega(m^\omega) $ 依存性を回避した。
• 結果は対数因子と行列乗算指数の観点でタイトであり、現在知られている最良の指数 $ \omega $ に明示的な依存性を持つ。