[论文解读] Semidefnite Relaxation Bounds for Indefinite Homogeneous Quadratic Optimization

Simai He, Zhi‐Quan Luo+2 more|ArXiv.org|Jan 2, 2007

Advanced Optimization Algorithms Research参考文献 7被引用 7

一句话总结

本文為不定 homogeneous 二次最佳化問題的半定規劃（SDP）鬆弛建立了緊緻的近似界限。研究證明，對於僅含一個不定約束的最小化問題，實數情況下的SDP鬆弛間隔界限為$O(m^2)$，複數情況下為$O(m)$；而對於除一個約束外其餘均為半正定的最小化問題，間隔界限下界為$O(1/\log m)$，此結果改進了先前的研究成果，並透過具體範例展示了界限的緊緻性。

ABSTRACT

In this paper we study the relationship between the optimal value of a homogeneous quadratic optimization problem and that of its Semidefinite Programming (SDP) relaxation. We consider two quadratic optimization models: (1) $\min \{x^* C x \mid x^* A_k x \ge 1, x\in\mathbb{F}^n, k=0,1,...,m\}$; and (2) $\max \{x^* C x \mid x^* A_k x \le 1, x\in\mathbb{F}^n, k=0,1,...,m\}$. If \emph{one} of $A_k$'s is indefinite while others and $C$ are positive semidefinite, we prove that the ratio between the optimal value of (1) and its SDP relaxation is upper bounded by $O(m^2)$ when $\mathbb{F}$ is the real line $\mathbb{R}$, and by $O(m)$ when $\mathbb{F}$ is the complex plane $\mathbb{C}$. This result is an extension of the recent work of Luo {\em et al.} \cite{LSTZ}. For (2), we show that the same ratio is bounded from below by $O(1/\log m)$ for both the real and complex case, whenever all but one of $A_k$'s are positive semidefinite while $C$ can be indefinite. This result improves the so-called approximate S-Lemma of Ben-Tal {\em et al.} \cite{BNR02}. We also consider (2) with multiple indefinite quadratic constraints and derive a general bound in terms of the problem data and the SDP solution. Throughout the paper, we present examples showing that all of our results are essentially tight.

研究动机与目标

• 分析不定 homogeneous 二次最佳化問題中SDP鬆弛的近似品質。
• 將先前針對半正定矩陣的界限推廣至不定矩陣。
• 為問題的最小化與最大化形式建立緊緻的最壞情況近似比率。
• 改進 Ben-Tal 等人針對最大化問題的近似 S-Lemma 結果。
• 透過隨機生成的實例進行數值實驗，驗證理論界限。

提出的方法

• 利用跡運算與半正定錐約束，推導最小化與最大化形式的 homogeneous 二次規劃之SDP鬆弛。
• 應用最壞情況分析，以界定原始最佳值與SDP鬆弛最佳值之間的比率。
• 使用隨機化取整方法，從SDP解中提取可行解，並估計經驗近似品質。
• 構造具體範例，以展示理論界限在最壞情況下的緊緻性。
• 透過每種設定下1,000個隨機實例的數值實驗，評估平均情況下的表現。
• 利用QR分解與隨機對角項，生成具有不同定性（正定、秩一、不定）的矩陣。

实验结果

研究问题

• RQ1 對於僅含一個不定約束的 homogeneous 二次最小化問題，其最佳值與SDP鬆弛之間的最壞情況近似比率為何？
• RQ2 當一個或多個$A_k$矩陣為不定時，近似比率如何隨約束數$m$而變化？
• RQ3 當僅有一個$A_k$為不定且$C$為不定時，能否改進最大化問題的近似 S-Lemma 界？
• RQ4 不定約束對最小化與最大化形式中SDP鬆弛界限緊緻性有何影響？
• RQ5 在隨機生成的實例中，經驗近似比率與理論最壞情況界限相比如何？

主要发现

• 對於僅含一個不定約束的最小化問題，實數情況下SDP鬆弛間隔界限為$O(m^2)$，複數情況下為$O(m)$，且這些界限為緊緻。
• 當多個約束為不定時，近似比率可能為無限大，顯示單一不定約束的情況實為最佳可能情境。
• 對於除一個$A_k$外其餘均為半正定且$C$不定的最小化問題，SDP鬆弛間隔界限下界為$O(1/\log m)$，優於先前$O(\log(n^2m))$的界限。
• 論文透過構造的具體最壞情況範例，證明理論界限的緊緻性。
• 數值實驗顯示，經驗近似比率顯著優於最壞情況界限，特別是在僅有一個約束為不定時。
• 經驗結果確認，隨著不定約束數量增加，性能會下降，與理論預期一致。