[論文レビュー] On the Triality Theory in Global Optimization

David Yang Gao, Changzhi Wu|arXiv (Cornell University)|Apr 15, 2011

Advanced Optimization Algorithms Research参考文献 23被引用数 20

ひとこと要約

本稿は、一般の非制約グローバル最適化問題に対する正規双対性理論を用いて、三重性理論の厳密な数学的証明を提供する。プライマル問題と双対問題の次元が等しいとき、三重性が強く成立することが示され、それ以外の場合はスーパー対称形で弱く成立する。2003年以来の長年の未解決問題を解消し、グローバル最小値、局所最小値、最大値、停留点を特定可能にする。

ABSTRACT

Triality theory is proved for a general unconstrained global optimization problem. The method adopted is simple but mathematically rigorous. Results show that if the primal problem and its canonical dual have the same dimension, the triality theory holds strongly in the tri-duality form as it was originally proposed. Otherwise, both the canonical min-max duality and the double-max duality still hold strongly, but the double-min duality holds weakly in a super-symmetrical form as it was expected. Additionally, a complementary weak saddle min-max duality theorem is discovered. Therefore, an open problem on this statement left in 2003 is solved completely. This theory can be used to identify not only the global minimum, but also the largest local minimum, maximum, and saddle points. Application is illustrated. Some fundamental concepts in optimization and remaining challenging problems in canonical duality theory are discussed.

研究の動機と目的

• 2003年以来未解決のままであった三重性理論における二重最小双対性に関する未解決問題を解消すること。
• 一般の非制約グローバル最適化における三重性理論に数学的に厳密な基盤を確立すること。
• プライマル問題と双対問題の次元が等しいとき三重性が強く成立すること、次元が異なる場合にはスーパー対称形で弱く成立することを示すこと。
• 停留点を特定するための補完的弱停留点最小最大化双対性定理を導入すること。
• 正規双対性理論を拡張し、グローバル最小値に加え、最大の局所最小値、最大値、停留点を特定可能にする。

提案手法

• Λ(x) が幾何的作用素であり、V が強い凸性を有する2回連続微分可能な非凸関数 W(x) = V(Λ(x)) を用いて、一般のグローバル最適化問題を正規形式に定式化する。
• 正規双対性理論を適用し、正規双対問題を導出し、ギャップ関数 G_ap(x, ζ) を用いて双対ギャップを分析する。
• 基本的な線形代数を用いて、プライマル問題と双対問題の次元の違いに応じた三重性定理を厳密に証明する。
• ギャップ関数 G_ap(x, ζ) の符号に基づく、補完的弱停留点最小最大化双対性定理を導入する。
• ギャップ関数のヘッセ行列 G(ζ̄) を用いて、臨界点の極値性条件を分析する。特に、ヘッセ行列が不定である場合に注目する。
• 応用例を用いて理論的結果を検証し、NP困難問題および S⁺_a における正規双対解への意味を議論する。

実験結果

リサーチクエスチョン

• RQ1 プライマル問題と双対問題の次元が等しいとき、三重性理論は強く成立するか？
• RQ2 プライマル問題と双対問題の次元が異なる場合、二重最小双対性はどのように振る舞うか？
• RQ3 停留点を特定するための弱停留点最小最大化双対性を確立できるか？
• RQ4 ギャップ関数 G_ap(x, ζ) は、停留点の存在を決定づける役割を果たすか？
• RQ5 ヘッセ行列が不定である場合、臨界点の極値性条件はギャップ関数のヘッセ行列にどのように依存するか？

主な発見

• プライマル問題と双対問題の次元が等しいとき、三重性理論は三重双対性形で強く成立する。
• 次元が異なる場合、正規最小最大化双対性と二重最大双対性は両方強く成立するが、二重最小双対性はスーパー対称形で弱く成立する。
• 補完的弱停留点最小最大化双対性定理が確立され、G_ap(x, ζ) < 0 のとき停留点臨界解が存在することが示された。
• 2003年の二重最小双対性に関する未解決問題が、厳密な数学的証明により完全に解消された。
• 理論により、非凸最適化においてグローバル最小値、最大の局所最小値、最大値、停留点を特定可能である。
• この手法は制約付きグローバル最適化問題へ一般化可能であり、正規双対性を用いたNP困難問題の解析フレームワークを提供する。