[論文レビュー] Global Solutions to Large-Scale Spherical Constrained Quadratic Minimization via Canonical Dual Approach

Yi Chen, David Yang Gao|arXiv (Cornell University)|Aug 20, 2013

Matrix Theory and Algorithms参考文献 20被引用数 6

ひとこと要約

本稿では、大規模な球面制約付き二次最小化問題を解くための正準双対アプローチを提示し、標準的手法が失敗する『ハードケース』に特に注目している。元の問題を双対ギャップのない1次元の正準双対問題に再定式化することで、ハードケースを特定する十分かつ必要十分条件を提供するとともに、グローバル収束を達成するための摂動法を導入している。

ABSTRACT

This paper presents global optimal solutions to a nonconvex quadratic minimization problem over a sphere constraint. The problem is well-known as a trust region subproblem and has been studied extensively for decades. The main challenge is the so called 'hard case', i.e., the problem has multiple solutions on the boundary of the sphere. By canonical duality theory, this challenging problem is able to reformed as an one-dimensional canonical dual problem without duality gap. Sufficient and necessary conditions are obtained by the triality theory, which can be used to identify whether the problem is hard case or not. A perturbation method and the associated algorithms are proposed to solve this hard case problem. Theoretical results and methods are verified by large-size examples.

研究の動機と目的

• 大規模な球面制約付き二次最小化問題のグローバル解を扱う、特に球面境界上に複数の解が存在する『ハードケース』に注力する。
• 摂動に基づく手法を用いて、ハードケースにおける数値的困難を克服し、一意な解の存在を回復する。
• 三重性理論を用いて、ハードケースを特定する十分かつ必要十分条件を確立する。
• 正準双対性と摂動技術を用いて、大規模問題に対するグローバル収束アルゴリズムを提供する。

提案手法

• 正準双対変換を用いて、元の非凸二次最小化問題を双対ギャップのない正準双対問題に再定式化する。
• 三重性理論を適用し、双対関数の構造とその臨界点に基づいて、ハードケースを特定する十分かつ必要条件を導出する。
• 目的関数のベクトル f に小さなパラメータ αi を加えることで摂動法を導入し、∑αi² ≠ 0 となるようにすることで、摂動問題における一意な解の存在を回復する。
• 摂動問題を用いて元のハードケース問題の解を近似し、摂動パラメータに特定の境界を課すことにより収束を保証する。
• 臨界点 σ̄ を特定するため、双対関数 Pd(σ) = ∑_{i=k+1}^n [f̂i² / (λi + σ)²] - r² を用いる。
• 解の最適性を保証するため、x̄ = G_a(σ̄)^{-1}f を用いてプライマル解を求める。ここで G_a(σ) は変換されたヘッセ行列である。

実験結果

リサーチクエスチョン

• RQ1 球面制約付き二次最小化問題が一意な解をもつ条件は何か？ また、いつ『ハードケース』となるのか？
• RQ2 正準双対法は双対ギャップなしでハードケースのグローバル解を提供できるか？
• RQ3 摂動パラメータはどのように選べば、摂動解がハードケースの真の解に収束するか？
• RQ4 正準双対関数における臨界点の存在と一意性を保証する理論的条件は何か？

主な発見

• 正準双対問題は双対ギャップのない1次元最適化問題に再定式化され、グローバル解の回復が可能である。
• ハードケースは ∑_{i=1}^k f̂i² = 0 かつ ∑_{i=k+1}^n f̂i² / (λi - λ1)² ≤ r² のときに発生し、このとき双対関数に臨界点が存在しなくなる。
• ハードケースに対して、非ゼロの αi を導入することで、双対関数における一意な臨界点の存在を回復する摂動法を提案する。
• 摂動条件 ∑αi² ≤ (λ2 - λ1)²(r² - ∑_{i=k+1}^n f̂i² / (λi - λ1)²)(1/√(2(1 - cos(ε/r)) - 1)^{-2} が満たされれば、摂動解が真の解と ε の許容誤差内に収束することが保証される。
• 理論的分析により、双対関数 Pd(σ) の臨界点 σ̄ が一意に存在し、それがグローバル最適なプライマル解 x̄ = G_a(σ̄)^{-1}f に対応することが確認された。
• 大規模問題における数値実験により、提案手法の有効性と収束性が検証され、ハードケースにおいても有効であることが示された。