[論文レビュー] Practical Global Optimization Algorithm for the Sum-of-Ratios Problem

Yunchol Jong|arXiv (Cornell University)|Jul 5, 2012

Sparse and Compressive Sensing Techniques参考文献 9被引用数 13

ひとこと要約

本稿では、画像処理や工学分野で一般的な非凸最適化課題である比の和問題を解くためのグローバル収束性を有するアルゴリズムを提示する。反復的に凸部分問題を解くことで、グローバルに線形収束し、局所的に超線形／2次収束を保証するが、合成データを用いた数値実験により検証されている。

ABSTRACT

This paper presents a practical method for finding the globally optimal solution to the sum-of-ratios problem arising in image processing, engineering and management. Unlike traditional methods which may get trapped in local minima due to the non-convex nature of this problem, our approach provides a theoretical guarantee of global optimality. Our algorithm is based on solving a sequence of convex programming problems and has global linear and local superlinear/quadratic rate of convergence. The practical efficiency of the algorithm is demonstrated by numerical experiments for synthetic data.

研究の動機と目的

• 画像処理や経営管理などの応用分野で局所的最小値に陥りやすい非凸な比の和問題のグローバル最適化を扱う。
• 従来の局所探索手法の限界を克服し、グローバル最適性を保証する手法を開発する。
• 理論的収束保証と実用的計算効率の両方を達成する。
• 合成データセットを用いた数値実験を通じて、アルゴリズムの性能を示す。

提案手法

• グローバル最適解に反復的に近づくために、凸プログラミングの部分問題の系列を解く。
• 比の和問題のパrametric再定式化を活用し、各ステップで凸緩和を可能にする。
• 目的関数の十分な減少を保証するため、ラインサーチ戦略を組み込む。
• 収束解析により、やや弱い微分可能性仮定のもとでグローバル線形収束と局所的超線形／2次収束率を理論的に確立する。
• 標準的な凸最適化ソルバで実装可能なように設計されている。
• 再定式化問題の滑らかさを保証するため、連続的に微分可能であるという仮定を追加している。

実験結果

リサーチクエスチョン

• RQ1 比の和問題に対して、グローバル最適性を保証する実用的アルゴリズムを開発できるか？
• RQ2 比の和問題の非凸性を、効果的に凸部分問題の系列に変換する方法は何か？
• RQ3 このような反復的凸化手法に対して、理論的に確立できる収束速度は何か？
• RQ4 局所最適化手法と比較して、実際の性能はどの程度か？

主な発見

• 連続的に微分可能であるという仮定を追加した条件下で、提案アルゴリズムはグローバル線形収束と局所的超線形／2次収束を達成する。
• 元の問題が非凸であっても、グローバル最適性の理論的保証が維持される。
• 合成データを用いた数値実験により、手法の実用的効率性とロバスト性が確認された。
• 微分可能性仮定を追加しても結果に変化がなく、アプローチの安定性が示された。
• 局所最適化手法に比べ、部分的最適解を避ける点で優れた性能を発揮した。