[論文レビュー] Hybridization of interval methods and evolutionary algorithms for solving difficult optimization problems

Charlie Vanaret|arXiv (Cornell University)|Jan 30, 2020

Numerical Methods and Algorithms参考文献 50被引用数 4

ひとこと要約

本稿では、区間分枝限定法と進化的アルゴリズムを協調的に統合することで、困難なグローバル最適化問題を効率的に解くハイブリッド最適化フレームワーク「Charibde」を提案する。並列実行と双方向の情報交換（境界値、解、探索領域など）を可能にすることで、収束速度が向上し、信頼性が向上し、最先端の区間ソルバーと比較して最大10倍速い収束を達成するとともに、5原子のLennard-Jonesクラスター問題の最適解の最適性を証明する。

ABSTRACT

Reliable global optimization is dedicated to finding a global minimum in the presence of rounding errors. The only approaches for achieving a numerical proof of global optimality are interval branch and bound methods that interleave branching of the search-space and pruning of the subdomains that cannot contain an optimal solution. It is of the utmost importance: i) to compute sharp enclosures of the objective function and the constraints on a given subdomain; ii) to find a good approximation (an upper bound) of the global minimum. State-of-the-art solvers are generally integrative methods, that is they embed local optimization algorithms to compute a good upper bound of the global minimum over each subspace. In this document, we propose a cooperative framework in which interval methods cooperate with evolutionary algorithms. The latter are stochastic algorithms in which a population of candidate solutions iteratively evolves in the search-space to reach satisfactory solutions. Evolutionary algorithms, endowed with operators that help individuals escape from local minima, are particularly suited for difficult problems on which traditional methods struggle to converge. Within our cooperative solver Charibde, the evolutionary algorithm and the interval-based algorithm run in parallel and exchange bounds, solutions and search-space via message passing. A novel strategy prevents premature convergence toward local minima. A comparison of Charibde with state-of-the-art solvers (GlobSol, IBBA, Ibex) on a benchmark of difficult problems shows that Charibde converges faster by an order of magnitude. New optimality results are provided for five multimodal problems, for which few solutions were available in the literature. Finally, we provide the first numerical proof of optimality for the open Lennard-Jones cluster problem with five atoms.

研究の動機と目的

• 局所最適解や数値不安定性のため、従来の手法が困難な困難なグローバル最適化問題を解く挑戦に応えること。
• 区間解析の厳密な境界と進化的アルゴリズムのグローバル探索能力を組み合わせることで、グローバル最適化の効率性と信頼性を向上させること。
• 区間ソルバと進化的ソルバの間で双方向の情報交換を可能にする協調的フレームワークを構築し、収束を加速し、早期収束を回避すること。
• 分子動力学分野における未解決または十分に研究されていないマルチモーダル問題、特に5原子のLennard-Jonesクラスター問題に対して、証明可能なグローバル最適性を提供すること。

提案手法

• Charibdeは、区間分枝限定法と進化的アルゴリズムが並列に実行され、メッセージパッシングを介して上界・下界、実行可能解、部分領域情報の双方向交換が行われる協調的アーキテクチャを採用する。
• 進化的アルゴリズムは幾何的探索ヒューリスティクスとドメイン縮小作用素を用い、非実行可能または劣悪な領域を避けて局所最適解から脱出する。
• 区間解析により、区間拡張、テイラー形式、および制約フィルタリングに用いられるコントラクタ（例：HC4Revise）を介して厳密な下界を計算する。
• 凸化に基づく技術と自動微分を統合することで、境界のタイトニングと緩和品質の向上を図る。
• 切断平面アプローチにより、合成木の内部ノード情報を利用し、収縮および微分の過程で下界を強化する。
• スレーブプロセスに分散された非交差部分空間を配分することで並列化を実現し、マスタープロセスは現在知られている最良の上界を維持する。

実験結果

リサーチクエスチョン

• RQ1 区間法と進化的アルゴリズムの間で協調的フレームワークを構築することで、困難なグローバル最適化問題における収束速度を顕著に向上させることができるか？
• RQ2 区間解析と進化的アルゴリズムを効果的に同期させ、境界値や探索領域情報の交換を実現しつつ、数値的信頼性を損なわないか？
• RQ3 ハイブリダイゼーションによって、マルチモーダル問題を解く際の進化的アルゴリズムの早期収束リスクをどの程度低減できるか？
• RQ4 提案されたフレームワークは、5原子のLennard-Jonesクラスター問題のような分子動力学分野の未解決問題に対して、証明可能なグローバル最適性を提供できるか？
• RQ5 ドメイン縮小と幾何的探索ヒューリスティクスの統合が、ハイブリッドソルバにおける進化的コンponentの性能をどの程度向上させるか？

主な発見

• Charibdeは、GlobSol、IBBA、Ibexといった最先端の区間ソルバーよりも、困難なグローバル最適化問題のベンチマークにおいて最大10倍速い収束を達成する。
• 本フレームワークは、文献にほとんど解が報告されていなかった5つのマルチモーダルテスト問題について、新たな最適性結果を提供する。
• Charibdeは、5原子のLennard-Jonesクラスター問題の妥当解のグローバル最適性を証明し、分子動力学分野における未解決問題を解決する。
• 区間ベースの下界計算と進化的なグローバル探索の統合により、解法プロセスのロバスト性と信頼性が顕著に向上する。
• ドメイン縮小と幾何的探索ヒューリスティクスの使用により、進化的アルゴリズムが非実行可能または劣悪な領域を探索するのを効果的に防ぎ、停滞を低減する。
• 凸化に基づく緩和と中間ノード制約の統合が有効であることが実証され、テストケースでは下界品質が最大33%向上した。