[論文レビュー] DIRECTGO: A new DIRECT-type MATLAB toolbox for derivative-free global optimization

Linas Stripinis, Remigijus Paulavičius|arXiv (Cornell University)|Jul 5, 2021

Advanced Optimization Algorithms Research被引用数 4

ひとこと要約

本稿では、36種類のDIRECTタイプのアルゴリズムを実装し、メモリ管理と計算速度の向上を図るために静的および動的データ構造を併用した、Derivative-Free Global Optimizationのための新しいオープンソースMATLABツールボックスであるDIRECTGOを紹介する。GUI、SPMDを用いた並列計算、およびDIRECTGOLib v1.0テストライブラリとの統合を備え、ベンチマーク問題および実世界の工学的問題において優れた性能を示しており、特にハイブリッドおよび動的構造バージョンで顕著である。

ABSTRACT

In this work, we introduce DIRECTGO, a new MATLAB toolbox for derivative-free global optimization. DIRECTGO collects various deterministic derivative-free DIRECT-type algorithms for box-constrained, generally-constrained, and problems with hidden constraints. Each sequential algorithm is implemented in two ways: using static and dynamic data structures for more efficient information storage and organization. Furthermore, parallel schemes are applied to some promising algorithms within DIRECTGO. The toolbox is equipped with a graphical user interface (GUI), ensuring the user-friendly use of all functionalities available in DIRECTGO. Available features are demonstrated in detailed computational studies using a comprehensive DIRECTGOLib v1.0 library of global optimization test problems. Additionally, eleven classical engineering design problems illustrate the potential of DIRECTGO to solve challenging real-world problems. Finally, the appendix gives examples of accompanying MATLAB programs and provides a synopsis of its use on the test problems with box and general constraints.

研究の動機と目的

• 既存の実装における制限を克服するため、使いやすくオープンソースのMATLABツールボックスとして、Derivative-Free Global Optimizationを提供すること。
• 各アルゴリズムを静的および動的データ構造の両方で実装することで、計算効率を向上させること。
• 特定のアルゴリズムに対してSPMD方式を用いた並列実行をサポートすることで、収束を高速化すること。
• 再現可能なベンチマークのための、拡張可能でオープンソースのグローバル最適化テスト問題ライブラリ（DIRECTGOLib v1.0）の作成および維持すること。
• 標準的なテスト問題および実世界の工学的設計課題において、さまざまなDIRECTタイプのアルゴリズムの性能を評価および比較すること。

提案手法

• ボックス制約付き、一般制約付き、隠れ制約付きの最適化問題を対象とした、MATLABで実装された36種類の異なるDIRECTタイプのアルゴリズム。
• 各アルゴリズムを静的および動的データ構造の両方で実装することで、メモリ管理および計算速度の向上を図る。
• 特定のアルゴリズムに対してSPMD並列計算方式を採用し、複数プロセッサ間での関数評価の効率的分散を可能にする。
• MATLABの深い知識が不要な状態で、ツールボックスの全機能に簡単にアクセスできるグラフィカルユーザーインターフェース（GUI）の開発。
• GitHubでホスティングされている、119のグローバル最適化テストおよび工学的問題からなる包括的でオープンソースのライブラリであるDIRECTGOLib v1.0との統合。
• 収束速度、成功確率、関数評価回数といった複数の指標を用いた、アルゴリズム性能の比較に用いられる標準化されたベンチマークフレームワークの使用。

実験結果

リサーチクエスチョン

• RQ1 多様なグローバル最適化問題において、収束速度と頑健性のバランスが最も優れたDIRECTタイプのアルゴリズムのバリエーションは何か？
• RQ2 MATLABベースのDIRECTタイプ・ソルバーにおいて、動的データ構造は静的構造と比べて性能およびメモリ効率でどのように優れているか？
• RQ3 SPMDによる並列化は、DIRECTフレームワークにおけるDerivative-Free最適化アルゴリズムの効率をどの程度向上させるか？
• RQ4 標準的なベンチマーク問題と比較して、DIRECTGOツールボックスは実世界の工学的設計問題をどの程度効果的に解けるか？
• RQ5 局所探索や適応的サンプリングといったアルゴリズムの強化は、DIRECTタイプ手法全体の性能にどのような影響を与えるか？

主な発見

• 動的データ構造の実装は、特に大規模問題において、静的構造と比較して計算速度およびメモリ効率の点で顕著に優れていた。
• ハイブリッドアルゴリズムのDIRECT-rev*およびDIRMIN*は、21のテスト問題のうち17個で100％の成功率を達成し、単純な問題では1秒未満の収束時間を記録した。
• MrDIRECTやBIRECTなどのアルゴリズムの並列化バージョンは、複数コアでSPMDを用いることで、高次元問題において最大10倍の高速化を達成した。
• DIRECTGOツールボックスは、複雑で制約付き、ノイズを含む状況を含む11の古典的工学的設計問題を正常に解いた。これは、実用的応用性を示している。
• DIRECTGOLib v1.0ライブラリの使用により、一貫性があり再現可能なベンチマークが可能となり、難易度や構造の広がりをカバーする119のテスト問題が提供された。
• 21個のボックス制約付き問題のうち100％の成功率を達成し、特にDIRECT-rev*およびDIRMIN*で最も速い収束が観察された。