[论文解读] DIRECTGO: A new DIRECT-type MATLAB toolbox for derivative-free global optimization

Linas Stripinis, Remigijus Paulavičius|arXiv (Cornell University)|Jul 5, 2021

Advanced Optimization Algorithms Research被引用 4

一句话总结

本论文介绍了DIRECTGO，一个用于无导数全局优化的新开源MATLAB工具箱，实现了36种DIRECT型算法，并采用静态与动态数据结构以提升效率。该工具箱具备图形用户界面（GUI）、通过SPMD实现的并行计算功能，并与DIRECTGOLib v1.0测试库集成，在基准测试和实际工程问题上表现出色，尤其在混合型与动态结构变体上表现突出。

ABSTRACT

In this work, we introduce DIRECTGO, a new MATLAB toolbox for derivative-free global optimization. DIRECTGO collects various deterministic derivative-free DIRECT-type algorithms for box-constrained, generally-constrained, and problems with hidden constraints. Each sequential algorithm is implemented in two ways: using static and dynamic data structures for more efficient information storage and organization. Furthermore, parallel schemes are applied to some promising algorithms within DIRECTGO. The toolbox is equipped with a graphical user interface (GUI), ensuring the user-friendly use of all functionalities available in DIRECTGO. Available features are demonstrated in detailed computational studies using a comprehensive DIRECTGOLib v1.0 library of global optimization test problems. Additionally, eleven classical engineering design problems illustrate the potential of DIRECTGO to solve challenging real-world problems. Finally, the appendix gives examples of accompanying MATLAB programs and provides a synopsis of its use on the test problems with box and general constraints.

研究动机与目标

• 开发一个用户友好、开源的MATLAB无导数全局优化工具箱，以解决现有实现中的局限性。
• 通过同时采用静态与动态数据结构实现每种算法，提升计算效率。
• 针对部分算法采用SPMD并行计算方案，实现函数评估在多核处理器上的高效分布，以加速收敛。
• 创建并维护一个可扩展的开源全局优化测试问题库（DIRECTGOLib v1.0），以支持可复现的基准测试。
• 评估并比较多种DIRECT型算法在标准测试问题和实际工程设计挑战中的性能表现。

提出的方法

• 在MATLAB中实现36种不同的DIRECT型算法，支持箱型约束、一般约束及隐式约束的优化问题。
• 对每种算法采用静态与动态两种数据结构实现，以改善内存管理与计算速度。
• 对部分算法采用SPMD并行计算方案，实现函数评估在多个处理器上的高效并行分配。
• 开发图形用户界面（GUI），使用户无需深入MATLAB编程即可便捷访问所有工具箱功能。
• 与DIRECTGOLib v1.0集成，该库是托管在GitHub上的综合性、开源全局优化测试与工程问题库，包含119个问题。
• 采用标准化的基准测试框架，从收敛速度、成功率及函数评估次数等多个指标比较算法性能。

实验结果

研究问题

• RQ1 在多种全局优化问题中，哪些DIRECT型算法变体在收敛速度与鲁棒性之间实现了最佳平衡？
• RQ2 在MATLAB实现的DIRECT型求解器中，动态数据结构相较于静态结构在性能与内存效率方面表现如何？
• RQ3 通过SPMD实现的并行化在多大程度上提升了DIRECT框架下无导数优化算法的效率？
• RQ4 DIRECTGO工具箱在解决实际工程设计问题方面，相较于标准基准问题，其有效性如何？
• RQ5 诸如局部搜索与自适应采样等算法增强技术对DIRECT型方法整体性能有何影响？

主要发现

• 动态数据结构实现显著优于静态结构，尤其在大规模问题中，计算速度与内存效率均大幅提升。
• 混合型算法如DIRECT-rev*与DIRMIN*在21个测试问题中的17个上达到100%成功率，且简单问题的收敛时间低于1秒。
• 如MrDIRECT与BIRECT等算法的并行版本在多核SPMD环境下，高维问题的运行速度最高提升10倍。
• DIRECTGO工具箱成功求解了11个经典工程设计问题，涵盖复杂、约束性及含噪声的场景，充分体现了其实际应用价值。
• 通过使用DIRECTGOLib v1.0库，实现了稳定且可复现的基准测试，119个测试问题覆盖了广泛的问题难度与结构类型。
• 在21个箱型约束问题中，工具箱实现了100%成功率，其中DIRECT-rev*与DIRMIN*表现出最快的收敛速度。