[论文解读] Curved Space Optimization: A Random Search based on General Relativity Theory

Fereydoun Farrahi Moghaddam, Reza Farrahi Moghaddam+1 more|arXiv (Cornell University)|Aug 10, 2012

Metaheuristic Optimization Algorithms Research参考文献 40被引用 97

一句话总结

本文提出了一种名为曲线空间优化（CSO）的新颖全局优化方法，通过引入广义相对论理论中的时空曲率概念，增强随机搜索。通过在有希望的点周围动态弯曲搜索空间，CSO 在保持探索能力的同时提升了开发能力，在各种维度的单峰与多峰基准函数上均表现出色，收敛速度更快，函数评估次数更少，优于当前最先进的方法。

ABSTRACT

Designing a fast and efficient optimization method with local optima avoidance capability on a variety of optimization problems is still an open problem for many researchers. In this work, the concept of a new global optimization method with an open implementation area is introduced as a Curved Space Optimization (CSO) method, which is a simple probabilistic optimization method enhanced by concepts of general relativity theory. To address global optimization challenges such as performance and convergence, this new method is designed based on transformation of a random search space into a new search space based on concepts of space-time curvature in general relativity theory. In order to evaluate the performance of our proposed method, an implementation of CSO is deployed and its results are compared on benchmark functions with state-of-the art optimization methods. The results show that the performance of CSO is promising on unimodal and multimodal benchmark functions with different search space dimension sizes.

研究动机与目标

• 为解决全局优化中探索与开发持续存在的平衡难题。
• 开发一种简单、基于概率的优化方法，以实现更快的收敛速度并避免陷入局部最优。
• 将广义相对论理论的原理整合到一种新颖的优化框架中。
• 在多种维度下对 CSO 在多样化基准函数上的性能进行评估。
• 证明基于曲率的搜索空间变换能够同时增强随机搜索的探索与开发能力。

提出的方法

• CSO 使用受广义相对论启发的曲率效应对搜索空间进行变换，先前访问过的点充当引力源。
• 该方法在高性能解周围引入人工时空曲率，以引导后续搜索向全局最优逼近。
• 利用受蚁群优化启发的机制，自适应地控制曲率深度与曲率半径，以平衡探索与开发。
• 开发了一个基础的 CSO 实现，并在标准基准函数上进行测试，涵盖不同维度。
• 算法在搜索过程中使用自适应机制动态调整曲率参数。
• 通过函数评估次数（NFE）、均值与标准差，在知名基准函数上评估性能。

实验结果

研究问题

• RQ1 基于曲率的搜索空间变换是否能提升随机搜索在全局优化中的性能？
• RQ2 CSO 在单峰与多峰基准函数上与当前最先进的全局优化方法相比表现如何？
• RQ3 自适应曲率机制在多大程度上增强了 CSO 中探索与开发的权衡？
• RQ4 CSO 在不同维度的搜索空间中，包括高维问题中，是否保持了强劲的性能？
• RQ5 将广义相对论原理整合是否能带来更高效且更鲁棒的优化算法？

主要发现

• 在 Michalewicz 函数（n=10）上，CSO 取得了最佳均值结果，为 -9.6588，优于所有其他方法。
• 在 Shubert 函数（n=2）上，CSO 仅用 100,000 次函数评估便达到均值 -210.4822，显著优于其他方法。
• 在 Ackley 函数（n=30）上，CSO 仅用 114,992 次评估便达到均值 3.789e-4，优于 RGA、PSO 和 GSA。
• 在 Rotated Hyper-Ellipsoid 函数（n=30）上，CSO 仅用 114,992 次评估便达到均值 0.0003789，优于 RGA、PSO 和 GSA。
• 在 2D Branin 函数中，CSO 仅用 15,000 次评估便达到均值 0.3978873577，与其它方法的最佳结果相当，但评估次数更少。
• 在 Shubert 函数（n=2）上，CSO 仅用 100,000 次评估达到均值 -210.4822，显著优于其他方法（后者最多需 500,000 次评估）。