[논문 리뷰] Eagle Strategy Using Lévy Walk and Firefly Algorithms For Stochastic Optimization

Xin‐She Yang, Suash Deb|arXiv (Cornell University)|2010. 04. 23.

Metaheuristic Optimization Algorithms Research참고 문헌 13인용 수 60

한 줄 요약

이 논문은 레비 산책 기반의 전역 탐색과 파리알고리즘 기반의 국소 탐색을 융합한 하이브리드 메타휴리스틱 알고리즘인 이글 전략(Eagle Strategy)을 제안한다. 이 알고리즘은 확률적 최적화 문제에서 입자군집최적화(PSO)를 뛰어넘는 성능을 보이며, 다양한 노이즈가 있는 테스트 함수에서 전역 최적해를 찾는 데에 100%의 성공률를 기록했고, 평균적으로 함수 평가 횟수를 90% 감소시켰다.

ABSTRACT

Most global optimization problems are nonlinear and thus difficult to solve, and they become even more challenging when uncertainties are present in objective functions and constraints. This paper provides a new two-stage hybrid search method, called Eagle Strategy, for stochastic optimization. This strategy intends to combine the random search using Lévy walk with the firefly algorithm in an iterative manner. Numerical studies and results suggest that the proposed Eagle Strategy is very efficient for stochastic optimization. Finally practical implications and potential topics for further research will be discussed.

연구 동기 및 목표

• 노이즈가 있는 목표 함수와 제약 조건이 존재하는 확률적 최적화 문제를 해결하는 데 도전한다.
• 불확실성 존재 하에서 탐색 효율성과 수렴 속도를 향상시키는 하이브리드 메타휴리스틱을 개발한다.
• 레비 산책의 장거리 탐색 능력과 파리알고리즘의 국소 집중 탐색 능력을 융합하여 전역 최적화 성능을 향상시킨다.
• 기본 알고리즘인 PSO와 비교하여 이글 전략의 성능을 벤치마크 확률적 테스트 함수에서 평가한다.
• 공학 설계 및 불확실성 하에서의 NP-난이도 문제에 응용 가능한 실용적 응용 가능성을 탐색한다.

제안 방법

• 이글 전략은 이중 단계 탐색을 수행한다: 첫 번째 단계에서 레비 산책을 통해 무작위적인, 척도에 의존하지 않는 장거리 탐색을 수행한다.
• 두 번째 단계에서는 유망한 해(사냥감)를 감지하면, 해의 품질과 거리에 기반한 흡인력과 이동 규칙을 적용하는 파리알고리즘 기반 국소 탐색으로 전환한다.
• 레비 비행은 첨수 λ로 매개변수화된 안정 분포를 사용하여 무거운 尾尾 분포를 가지며, 효율적인 전역 탐색을 가능하게 한다.
• 파리알고리즘은 목표 함수 값에 비례하는 빛의 강도와 거리에 기반한 흡인력을 사용하며, 수렴을 제어하기 위해 빛 흡수 계수 γ를 사용한다.
• 하이브리드 접근법은 반복적으로 전역 레비 산책과 국소 파리알고리즘 탐색을 번갈아가며 탐색과 이용의 균형을 이룬다.
• 몬테카를로 샘플링을 사용하여 노이즈가 있는 목표 함수의 기대값을 추정하며, 각 해에 대해 다수의 평가를 수행하여 μ_f_i를 근사한다.

실험 결과

연구 질문

• RQ1 레비 산책과 파리알고리즘을 융합하면 확률적 최적화에서 수렴 속도와 성공률가 향상되는가?
• RQ2 이글 전략은 알려진 전역 최적해가 존재하는 노이즈가 있는 다모드 테스트 함수를 해결할 때 PSO보다 어떻게 비교되는가?
• RQ3 모집단 크기를 변화시킬 경우 이글 전략의 성능과 계산 비용에 어떤 영향을 미치는가?
• RQ4 이글 전략은 목표 함수와 제약 조건의 불확실성 처리에 얼마나 효과적인가?
• RQ5 이러한 하이브리드 접근법은 확률적 조건 하에서 TSP와 같은 NP-난이도 문제를 해결하는 데로 확장 가능한가?

주요 결과

• 이글 전략은 Easom, De Jong, Shubert 등의 모든 테스트된 확률적 함수에서 전역 최적해를 찾는 데에 100%의 성공률를 기록했으며, PSO는 90%에서 98% 사이의 성공률를 기록했다.
• Easom 함수의 경우, 이글 전략은 평균적으로 12.7×10³번의 함수 평가로 충분했고, PSO는 185.9×10³번을 필요로 하여 평가 횟수를 93% 감소시켰다.
• 고차원 Ackley 함수(d=128)의 경우, 이글 전략은 100% 성공률로 54×10³번의 평가를 필요로 했고, PSO는 1170×10³번의 평가로 92% 성공률를 기록했다.
• Rosenbrock, Rastrigin, Griewank 등의 모든 벤치마크 함수에서 이글 전략은 PSO를 능가했으며, 평균 함수 평가 횟수가 낮고 성공률가 높았다.
• 2.5% 가우시안 노이즈 하에서도 이글 전략은 다양한 복잡하고 다모드적인 테스트 함수에서 높은 성능을 유지하며 강건성을 입증했다.
• De Jong 함수의 고차원 문제(d=256)에서도 이글 전략은 70.7×10³번의 평가로 100% 성공률를 기록했고, PSO는 852×10³번의 평가를 필요로 했다.