[논문 리뷰] Hybridization of interval methods and evolutionary algorithms for solving difficult optimization problems

Charlie Vanaret|arXiv (Cornell University)|2020. 01. 30.

Numerical Methods and Algorithms참고 문헌 50인용 수 4

한 줄 요약

이 논문은 어려운 전역 최적화 문제를 해결하기 위해 간격 분석과 유전적 알고리즘을 협동적으로 통합하는 하이브리드 최적화 프레임워크인 Charibde를 제안한다. 병렬 실행과 상하한, 해, 탐색 공간 영역 등의 이중 정보 교환을 통해 수렴 속도를 가속화하고 신뢰성을 향상시켜, 최신 간격 해법보다 최대 한 계단 빠른 수렴을 달성하며, 5원자 레너드존스 클러스터 문제의 최적성에 대한 증명까지 제공한다.

ABSTRACT

Reliable global optimization is dedicated to finding a global minimum in the presence of rounding errors. The only approaches for achieving a numerical proof of global optimality are interval branch and bound methods that interleave branching of the search-space and pruning of the subdomains that cannot contain an optimal solution. It is of the utmost importance: i) to compute sharp enclosures of the objective function and the constraints on a given subdomain; ii) to find a good approximation (an upper bound) of the global minimum. State-of-the-art solvers are generally integrative methods, that is they embed local optimization algorithms to compute a good upper bound of the global minimum over each subspace. In this document, we propose a cooperative framework in which interval methods cooperate with evolutionary algorithms. The latter are stochastic algorithms in which a population of candidate solutions iteratively evolves in the search-space to reach satisfactory solutions. Evolutionary algorithms, endowed with operators that help individuals escape from local minima, are particularly suited for difficult problems on which traditional methods struggle to converge. Within our cooperative solver Charibde, the evolutionary algorithm and the interval-based algorithm run in parallel and exchange bounds, solutions and search-space via message passing. A novel strategy prevents premature convergence toward local minima. A comparison of Charibde with state-of-the-art solvers (GlobSol, IBBA, Ibex) on a benchmark of difficult problems shows that Charibde converges faster by an order of magnitude. New optimality results are provided for five multimodal problems, for which few solutions were available in the literature. Finally, we provide the first numerical proof of optimality for the open Lennard-Jones cluster problem with five atoms.

연구 동기 및 목표

• 전역 최적화 문제를 해결하는 데 있어 국소 최솟값과 수치적 불안정성으로 인해 traditional 방법이 어려움을 겪는 문제를 해결하기 위해.
• 간격 분석의 엄밀한 하한과 유전적 알고리즘의 전역 탐색 능력을 조합하여 전역 최적화의 효율성과 신뢰성을 향상시키기 위해.
• 간격 해법과 유전적 알고리즘 간의 이중 정보 교환을 가능하게 하는 협동 프레임워크를 개발하여 수렴 속도를 가속화하고 조기 수렴을 방지하기 위해.
• 이전에 해결되지 않았거나 잘 연구되지 않은 다모달 문제, 특히 5원자 레너드존스 클러스터 문제와 같은 분야에서 전역 최적성의 인증을 제공하기 위해.

제안 방법

• Charibde는 간격 분할 및 경계법과 유전적 알고리즘이 병렬로 실행되며, 메시지 전달을 통해 상하한, 타당한 해, 하위영역 정보를 교환하는 협동 아키텍처를 사용한다.
• 유전적 알고리즘은 기하학적 탐색 히وري스틱과 도메인 축소 연산자를 사용하여 비타당하거나 열악한 영역을 피하고 국소 최솟값에서 벗어나도록 한다.
• 간격 분석은 간격 확장, 타일러 형식, HC4Revise와 같은 컨트랙터를 통해 엄밀한 하한을 계산하는 데 사용된다.
• 프레임워크는 경계를 강화하고 이완 품질을 향상시키기 위해 볼록화 기반 기법과 자동 미분을 통합한다.
• 절삭 평면 접근법은 구문 트리에서의 중간 노드 정보를 수축 및 미분 과정에 통합하여 하한을 향상시킨다.
• 주 프로세스가 최고의 알려진 상한을 유지하면서, 슬레이브 프로세스들에 의해 분리된 하위공간이 분산되어 병렬화가 이루어진다.

실험 결과

연구 질문

• RQ1 간격 방법과 유전적 알고리즘 간의 협동 프레임워크가 어려운 전역 최적화 문제에서 수렴 속도를 상당히 향상시킬 수 있는가?
• RQ2 간격 분석과 유전적 알고리즘이 수치적 신뢰성을 해치지 않으면서도 상하한과 탐색 공간 정보를 효과적으로 동기화하여 교환할 수 있는가?
• RQ3 하이브리드화가 다모달 문제를 풀 때 유전적 알고리즘의 조기 수렴 위험을 어느 정도 줄일 수 있는가?
• RQ4 제안된 프레임워크는 분자 역학 분야에서 열려 있는 문제, 예를 들어 5원자 레너드존스 클러스터 문제에 대해 전역 최적성을 인증할 수 있는가?
• RQ5 도메인 축소와 기하학적 탐색 히وري스틱의 통합이 하이브리드 해법의 유전적 컴포넌트 성능을 어떻게 향상시키는가?

주요 결과

• Charibde는 어려운 전역 최적화 문제 벤치마크에서 최신 간격 해법인 GlobSol, IBBA, Ibex보다 최대 한 계단 빠른 수렴 속도를 보였다.
• 이전 문헌에서 거의 또는 전혀 해가 존재하지 않았던 다섯 개의 다모달 테스트 문제에 대해 새로운 최적성 결과를 제공하였다.
• Charibde는 5원자 레너드존스 클러스터 문제의 가설적 해에 대한 전역 최적성을 인증하여 분자 역학 분야의 열린 문제를 해결하였다.
• 간격 기반 하한 계산과 유전적 전역 탐색의 통합은 해법 과정의 강건성과 신뢰성을 크게 향상시켰다.
• 도메인 축소와 기하학적 탐색 히وري스틱의 사용은 유전적 알고리즘이 비타당하거나 열악한 영역을 탐색하는 것을 효과적으로 방지하여 정체를 줄였다.
• 볼록화 기반 이완과 중간 노드 제약 조건의 통합이 효과적으로 나타나, 시험 케이스에서 하한 품질을 최대 33% 향상시켰다.