[논문 리뷰] Hybrid Evolutionary Computation for Continuous Optimization

Hassan A. Bashir, R.S. Neville|arXiv (Cornell University)|2013. 03. 14.

Metaheuristic Optimization Algorithms Research참고 문헌 17인용 수 10

한 줄 요약

이 논문은 연속적인 전역 최적화를 위한 실수 코드 유전 알고리즘과 순차적 정수 프rogramming(SQP)을 통합한 하이브리드 진화 계산 프레임워크를 제안한다. 적응형 엘리트주의를 통해 탐색과 이용의 균형을 향상시키고, Price의 정리에 기반한 새로운 수렴 검출 메커니즘 및 향상된 SQP 스텝 사이즈와 탐색 방향 평가 기법을 도입함으로써, 표준 문제에서 뛰어난 수렴 속도 향상과 해 품질 향상을 달성하는 강력한 성능을 발휘한다.

ABSTRACT

Hybrid optimization algorithms have gained popularity as it has become apparent there cannot be a universal optimization strategy which is globally more beneficial than any other. Despite their popularity, hybridization frameworks require more detailed categorization regarding: the nature of the problem domain, the constituent algorithms, the coupling schema and the intended area of application. This report proposes a hybrid algorithm for solving small to large-scale continuous global optimization problems. It comprises evolutionary computation (EC) algorithms and a sequential quadratic programming (SQP) algorithm; combined in a collaborative portfolio. The SQP is a gradient based local search method. To optimize the individual contributions of the EC and SQP algorithms for the overall success of the proposed hybrid system, improvements were made in key features of these algorithms. The report proposes enhancements in: i) the evolutionary algorithm, ii) a new convergence detection mechanism was proposed; and iii) in the methods for evaluating the search directions and step sizes for the SQP local search algorithm. The proposed hybrid design aim was to ensure that the two algorithms complement each other by exploring and exploiting the problem search space. Preliminary results justify that an adept hybridization of evolutionary algorithms with a suitable local search method, could yield a robust and efficient means of solving wide range of global optimization problems. Finally, a discussion of the outcomes of the initial investigation and a review of the associated challenges and inherent limitations of the proposed method is presented to complete the investigation. The report highlights extensive research, particularly, some potential case studies and application areas.

연구 동기 및 목표

• 단독으로 사용되는 진화 알고리즘의 탐색과 이용 균형 문제를 해결하기 위해 연속 최적화 문제에 적용 가능한 프레임워크 개발
• 전역 탐색(진화 계산)과 국소 탐색(SQP)을 상호보완적으로 통합하여 수렴성과 해 품질 향상을 도모하는 하이브리드 프레임워크 개발
• Price의 정리에 기반한 새로운 수렴 검출 메커니즘 도입을 통해 진화적 진전을 동적으로 평가
• 향상된 탐색 방향과 스텝 사이즈 평가 기법을 통해 SQP 성능 향상
• 표준 기준 문제에서 하이브리드 시스템의 성능을 검증하고 확장성 및 강건성 평가

제안 방법

• 진화 알고리즘(EA)과 SQP가 임의의 작업 전환 메커니즘에 따라 번갈아가며 작동하는 협업형 포트폴리오 접근 방식을 사용
• 다양성을 유지하고 전역 탐색을 이끄는 적응형 엘리트주의를 적용한 수정된 실수 코드 유전 알고리즘 사용
• 유전 연산자의 기여도, 특히 교차 연산자의 기여를 모니터링하기 위해 Price의 정리의 확장형에서 유도된 새로운 수렴 검출 파라미터 도입
• 정확한 기울기 계산을 위한 자동 미분과 스텝 사이즈 및 탐색 방향 선택을 위한 향상된 선 탐색 전략을 통해 SQP 성능 향상
• 각 SQP 실행 후에 최적 해와 그 역수를 사용하여 새로운 EA 개체군을 초기화하는 검증 루틴을 도입하여 다양성 유지 및 수렴 향상
• EA와 SQP 단계 간 동적으로 전환하여 전역 탐색과 국소 이용의 균형 유지

실험 결과

연구 질문

• RQ1 하이브리드 EC/SQP 시스템이 단독 EC 또는 SQP보다 연속 전역 최적화 문제 해결에서 뛰어난 성능을 보일 수 있는가?
• RQ2 Price의 정리에 기반한 제안된 수렴 검출 메커니즘이 진화적 진전 정체를 효과적으로 식별하는가?
• RQ3 최적 해와 그 역수를 사용하여 새로운 개체군을 초기화하는 제안된 검증 루틴이 수렴 속도와 해 품질에 어떤 영향을 미치는가?
• RQ4 SQP의 탐색 방향과 스텝 사이즈 평가 기법의 향상이 전체 최적화 성능에 어떤 영향을 미치는가?
• RQ5 이 하이브리드 시스템이 다양한 기준 문제에서 강건성과 확장성을 얼마나 유지할 수 있는가?

주요 결과

• 제안된 하이브리드 EC/SQP 시스템은 표준 기준 문제에서 단독 EC 및 SQP 대비 뛰어난 수렴 속도 향상과 해 품질 향상을 보였다.
• 확장된 Price의 정리에 기반한 제안된 수렴 검출 메커니즘은 정체 지점 효과적으로 식별하고 전역 탐색 및 국소 탐색 단계 간 전환을 안내하는 데 성공했다.
• 최적 해와 그 역수를 사용하여 새로운 개체군을 초기화하는 검증 루틴은 수렴 속도 향상과 더불어 다양성 유지에 기여했다.
• 자동 미분를 적용한 개선된 SQP 구현은 더 정확한 기울기 평가를 가능하게 하여 국소 탐색 효율성을 향상시켰다.
• 하이브리드 시스템은 소형에서 대형 문제에 이르기까지 확장성 있는 성능을 유지를 하며 다양한 시험 케이스에서 강건한 성능 유지를 보였다.
• 초기 결과는 제안된 개선 조치를 통해 EC와 SQP 간의 상호보완적 상호작용이 더 효율적이고 신뢰할 수 있는 최적화 프레임워크로 이어짐을 확인했다.