[논문 리뷰] On some extensions to GA package: hybrid optimisation, parallelisation and islands evolution

Luca Scrucca|arXiv (Cornell University)|2016. 05. 06.

Parallel Computing and Optimization Techniques참고 문헌 15인용 수 74

한 줄 요약

이 논문은 R GA 패키지를 하이브리드 유전 알고리즘을 통합하여 수렴 속도를 높이고, 마스터-슬레이브 및 아일랜드 진화 모델을 통한 병렬 처리를 통해 효율성을 향상시킨다. 하이브리드 및 아일랜드 변종은 그라브랑과 같은 다모달 기준 함수에서 특히 정확도와 속도를 크게 향상시키며, HGAISL 방법은 4,000회의 반복 중 3,954번의 성공 런을 기록했다.

ABSTRACT

Genetic algorithms are stochastic iterative algorithms in which a population of individuals evolve by emulating the process of biological evolution and natural selection. The R package GA provides a collection of general purpose functions for optimisation using genetic algorithms. This paper describes some enhancements recently introduced in version 3 of the package. In particular, hybrid GAs have been implemented by including the option to perform local searches during the evolution. This allows to combine the power of genetic algorithms with the speed of a local optimiser. Another major improvement is the provision of facilities for parallel computing. Parallelisation has been implemented using both the master-slave approach and the islands evolution model. Several examples of usage are presented, with both real-world data examples and benchmark functions, showing that often high-quality solutions can be obtained more efficiently.

연구 동기 및 목표

• 로컬 서치 전략을 통합하여 R에서의 유전 알고리즘 최적화의 효율성과 정확도를 향상시키는 것.
• 마스터-슬레이브 및 아일랜드 진화 아키텍처를 사용한 병렬 실행을 가능하게 하는 것.
• 실제 문제 및 기준 최적화 문제에서 향상된 GA 변종의 성능을 평가하는 것.
• 하이브리드 및 병렬 계산 확장 기법을 통해 계산 시간을 단축하고 해의 품질을 향상시키는 것.

제안 방법

• 유전 알고리즘의 각 세대 후에 로컬 서치 절차를 통합하여 유망한 해를 정밀하게 개선하는 하이브리드 유전 알고리즘을 구현한다.
• 마스터-슬레이브 모델을 통해 복수의 프로세서나 노드에 걸쳐 적합도 평가를 분산시켜 병렬 처리를 달성한다.
• 아일랜드 진화 모델은 별도의 '아일랜드'에서 독립된 하위 집단을 운용하며, 주기적으로 개체 간 이주를 통해 다양성을 유지한다.
• 실수형 및 이산 최적화 문제를 모두 지원하도록 GA 패키지를 확장한다. 이는 이진, 정수, 순열 변수를 포함한다.
• 기존 R 프레임워크를 활용하면서도 향후 성능 향상을 위해 Rcpp와의 통합을 가능하게 한다.
• 특히 이진 GA 응용에서 유용한 비용이 많이 드는 적합도 함수 호출을 캐싱하기 위해 메모이제이션을 제안한다.

실험 결과

연구 질문

• RQ1 로컬 서치를 유전 알고리즘에 통합할 경우 R의 GA 패키지에서 수렴 속도와 해의 정확도가 어떻게 향상되는가?
• RQ2 마스터-슬레이브 및 아일랜드 진화 모델을 통한 병렬 처리 적용으로 인해 유전 알고리즘 최적화에서 어떤 성능 향상이 달성되는가?
• RQ3 하이브리드 및 아일랜드 기반 GA 변종은 그라브랑 함수와 같은 다모달 기준 함수에서 표준 GA와 비교해 어떻게 성능을 냈는가?
• RQ4 하이브리드화와 병렬 처리의 조합이 계산 시간을 크게 단축시키고 해의 품질을 향상시키는 데 기여하는가?
• RQ5 새로운 GA 확장 기능은 병원 수술 사망률 추정과 같은 실제 데이터에서 성능 향상에 얼마나 기여하는가?

주요 결과

• 하이브리드 GA(HGA)는 그라브랑 함수에서 4,000회의 반복 중 3,717번의 성공 런을 기록하여 18개 방법 중 정확도에서 두 번째로 높은 순위를 차지했다.
• 하이브리드 아일랜드 GA(HGAISL)는 3,954번의 성공 런으로 최고의 정확도를 기록하여 벤치마크 연구에서 모든 다른 방법을 압도했다.
• 로컬 서치를 통합한 아일랜드 진화 모델은 복잡한 다모달 함수에서 해의 산산이 흩어지는 현상을 줄이고 수렴 안정성을 향상시켰다.
• 마스터-슬레이브 및 아일랜드 모델을 통한 병렬 처리로 계산 시간이 크게 단축되었으며, 특히 적합도 평가가 집약적인 문제에서 두드러졌다.
• 하이브리드 GA에 로컬 서치를 통합함으로써 국소적으로 2차 함수 형태를 띠는 영역에서 더 빠른 수렴이 이루어졌으며, 이는 표준 GA의 핵심 한계를 극복했다.
• 제안된 확장 기능은 병원 사망률 추정과 같은 실제 데이터에서 뛰어난 성능을 보였으며, 95% 신뢰구간을 포함한 결과를 도출했다.