[논문 리뷰] Artificial Mutation inspired Hyper-heuristic for Runtime Usage of Multi-objective Algorithms

Donia El Kateb, François Fouquet외 2명|arXiv (Cornell University)|2014. 02. 18.

Advanced Multi-Objective Optimization Algorithms참고 문헌 18인용 수 4

한 줄 요약

이 논문은 과거의 돌연변이 효율성을 기반으로 한 인공적이고 선택적인 돌연변이를 사용하여 다목적 유전적 알고리즘(MOEAs)의 속도를 높이는 하이퍼휴리스틱 Sputnik을 제안한다. 지속적인 학습을 통해 각 단계에서 영향력이 큰 돌연변이 연산자를 동적으로 선택함으로써, Sputnik은 수렴에 필요한 세대 수를 약 37% 감소시키면서도 히퍼볼륨 성능을 유지하거나 향상시킨다.

ABSTRACT

In the last years, multi-objective evolutionary algorithms (MOEA) have been applied to different software engineering problems where many conflicting objectives have to be optimized simultaneously. In theory, evolutionary algorithms feature a nice property for runtime optimization as they can provide a solution in any execution time. In practice, based on a Darwinian inspired natural selection, these evolutionary algorithms produce many deadborn solutions whose computation results in a computational resources wastage: natural selection is naturally slow. In this paper, we reconsider this founding analogy to accelerate convergence of MOEA, by looking at modern biology studies: artificial selection has been used to achieve an anticipated specific purpose instead of only relying on crossover and natural selection (i.e., Muller et al [18] research on artificial mutation of fruits with X-Ray). Putting aside the analogy with natural selection , the present paper proposes an hyper-heuristic for MOEA algorithms named Sputnik 1 that uses artificial selective mutation to improve the convergence speed of MOEA. Sputnik leverages the past history of mutation efficiency to select the most relevant mutations to perform. We evaluate Sputnik on a cloud-reasoning engine, which drives on-demand provisioning while considering conflicting performance and cost objectives. We have conducted experiments to highlight the significant performance improvement of Sputnik in terms of resolution time.

연구 동기 및 목표

• 다목적 유전적 알고리즘(MOEAs)의 런타임 사용에서 발생하는 성능 저하 문제를 해결하기 위해, 무작위 자연 선택으로 인한 느린 수렴 속도를 개선한다.
• 현대 유전자 공학을 영감으로 삼은 유도된 인공 돌연변이 전략으로 무작위 돌연변이를 대체하여 MOEAs의 수렴 속도를 향상시킨다.
• 과거의 돌연변이 성능을 학습하여 각 단계에서 가장 효과적인 돌연변이 연산자를 동적으로 선택하는 하이퍼휴리스틱을 개발한다.
• 지연과 비용과 같은 상충되는 목표를 균형 잡는 클라우드 추론 엔진에서 실제 환경에서의 성능을 검증한다.
• 인공 돌연변이 선택 전략이 해법 품질이나 다양성을 희생시키지 않고도 더 빠른 수렴을 달성할 수 있음을 입증한다.

제안 방법

• Sputnik는 돌연변이 연산자의 이력적 영향을 기반으로 그들의 순위를 매기는 지속적 학습 메커니즘을 사용한다.
• 이 알고리즘은 엘리트스트라토지와 캐스트 전략을 사용하여 돌연변이를 선택한다: 엘리트스트라토지는 최상위 성능을 보이는 연산자를 우선시하고, 캐스트 전략은 더 넓은 집합에서 선택함으로써 다양성을 유지한다.
• Sputnik는 NSGA-II, ε-NSGA-II, ε-MOEA, Hyper-MOEA와 같은 MOEA 프레임워크와 통합되며, 기본적으로 무작위 돌연변이 선택을 대체한다.
• 적합도 평가 기준은 다목적 최적화 품질을 평가하는 표준 지표인 히퍼볼륨이다.
• 각 세대 후에 파레토 최적 해의 개선에 기여한 연산자들의 기여도를 기반으로 연산자 순위를 동적으로 업데이트한다.
• Sputnik는 적응형 실시간 클라우드 프로비저닝 환경에서 성능을 평가하기 위해 Polymer model@runtime 프레임워크 내에서 평가된다.

실험 결과

연구 질문

• RQ1 RQ1: 인공 돌연변이 선택 기반 하이퍼휴리스틱이 MOEA 수렴에 필요한 세대 수를 줄일 수 있는가?
• RQ2 RQ2: 제안된 인공 돌연변이 전략이 무작위 선택 대비 파레토 최적 해의 품질을 유지하거나 향상시키는가?
• RQ3 RQ3: 표준 MOEA 알고리즘과 통합되었을 때 Sputnik의 히퍼볼륨 향상 수준은 어떠한가?
• RQ4 RQ4: 캐스트 전략은 수렴 속도를 유지하면서도 해법의 다양성을 향상시키는가?

주요 결과

• Sputnik는 무작위 돌연변이 선택 대비 수렴에 필요한 세대 수를 약 37% 감소시킨다.
• 엘리트스트라토지 전략은 캐스트 전략보다 略적으로 더 빠른 수렴을 달성하지만, 둘 다 무작위 선택보다 뛰어나다.
• 캐스트 전략은 엘리트 전략(0.77)과 무작위 기준선(0.78)보다 더 높은 히퍼볼륨 점수(0.81)를 기록하여 더 나은 수렴 품질을 나타낸다.
• Sputnik는 히퍼볼륨 값이 엘리트 전략 기준 0.77, 캐스트 전략 기준 0.81로, 표준 MOEAs의 0.67~0.68과 비교해 해법 품질을 유지하거나 향상시킨다.
• NSGA-II와 ε-NSGA-II에 통합되었을 때 Sputnik는 각각 히퍼볼륨 점수 0.72와 0.75를 기록하여 기준선(0.67과 0.66)을 초월한다.
• 결과는 인공 돌연변이 선택 전략이 해법 품질을 떨어뜨리지 않으며, 실시간 최적화 시나리오에서 수렴 속도를 크게 향상시킬 수 있음을 확인한다.