[논문 리뷰] Stochastic Population Update Can Provably Be Helpful in Multi-Objective Evolutionary Algorithms

Chao Bian, Yawen Zhou외 2명|arXiv (Cornell University)|2023. 06. 05.

Advanced Multi-Objective Optimization Algorithms인용 수 10

한 줄 요약

이 논문은 SMS-EMOA와 NSGA-II에 확률적 인구 업데이트를 도입하면 결정적 업데이트에 비해 두 개의 이목적 문제에서 파레토 프런트를 찾는 속도를 지수적으로 가속화할 수 있음을 보여준다.

ABSTRACT

Evolutionary algorithms (EAs) have been widely and successfully applied to solve multi-objective optimization problems, due to their nature of population-based search. Population update, a key component in multi-objective EAs (MOEAs), is usually performed in a greedy, deterministic manner. That is, the next-generation population is formed by selecting the best solutions from the current population and newly-generated solutions (irrespective of the selection criteria used such as Pareto dominance, crowdedness and indicators). In this paper, we analytically present that stochastic population update can be beneficial for the search of MOEAs. Specifically, we prove that the expected running time of two well-established MOEAs, SMS-EMOA and NSGA-II, for solving two bi-objective problems, OneJumpZeroJump and bi-objective RealRoyalRoad, can be exponentially decreased if replacing its deterministic population update mechanism by a stochastic one. Empirical studies also verify the effectiveness of the proposed population update method. This work is an attempt to show the benefit of introducing randomness into the population update of MOEAs. Its positive results, which might hold more generally, should encourage the exploration of developing new MOEAs in the area.

연구 동기 및 목표

• MOEAs에서 결정적이고 탐욕적인 인구 업데이트가 항상 우수하다는 일반적 믿음을 도전한다.
• 벤치마크 MOEA에서 무작위화된 인구 업데이트가 실행 시간에 미치는 영향을 이론적으로 분석한다.
• 선정된 이목표 문제들에서 지수적 런타임 개선을 보여준다.

제안 방법

• SMS-EMOA(알고리즘 5)와 NSGA-II(알고리즘 6)의 결정적 업데이트를 대체하기 위해 확률적 인구 업데이트 메커니즘을 도입한다.
• Two bi-objective problems: OneJumpZeroJump and bi-objective RealRoyalRoad에 대한 이론적 실행 시간 분석을 수행한다.
• 결정적 업데이트와 확률적 업데이트에서 기대 세대 수의 상한 및 하한을 도출하고, 특정 매개변수 조건에서의 지수적 감소를 강조한다.
• 이론적 결과를 검증하기 위한 실험을 제공합니다.

실험 결과

연구 질문

• RQ1 표준 이목표 벤치마크에서 인구 업데이트 단계에 임의성을 도입하는 것이 SMS-EMOA와 NSGA-II의 이론적 실행 시간을 개선하는가?
• RQ2 어떤 문제 인스턴스와 매개변수 설정에서 확률적 인구 업데이트가 결정적 업데이트에 비해 지수적 속도 향상을 보이는가?
• RQ3 OneJumpZeroJump와 RealRoyalRoad에서 확률적 업데이트가 파레토 최적 근처 영역을 탐색하는 능력에 어떤 영향을 미치는가?

주요 결과

• 특정 k와 μ 설정에서 OneJumpZeroJump를 해결하는 SMS-EMOA에 대한 확률적 인구 업데이트가 기대 세대 수를 지수적으로 줄일 수 있다.
• 특정 조건에서 OneJumpZeroJump를 해결하는 NSGA-II에 대한 확률적 인구 업데이트가 기대 세대 수를 지수적으로 줄일 수 있다.
• 이 이목표 RealRoyalRoad 문제의 경우 μ가 증가함에 따라 확률적 업데이트가 런타임 상한에 상당하고 때로는 지수적 개선을 제공한다.
• 제안된 확률적 업데이트의 효과를 검증하는 경험적 연구가 이론적 결과를 보완한다.