[논문 리뷰] Evolutionary Multiobjective Optimization Driven by Generative Adversarial Networks (GANs)

Cheng He, Shihua Huang외 3명|arXiv (Cornell University)|2019. 10. 11.

Advanced Multi-Objective Optimization Algorithms인용 수 5

한 줄 요약

이 논문은 고차원 결정 공간에서 고품질의 후손 해를 생성하기 위해 생성적 적대적 네트워크(GANs)를 활용하는 새로운 다목적 유전적 알고리즘인 GMOEA를 제안한다. 현재 집단의 실존(고품질) 및 가짜(저품질) 후보 해를 기반으로 GAN을 훈련시켜 생성기가 다양하고 수렴성이 높은 후손을 학습하게 하여, 최대 200개의 결정 변수를 가진 기준 문제에서 기존의 6종의 최첨단 다목적 유전적 알고리즘(MOEAs)에 비해 수렴 속도와 성능을 크게 향상시킨다.

ABSTRACT

Recently, increasing works have proposed to drive evolutionary algorithms using machine learning models. Usually, the performance of such model based evolutionary algorithms is highly dependent on the training qualities of the adopted models. Since it usually requires a certain amount of data (i.e. the candidate solutions generated by the algorithms) for model training, the performance deteriorates rapidly with the increase of the problem scales, due to the curse of dimensionality. To address this issue, we propose a multi-objective evolutionary algorithm driven by the generative adversarial networks (GANs). At each generation of the proposed algorithm, the parent solutions are first classified into real and fake samples to train the GANs; then the offspring solutions are sampled by the trained GANs. Thanks to the powerful generative ability of the GANs, our proposed algorithm is capable of generating promising offspring solutions in high-dimensional decision space with limited training data. The proposed algorithm is tested on 10 benchmark problems with up to 200 decision variables. Experimental results on these test problems demonstrate the effectiveness of the proposed algorithm.

연구 동기 및 목표

• 고차원 결정 공간에서 모델 기반 유전적 알고리즘의 성능 저하 문제를 해결하기 위해, 차원의 극복 문제의 영향을 완화한다.
• GAN의 생성 능력을 활용하여 최소한의 훈련 데이터로 유망한 후손 해를 생성한다.
• GAN 기반 생성과 기존의 유전적 연산자를 융합하여 다목적 최적화의 수렴성과 다양성을 향상시킨다.
• 실제 및 가짜 샘플뿐 아니라 생성된 샘플까지 포함한 새로운 GAN 훈련 전략을 개발하여 판별기 학습을 향상시킨다.

제안 방법

• 알고리즘이 부모 해를 지배 관계에 따라 실존(고품질) 및 가짜(저품질) 샘플로 분류한다.
• 실제 샘플(현재 집단의 파레토 최적 해에서 유래), 가짜 샘플(비파레토 해), 그리고 생성기에서 생성된 샘플을 사용하여 GAN을 훈련시킨다.
• 생성기는 파레토 최적 해의 잠재 분포를 학습하여 고차원 공간에서 새로운 고품질 후손을 샘플링할 수 있다.
• 하이브리드 재생 전략은 GAN 기반 생성과 기존의 확률적 연산자(SBX 등)를 융합하여 탐색과 이용의 균형을 이룬다.
• 판별기는 실제, 가짜, 생성된 샘플을 구분하도록 훈련되어 생성된 후손의 품질과 다양성을 향상시킨다.
• 프레임워크는 GAN 기반 생성기를 성능 지표 기반 MOEA(특히 IBEA)에 통합하여 표준 재생 메커니즘을 대체한다.

실험 결과

연구 질문

• RQ1 제한된 훈련 데이터로 고차원 결정 공간에서 GAN이 고품질이고 다양한 후손 해를 효과적으로 생성할 수 있는가?
• RQ2 실제, 가짜, 생성된 샘플을 모두 활용한 제안된 GAN 훈련 전략은 표준 GAN 훈련에 비해 생성된 해의 품질을 어떻게 향상시키는가?
• RQ3 GAN 기반 생성과 기존의 유전적 연산자를 융합하면 다목적 최적화의 수렴성과 다양성이 향상되는가?
• RQ4 제안된 GMOEA는 고차원 다목적 최적화 문제에서 6종의 최첨단 MOEAs와 비교해 수렴성과 초과체적 성능에서 어떻게 성과를 내는가?

주요 결과

• GMOEA는 최대 200개의 결정 변수를 가진 10종의 기준 문제에서 NSGA-II, MOEA/D-DE, GDE3 등 6종의 최첨단 MOEAs보다 수렴 속도와 수렴 품질에서 뛰어난 성능을 보였다.
• 하이브리드 재생 전략(생성기와 유전적 연산자 융합)은 순수한 유전적 연산자나 순수한 GAN 기반 생성보다 유의미하게 뛰어나, 탐색과 이용의 균형을 효과적으로 달성함을 입증했다.
• 제안된 GAN 훈련 방법은 이목적 문제에선 100개의 샘플, 삼목적 문제에선 105개의 샘플만으로도 뛰어난 성능을 달성하여 높은 데이터 효율성을 입증했다.
• 제거 분석 결과, 순수한 GAN 연산자와 하이브리드 연산자가 모두 순수한 유전적 연산자보다 우수하며, 하이브리드 버전이 모든 시험 인스턴스에서 최고의 성능을 기록했다.
• 실행 시간 분석 결과, GMOEA는 파이썬 기반 표준 IBEA보다 약 5배 느리지만, 이 비용은 오프라인 최적화기로써는 수용 가능하며 GPU 가속을 통해 감소시킬 수 있다.
• 결과는 GAN 기반 MOEA가 고차원 및 다목적 최적화 문제 해결에 매우 유망하다는 것을 입증한다.