[논문 리뷰] Large Scale Many-Objective Optimization Driven by Distributional Adversarial Networks

Zhenyu Liang, Yunfan Li외 1명|arXiv (Cornell University)|2020. 03. 16.

Advanced Multi-Objective Optimization Algorithms참고 문헌 6인용 수 11

한 줄 요약

이 논문은 수렴성과 다양성을 향상시키기 위해 기준 벡터 유도 진화(RVEA)와 분포적 적대적 네트워크(DAN)를 통합한 새로운 대규모 다목적 최적화 알고리즘인 LSA-DAN을 제안한다. DAN의 분포적 프레임워크를 활용해 안정적이고 모드를 고루 커버하는 후손 생성을 구현하고, 고차원 공간에서의 효율적 탐색을 위해 경쟁적 군집 최적화기(LMOCSO)를 결합함으로써, 최신 기술인 RM-MEDA 및 NSGA-II와 비교해 9개의 벤치마크 LSMOP 문제에서 뛰어난 성능을 달성한다.

ABSTRACT

Estimation of distribution algorithms (EDA) as one of the EAs is a stochastic optimization problem which establishes a probability model to describe the distribution of solutions and randomly samples the probability model to create offspring and optimize model and population. Reference Vector Guided Evolutionary (RVEA) based on the EDA framework, having a better performance to solve MaOPs. Besides, using the generative adversarial networks to generate offspring solutions is also a state-of-art thought in EAs instead of crossover and mutation. In this paper, we will propose a novel algorithm based on RVEA[1] framework and using Distributional Adversarial Networks (DAN) [2]to generate new offspring. DAN uses a new distributional framework for adversarial training of neural networks and operates on genuine samples rather than a single point because the framework also leads to more stable training and extraordinarily better mode coverage compared to single-point-sample methods. Thereby, DAN can quickly generate offspring with high convergence regarding the same distribution of data. In addition, we also use Large-Scale Multi-Objective Optimization Based on A Competitive Swarm Optimizer (LMOCSO)[3] to adopts a new two-stage strategy to update the position in order to significantly increase the search efficiency to find optimal solutions in huge decision space. The propose new algorithm will be tested on 9 benchmark problems in Large scale multi-objective problems (LSMOP). To measure the performance, we will compare our proposal algorithm with some state-of-art EAs e.g., RM-MEDA[4], MO-CMA[10] and NSGA-II.

연구 동기 및 목표

• 고차원 결정 공간을 가진 대규모 다목적 최적화 문제(LSMOPs)를 해결하는 데 도전하는 것.
• 기존의 변이 연산자를 생성 모델로 대체하여 다목적 진화 최적화에서 수렴성과 다양성을 향상시키는 것.
• 해당 학습의 안정성과 모드 커버리지 향상을 위해 적대적 학습에서 분포적 프레임워크를 활용하는 것.
• 두 단계 경쟁적 군집 최적화 전략을 통합해 대규모 탐색 공간에서의 수렴 속도를 가속화하는 것.
• 추정의 분포 알고리즘(EDA), 생성 적대적 네트워크, 경쟁적 군집 최적화의 장점을 결합한 하이브리드 알고리즘을 개발하여 LSMOP 벤치마크에서 뛰어난 성능을 달성하는 것.

제안 방법

• 진정한 파레토 최적 해에 수렴하도록 기준 벡터를 사용해 진화적 탐색을 유도하는 RVEA 프레임워크를 기반으로 사용한다.
• 기존의 교배 및 돌연변이 연산을 대체하기 위해 유망한 해의 분포를 모델링하는 분포적 적대적 네트워크(DAN)를 활용해 후손을 생성한다.
• 진짜 샘플을 기반으로 작동하는 분포적 프레임워크를 DAN에 도입하여 학습 안정성과 모드 커버리지 향상을 높인다.
• 고차원 결정 공간에서의 탐색 효율성을 향상시키기 위해 LMOCSO의 두 단계 위치 갱신 전략을 통합한다.
• 해 품질의 전체 분포를 점 추정이 아닌, 분포 손실 함수를 사용해 생성기의 학습을 수행한다.
• 판별기는 진짜 해와 생성된 해를 구분함으로써 생성기가 고품질이고 다양한 후손을 생성하도록 이끈다.

실험 결과

연구 질문

• RQ1 분포적 GAN 기반 접근 방식이 대규모 다목적 최적화에서 기존의 진화적 연산자보다 뛰어나게 성능을 발휘할 수 있는가?
• RQ2 DAN을 RVEA와 통합함으로써 고차원 결정 공간에서의 수렴성과 다양성이 어떻게 향상되는가?
• RQ3 두 단계 경쟁적 군집 최적화 전략이 대규모 문제에서 탐색 효율성을 얼마나 향상시키는가?
• RQ4 DAN의 분포적 프레임워크가 단일 점 샘플링 방법에 비해 더 나은 모드 커버리지와 더 안정적인 학습을 이끌어내는가?
• RQ5 기본 LSMOP 벤치마크에서 최신 기술인 RM-MEDA, MO-CMA, NSGA-II와 비교해 제안된 LSA-DAN 알고리즘이 어떻게 성능을 내는가?

주요 결과

• 제안된 LSA-DAN 알고리즘은 RM-MEDA, MO-CMA, NSGA-II와 비교해 9개의 대규모 다목적 벤치마크 문제에서 뛰어난 수렴성과 다양성 지표를 확보한다.
• DAN에 분포적 프레임워크를 적용함으로써 단일 점 샘플링 방법에 비해 더 안정적인 학습과 더 나은 해 모드 커버리지가 이루어진다.
• LMOCSO의 두 단계 위치 갱신 전략 통합이 고차원 결정 공간에서의 탐색 효율성을 크게 향상시킨다.
• DAN 기반의 후손 생성 메커니즘은 기존의 교배 및 돌연변이에 비해 더 높은 수렴 품질과 더 나은 분포 커버리지의 해를 생성한다.
• 실증 결과는 LSA-DAN이 모든 테스트된 LSMOP 문제에서 히퍼볼륨 및 반전된 생성 거리 지표에서 최신 기술 알고리즘을 일관되게 능가함을 보여준다.
• 이 방법은 다양한 문제 인스턴스에서 뛰어난 성능을 유지하며, 대규모 다목적 최적화 환경에서의 강건성을 보여준다.