[논문 리뷰] Dealing with Structure Constraints in Evolutionary Pareto Set Learning

Xi Lin, Xiaoyuan Zhang외 2명|arXiv (Cornell University)|2023. 10. 31.

Advanced Multi-Objective Optimization Algorithms인용 수 4

한 줄 요약

이 논문은 연속적 다목적 최적화 문제에 대해 전체 파레토 집합을 학습하면서도 사용자가 정의한 구조 제약 조건을 통합하는 모델 기반 진화적 프레임워크인 진화적 파레토 집합 학습(EPSL)을 제안한다. MOEA/D를 신경망을 통해 파레토 집합을 표현하고, 진화적 확률적 경사하강법으로 최적화함으로써 EPSL은 의사결정자가 파레토 최적성과 원하는 해 집합의 구조 간의 트레이드오프를 실현할 수 있도록 한다. 기준 문제와 실제 문제에서 뛰어난 성능과 구조적 단순성을 입증한다.

ABSTRACT

In the past few decades, many multiobjective evolutionary optimization algorithms (MOEAs) have been proposed to find a finite set of approximate Pareto solutions for a given problem in a single run, each with its own structure. However, in many real-world applications, it could be desirable to have structure constraints on the entire optimal solution set, which define the patterns shared among all solutions. The current population-based MOEAs cannot properly handle such requirements. In this work, we make the first attempt to incorporate the structure constraints into the whole solution set by a single Pareto set model, which can be efficiently learned by a simple evolutionary stochastic optimization method. With our proposed method, the decision-makers can flexibly trade off the Pareto optimality with preferred structures among all solutions, which is not supported by previous MOEAs. A set of experiments on benchmark test suites and real-world application problems fully demonstrates the efficiency of our proposed method.

연구 동기 및 목표

• 유한 개의 개체 기반 MOEAs가 전체 파레토 집합을 근사하는 데에 한계를 보이는 점을 해결하기 위해, 특히 구조 제약 조건 하에서의 근사 성능 향상.
• 유한한 해 집합이 아닌 연속적이고 파arameterized manifold로 전체 파레토 집합을 학습하는 모델 기반 진화 방법 개발.
• 최적화 과정에서 선호하는 구조 패턴(예: 공유 구성 요소, 다각형 체인 등)을 능동적으로 해 집합에 통합할 수 있도록 의사결정자 지원.
• MOEA/D의 분해 및 협업을 단일 미분 가능 모델과 진화 최적화를 통해 일반화.
• 구조화된 파레토 집합이 실제 파레토 집합과 거의 동일한 초체적량(Hypervolume) 및 IGD+ 성능을 달성하면서도 훨씬 더 단순하고 해석 가능한 구조를 갖는지 검증.

제안 방법

• EPSL은 파라미터 $ \boldsymbol{\theta} $로 매개변수화된 신경망 모델 $ h_{\boldsymbol{\theta}}(\boldsymbol{\lambda}) $ 을 사용하여 선호도 벡터 $ \boldsymbol{\lambda} \in \mathbb{R}^m $ 를 결정 변수 $ \boldsymbol{x} \in \mathbb{R}^n $ 로 매핑함으로써 연속적인 파레토 집합 근사치를 형성한다.
• 이 방법은 고정된 부분문제를 갖는 MOEA/D의 스칼라화를 일반화하여, 모든 선호도를 동시에 처리할 수 있는 단일 연속 모델로 대체한다.
• 모델 파라미터 $ \boldsymbol{\theta} $ 를 최적화하기 위해 진화적 확률적 경사하강법을 사용하여 모든 선호도에 걸쳐 공동 학습이 가능하다.
• 다각형 체인 또는 공유 구성 요소와 같은 구조 제약 조건은 해 집합에 대한 정규화 또는 아키텍처 제약 조건을 통해 모델에 통합된다.
• 프레임워크는 선호도 조건부 전방 전파를 사용한다: $ \boldsymbol{\lambda} \rightarrow h_{\boldsymbol{\theta}}(\boldsymbol{\lambda}) \rightarrow \boldsymbol{x} \rightarrow \boldsymbol{F}(\boldsymbol{x}) $, 그라디언트는 모델을 통해 역전파된다.
• 최적화는 선호도 벡터에 대한 몬테카를로 샘플링을 통해 수행되어, 표준 MOEAs와 동일한 계산 예산 내에서 효율적인 기반 학습이 가능하다.

실험 결과

연구 질문

• RQ1 모델 기반 진화적 프레임워크는 블랙박스 다목적 최적화 문제에 대해 기존의 유한 개체 기반 MOEAs보다 전체 파레토 집합을 더 효과적으로 학습할 수 있는가?
• RQ2 공유 구성 요소나 다각형 체인 패턴과 같은 구조 제약 조건은 최적화 과정에서 파레토 집합에 어떻게 효과적으로 통합될 수 있는가?
• RQ3 간소화되고 구조화된 파레토 집합은 진정한 파레토 집합과 비교해 수렴성과 다양성 측면에서 어느 정도의 경쟁력을 유지할 수 있는가?
• RQ4 사용자가 정의한 구조적 사전 지식을 통해 파레토 최적성과 해 집합의 해석 가능성 간에 유리한 트레이드오프를 달성할 수 있는가?
• RQ5 실제 공학 문제에서, 구조 제약 조건이 있는 EPSL의 성능은 제약 조건이 없는 EPSL 및 기타 최신 MOEAs와 비교해 어떻게 되는가?

주요 결과

• 4바퀴 트러스 설계 문제(RE21)에서 다각형 체인 구조 제약 조건을 적용한 EPSL은 불균형 초체적량 갭(ΔHV)이 8.23e-03을 기록했으며, 제약 조건이 없는 EPSL의 2.26e-03과 비교해 소규모 성능 손실을 보였지만, 구조적 단순화에 비해 매우 높은 성능을 유지함을 시사한다.
• RE25 문제에서 다각형 체인 제약 조건을 적용한 EPSL은 ΔHV가 4.29e-08, IGD+가 1.24e-07을 기록하여 제약 조건이 없는 버전과 거의 동일한 성능을 보였다.
• 합성 문제(38)에서 EPSL은 실제 파레토 집합에 매우 가까운 다각형 체인 구조를 성공적으로 학습했으며, 시각적으로 유사한 파레토 프론트를 제공했다.
• 제약 조건이 있는 파레토 집합는 제약 조건이 없는 경우보다 훨씬 더 단순한 구조를 지녔지만, 그에 상응하는 파레토 프론트는 거의 동일한 트레이드오프를 제공하여, 구조 제약 조건의 트레이드오프 효과가 효과적임을 검증했다.
• 모든 시험된 공학 문제에서 EPSL은 제약 조건이 있는 경우에도 경쟁력 있는 수렴성 및 다양성 지표를 유지하면서 더 해석 가능하고 설명 가능한 해 집합을 생성했다.
• 결과적으로 EPSL는 실제 파레토 프론트에 대한 높은 품질의 근사치를 유지하면서 원하는 구조 패턴을 효과적으로 학습할 수 있음을 확인했다.