[논문 리뷰] Multi-objective multi-generation Gaussian process optimizer for design optimization

Xiaobiao Huang, Song, Minghao외 1명|arXiv (Cornell University)|2019. 06. 29.

Advanced Multi-Objective Optimization Algorithms참고 문헌 29인용 수 10

한 줄 요약

이 논문은 다중 목적 설계 최적화를 가속화하기 위해 가우시안 프로세스 서rogate 모델을 사용해 반복적인 해 선택을 안내하는 다세대 가우시안 프로세스 최적화기(MG-GPO)를 제안한다. 실제 시스템 평가 이전에 예측 모델을 통해 후보 해를 생성하고 평가함으로써 MG-GPO는 NSGA-II, MOPSO, MMOPSO, WOF-SMPSO와 비교해 여러 테스트 케이스에서 더 빠른 수렴 속도와 높은 안정성을 확보한다. 이는 최대 100개의 결정 변수를 가진 문제에서 성립한다.

ABSTRACT

We present a multi-objective evolutionary optimization algorithm that uses Gaussian process (GP) regression-based models to select trial solutions in a multi-generation iterative procedure. In each generation, a surrogate model is constructed for each objective function with the sample data. The models are used to evaluate solutions and to select the ones with a high potential before they are evaluated on the actual system. Since the trial solutions selected by the GP models tend to have better performance than other methods that only rely on random operations, the new algorithm has much higher efficiency in exploring the parameter space. Simulations with multiple test cases show that the new algorithm has a substantially higher convergence speed and stability than NSGA-II, MOPSO, and some other more recent algorithms.

연구 동기 및 목표

• NSGA-II와 MOPSO와 같은 전통적인 다목적 진화 알고리즘(MOEAs)의 비효율성을 해결하되, 이들은 예측 지침 없이 확률적 연산에 의존한다.
• 고차원 매개변수 공간(P > 20)에서 기존의 서rogate 보조 MOEAs가 겪는 높은 계산 오버헤드와 확장성 한계를 극복한다.
• 입자 가속기와 같은 복잡한 시스템의 다목적 설계 최적화에서 수렴 속도와 안정성을 향상시킨다.
• 예측 모델을 사용해 각 세대에 다수의 후보 해를 생성함으로써 병렬 컴퓨팅을 효율적으로 활용할 수 있도록 한다.
• 공학 설계에서 계산 비용이 큰 시뮬레이션에 적합한 확장성 있고 안정적이며 고성능 최적화 프레임워크를 개발한다.

제안 방법

• 이전 평가에서 수집된 데이터를 바탕으로 각 목표 함수에 대해 사후 가우시안 프로세스(GP) 서rogate 모델을 구축한다.
• 각 세대에서 대규모 후보 해 풀에 대해 GP 모델을 사용해 성능과 불확실성을 예측한다.
• 가장 유망한 해를 실제 시스템에서 평가하기 위해 GP-하한 신뢰도(Lower Confidence Bound, LCB) 획득 함수를 적용한다.
• 각 평가 후 새로운 데이터로 서rogate 모델을 반복적으로 갱신함으로써 다세대에 걸쳐 인구 집단을 개선한다.
• LCB 획득 함수를 통해 예측 성능(이득)과 불확실성(탐색)을 균형 잡음으로써 다양성과 수렴성을 동시에 확보한 파레토 최적 해를 유지한다.
• 효율적인 모델 갱신 및 배치 평가 전략을 통해 계산 오버헤드를 최소화함으로써 고차원 문제(P=100까지)에 확장 가능하도록 한다.

실험 결과

연구 질문

• RQ1 서rogate 기반 다목적 최적화 알고리즘이 기존의 NSGA-II 및 MOPSO와 같은 고전적 MOEAs보다 더 빠른 수렴 속도와 높은 안정성을 달성할 수 있는가?
• RQ2 기존의 서rogate 방법이 차원의 극복 문제에 시달리는 고차원 매개변수 공간(P > 20)에서 MG-GPO 알고리즘이 어떻게 성능을 발휘하는가?
• RQ3 GP 모델을 통해 선택한 배치 후보 해가 단일 점 선택 방법에 비해 계산 효율성을 얼마나 향상시키는가?
• RQ4 ZDT1, ZDT2, ZDT3, ZDT6와 같은 다양한 테스트 문제에서, 특히 차원이 다양할 경우 MG-GPO 알고리즘이 강건한 성능을 유지하는가?
• RQ5 과도한 계산 비용 없이도 GP-LCB 획득 함수가 다목적 설정에서 탐색과 이득을 효과적으로 균형 잡을 수 있는가?

주요 결과

• 모든 테스트 케이스에서, ZDT1, ZDT2, ZDT3, ZDT6에 대해 30개 및 100개의 결정 변수를 가진 경우 MG-GPO는 NSGA-II, MOPSO, MMOPSO, WOF-SMPSO보다 뚜렷이 더 빠른 수렴 속도를 보였다.
• IGD(Inverted Generational Distance) 비교에서, 1000~8000회 평가 시 90%의 Wilcoxon 부호 순위 검정에서 승리했으며, P=100일 경우 8000회 평가에서 100% 승리 기록을 달성했다.
• 히퍼볼륨(HV) 지표에서, 2000, 3000, 4000, 8000회 평가 시 모든 기준 알고리즘보다 뛰어난 성능을 보였으며, P=100 및 4000회 평가에서 100% 승리 기록을 기록했다.
• MG-GPO는 높은 안정성을 보였으며, 일부 고차원 케이스에서 WOF-SMPSO 및 MOPSO가 실패한 바에도 양의 히퍼볼륨을 달성한 적이 없었다.
• 고차원에서도 높은 계산 오버헤드 없이 안정적으로 작동했으며, MOEA/D-EGO 및 유사한 방법에서 관찰되는 세제곱 시간 복잡도 문제를 피했다.
• P=100, 8000회 평가 시 MG-GPO는 평균 히퍼볼륨이 ZDT1 기준 0.6554, ZDT2 기준 0.1499를 기록했으며, NSGA-II 및 MOPSO는 여러 런에서 양의 히퍼볼륨을 달성하지 못했다.