[논문 리뷰] Multi-objective Bayesian Optimization With Mixed-categorical Design Variables for Expensive-to-evaluate Aeronautical Applications

Nathalie Bartoli, Thierry Lefèbvre외 9명|PolyPublie (École Polytechnique de Montréal)|2025. 04. 14.

Advanced Multi-Objective Optimization Algorithms인용 수 3

한 줄 요약

논문은 SEGOMOE를 개발, 혼합 범주형 설계 변수를 사용한 다목적 베이지안 최적화 프레임워크로 비싼 고도 문제를 효율적으로 최적화, 세 가지 실제 AGILE 4.0 사례에서 시연.

ABSTRACT

This work aims at developing new methodologies to optimize computational costly complex systems (e.g., aeronautical engineering systems). The proposed surrogate-based method (often called Bayesian optimization) uses adaptive sampling to promote a trade-off between exploration and exploitation. Our in-house implementation, called SEGOMOE, handles a high number of design variables (continuous, discrete or categorical) and nonlinearities by combining mixtures of experts for the objective and/or the constraints. Additionally, the method handles multi-objective optimization settings, as it allows the construction of accurate Pareto fronts with a minimal number of function evaluations. Different infill criteria have been implemented to handle multiple objectives with or without constraints. The effectiveness of the proposed method was tested on practical aeronautical applications within the context of the European Project AGILE 4.0 and demonstrated favorable results. A first example concerns a retrofitting problem where a comparison between two optimizers have been made. A second example introduces hierarchical variables to deal with architecture system in order to design an aircraft family. The third example increases drastically the number of categorical variables as it combines aircraft design, supply chain and manufacturing process. In this article, we show, on three different realistic problems, various aspects of our optimization codes thanks to the diversity of the treated aircraft problems.

연구 동기 및 목표

• 연속적, 이산적 및 범주형 변수를 포함하는 비용이 큰 항공 시스템의 효율적 최적화 필요성을 해결한다.
• 혼합 변수와 제약 조건을 다룰 수 있는 대리모델 기반 다목적 최적화 방법을 개발한다.
• 비용이 많이 드는 평가를 최소화하면서 정확한 Pareto 프런트를 구성한다.
• 실질적인 AGILE 4.0 항공 응용 사례 세 건에 이 방법론을 시연한다.

제안 방법

• 고차원의 혼합 변수 문제를 다루기 위해 지역 Kriging 모델의 혼합을 이용한 Sequential Enrichment Bayesian Optimization 프레임워크인 SEGOMOE를 제안한다.
• 혼합 정수 및 범주형 입력을 연속 이완 및 원-핫 인코딩으로 연속 공간으로 이완하고, 부분 최소제곱(Partial Least Squares, PLS)을 보강하여 하이퍼파라미터를 줄인다(KPLS 및 KPLS-K).
• 목표 및 제약에 대해 독립 구성요소를 가진 GP 대리모형을 사용하고, EHVI유형 기준과 스칼라화 항(psi)을 결합한 정규화된 획득 함수를.
• 실현 가능 영역 제약 하에 정규화된 획득 함수를 최대화하여 실험 설계의 순차적 보강을 수행한다.
• 최종 데이터를 후처리하여 목표/제약의 GP 모델을 구성하고 예측된 Pareto 프런트를 얻기 위해 NSGA-II를 적용한다.
• 초기화, 이완, GP 모델링, 획득 최적화 및 보강을 자세히 다루는 알고리즘 단계(Algorithm 1)를 제공한다.

Figure 1 : Hypervolume Improvement: the hypervolume indicator of the non-dominated set (green points) corresponds to the area dominated by it, up to $R$ (reference point in black). The gray rectangle is the hypervolume improvement brought by the new added point in magenta.

실험 결과

연구 질문

• RQ1 비용이 큰 항공 문제에 대한 다목적 베이지안 최적화에서 혼합-범주형 설계 변수를 어떻게 효율적으로 다룰 수 있는가?
• RQ2 제약 조건과 혼합 변수들을 고려하면서 탐색과 착취 사이의 균형을 효과적으로 맞추는 정규화된 획득 함수가 가능한가?
• RQ3 연속 이완과 PLS 기반 차원 축소가 고차원 MDO 문제에서 BO 성능에 미치는 영향은 무엇인가?
• RQ4 현실적인 항공기 설계 시나리오에서 SEGOMOE가 Pareto 프런트를 전통적 해법과 비교하여 얼마나 잘 구성하는가?

주요 결과

• SEGOMOE는 다목적 설정에서 혼합 연속, 이산 및 범주형 변수를 효과적으로 처리할 수 있게 한다.
• 이 방법은 연속 이완과 원-핫 인코딩 및 PLS를 결합하여 고차원성과 하이퍼파라미터를 관리한다.
• 정규화된 항을 갖춘 EHVI형 획득 함수가 검색을 실현 가능하고 다양한 Pareto 최적 해로 이끈다.
• 항공기 기구 업그레이드 연구에서 Pareto 프런트는 JPAD와 SEGOMOE의 결과를 통합하여 전역 프런트 15점을 산출했다(JPAD 4점, SEGOMOE 11점).
• 최적화는 OBS 아키텍처 및 엔진 배치에 따라 개조 비용, 배출(CEI), 최대 이륜 중량(MTOW), 순항 SAR 간의 트레이드오프를 밝힌다.
• 이 프레임워크는 서로 다른 설계 선택(예: BPR 및 OBS)이 배출, MTOW, SAR, 비용 절감에 상당한 영향을 미칠 수 있음을 보여준다.

Figure 2 : XDSM DOE MDA for Airframe upgrade design.