[논문 리뷰] Robust Multi-Objective Bayesian Optimization Under Input Noise

Samuel Daulton, Sait Cakmak외 4명|arXiv (Cornell University)|2022. 02. 15.

Advanced Multi-Objective Optimization Algorithms인용 수 6

한 줄 요약

이 논문은 입력 노이즈에 강건한 다목적 베이지안 최적화 방법을 처음으로 제안하며, 다변량 VaR(MVaR)를 최적화하여 목표가 높은 확률로 사양을 충족하도록 보장하는 위험 측도를 사용한다. 이 방법은 확률적 스칼라화를 활용해 확장 가능하고 이론적으로 타당한 MVaR 최적화를 가능하게 하여, 노이즈 있는 입력 조건 하에서 강건한 설계를 식별하는 데 기존 방법들을 능가한다.

ABSTRACT

Bayesian optimization (BO) is a sample-efficient approach for tuning design parameters to optimize expensive-to-evaluate, black-box performance metrics. In many manufacturing processes, the design parameters are subject to random input noise, resulting in a product that is often less performant than expected. Although BO methods have been proposed for optimizing a single objective under input noise, no existing method addresses the practical scenario where there are multiple objectives that are sensitive to input perturbations. In this work, we propose the first multi-objective BO method that is robust to input noise. We formalize our goal as optimizing the multivariate value-at-risk (MVaR), a risk measure of the uncertain objectives. Since directly optimizing MVaR is computationally infeasible in many settings, we propose a scalable, theoretically-grounded approach for optimizing MVaR using random scalarizations. Empirically, we find that our approach significantly outperforms alternative methods and efficiently identifies optimal robust designs that will satisfy specifications across multiple metrics with high probability.

연구 동기 및 목표

• 실제 응용에서 입력 노이즈에 강건한 다목적 베이지안 최적화 방법의 부족을 해결하기 위해.
• 입력 변동에 따른 목표 분포의 다변량 VaR(MVaR)를 최소화하는 방식으로 강건한 다목적 최적화를 수식화하기 위해.
• 고차원 누적분포함수(CDF)의 직접 계산을 피하면서도 확장 가능하고 이론적으로 타당한 MVaR 최적화 방법을 개발하기 위해.
• 입력 노이즈 하에서도 다수의 목표에서 높은 확률로 높은 성능을 유지하는 설계를 확보하기 위해.
• 노이즈 있는 입력 파rameter에도 불구하고 성능 사양을 충족하는 강건한 설계를 식별하는 데 기존 방법들을 능가하기 위해.

제안 방법

• 입력 노이즈 하에서 목표 벡터의 다변량 VaR(MVaR)를 최대화하는 최적화 목표로 수식화하여 높은 확률의 성능를 보장한다.
• MVaR 최적화 문제를 단일 목표 문제로 변환하기 위해 확률적 스칼라화를 사용하여 효율적인 획득 함수 최적화를 가능하게 한다.
• 목표 벡터의 경험적 누적분포함수를 추정하기 위해 준몬테카를로(QMC) 샘플링을 사용하여 MVaR 계산을 가능하게 한다.
• 각 목표의 독립적 VaR로부터 유도된 MVaR의 경계를 활용하여 계산 비용을 줄이기 위해 그리드 계산을 관련 영역으로 제한한다.
• 작은에서 중간 크기의 표본 크기용과 대용량 표본에서 메모리 효율성을 고려한 두 가지 최적화된 MVaR 계산 루틴을 구현한다.
• 가우시안 프로세스 모델을 사용하여 불확실성 하에서 획득을 안내하는 베이지안 최적화 루프에 MVaR 최적화 프레임워크를 통합한다.

실험 결과

연구 질문

• RQ1 다수의 목적이 변동에 민감한 경우, 다목적 베이지안 최적화를 입력 노이즈에 강건하게 만들 수 있는가?
• RQ2 MVaR는 노이즈 있는 환경에서 다목적 강건 설계에 적합하고 해석 가능한 위험 측도인가?
• RQ3 불가피한 계산이 발생하지 않도록 고차원 입력 및 목표 공간에서 MVaR를 효율적으로 최적화할 수 있는가?
• RQ4 확률적 스칼라화는 MVaR 제약 조건 하에서 확장 가능한 획득 최적화를 어떻게 가능하게 하는가?
• RQ5 제안된 방법은 기존의 단일 목표 강건 BO 및 비강건 MO-BO 기준선보다 입력 노이즈 하에서 강건한 설계를 식별하는 데 뛰어나게 성능을 보이는가?

주요 결과

• 제안된 방법은 입력 노이즈 하에서도 다수의 성능 사양을 높은 확률로 충족하는 강건한 설계를 식별하는 데 기존 접근법보다 뚜렷이 뛰어나다.
• 비강건 및 단일 목표 강건 기준선 대비 노이즈 조건 하에서도 진짜 파레토 경계에 더 빨리 수렴한다.
• 확률적 스칼라화를 통해 MVaR를 이론적 보장을 갖춘 다루기 쉬운 단일 목표 문제로 변환함으로써 효율적인 획득 최적화를 가능하게 한다.
• 각 목표의 독립적 VaR 이하의 영역을 제외하고 그리드 계산을 제한함으로써 MVaR 계산 속도가 향상되어 복잡도가 O(n_ξ^M M)에서 O((1−α)^M n_ξ^M M)로 감소한다.
• 낮은 샘플 효율성 유지로 경쟁 방법 대비 더 적은 목표 평가 수로 강건한 설계를 식별할 수 있다.
• 실험 결과에 따르면 MVaR 기반 접근법은 명목 성능가 비강건 대비 약간 낮을지라도 입력 변동에 덜 민감한 설계를 식별함을 보였다.