[논문 리뷰] Multiobjective optimization using Gaussian process emulators via stepwise uncertainty reduction

Victor Picheny|2013. 10. 02.

Advanced Multi-Objective Optimization Algorithms참고 문헌 4인용 수 4

한 줄 요약

이 논문은 단계적 불확실성 감소(Stepwise Uncertainty Reduction, SUR)에 의해 이끄는 가우시안 프로세스 에미레이터를 사용하여 다목적 최적화 문제에서 파레토 최적 해를 효율적으로 식별하는 새로운 다목적 최적화 알고리즘을 제안한다. 파레토 최적 해의 불확실성을 닫힌 형태의 기대 불확실성 감소 계산을 통해 최소화함으로써, 시뮬레이션 또는 튜닝 파rameter 없이도 탐색과 이용의 강력한 균형을 달성한다.

ABSTRACT

Optimization of expensive computer models with the help of Gaussian process emulators in now commonplace. However, when several (competing) objectives are considered, choosing an appropriate sampling strategy remains an open question. We present here a new algorithm based on stepwise uncertainty reduction principles to address this issue. Optimization is seen as a sequential reduction of the volume of the excursion sets below the current best solutions, and our sampling strategy chooses the points that give the highest expected reduction. Closed-form formulae are provided to compute the sampling criterion, avoiding the use of cumbersome simulations. We test our method on numerical examples, showing that it provides an efficient trade-off between exploration and intensification.

연구 동기 및 목표

• 비용이 많이 들지만 상충되는 목적이 있는 다목적 최적화 문제에서 최적의 샘플링 점을 선택하는 데 도전하는 문제를 해결한다.
• 히우리스틱한 인포르티드 기준에 의존하지 않고, 파레토 최적 해에 대한 불확실성을 줄이는 통계적으로 타당한 샘플링 전략을 개발한다.
• 기존 방법의 한계, 즉 파rameter 튜닝, 계층적 목표 가정, 몬테카를로 시뮬레이션에 대한 의존성 등을 극복한다.
• 불확실성 감소에 대한 닫힌 형태의 표현식을 유도하여, 시뮬레이션에 의존하는 기존 SUR 접근법에 비해 계산적으로 효율적인 대안을 제공한다.
• 불확실성 감소의 일관성과 이론적 기반을 유지하면서도 벤치마크 문제에서 뛰어난 경험적 성능을 확보한다.

제안 방법

• 다목적 최적화 문제를 가우시안 프로세스(GP) 에미레이터를 사용해 파레토 최적 해의 불확실성 감소를 순차적으로 수행하는 것으로 수식화한다.
• 불확실성 측정 기준으로 현재 최고의 해들 아래의 교행 집합의 부피를 정의하여, 파레토 최적 해 식별에 대한 모호성을 표현한다.
• 단계적 불확실성 감소(SUR)를 사용해 이 불확실성 측정 기준을 기대로 최대한 줄이는 다음 평가 점을 선택한다.
• 다변량 정규확률과 이변량 정규CDF $\boldsymbol{\Phi}_{\rho}^{(k)}$를 사용하여 기대 불확실성 감소에 대한 닫힌 형태의 해석적 표현식을 유도한다.
• 몬테카를로 시뮬레이션 없이도, 획득 함수의 정확하고 빠른 평가를 가능하게 하여 샘플링 기준을 계산한다.
• 매번 새로운 관측 결과가 들어올 때마다 GP 모델을 갱신하고 획득 함수를 재평가하는 순차 최적화 루프에 이 방법을 통합한다.

실험 결과

연구 질문

• RQ1 다목적 최적화 환경에서 파레토 최적 해의 불확실성은 어떻게 공식적으로 정량화하고 감소시킬 수 있는가?
• RQ2 시뮬레이션이나 히우리스틱한 트레이드오프에 의존하지 않고, 단계적 불확실성 감소 전략을 다목적 문제에 어떻게 적응시킬 수 있는가?
• RQ3 다목적 GP 최적화에서 기대 불확실성 감소를 효율적으로 계산하기 위해 유도할 수 있는 닫힌 형태의 표현식은 무엇인가?
• RQ4 제안된 SUR 기반 방법은 기존의 인포르티드 기준과 비교해 수렴 속도와 파레토 최적 해 정확도 측면에서 어떻게 성능을 내는가?
• RQ5 이 방법은 고비용 블랙박스 최적화 문제에서 최신 기술 대비 탐색과 이용의 더 나은 균형을 달성하는가?

주요 결과

• 제안된 방법은 기존의 EGO 유사 및 기대 개선 기반 방법과 비교해 수렴 속도와 파레토 최적 해 식별 정확도에서 뚜렷한 향상을 보였다.
• 기대 불확실성 감소에 대한 닫힌 형태의 표현식을 사용함으로써, 계산 비용이 높은 몬테카를로 시뮬레이션의 필요성을 제거하여 실시간 의사결정이 가능해졌다.
• 이 방법은 파레토 최적 해의 불확실성에 직접적으로 초점을 맞추어 통계적으로 일관된 프레임워크를 제공함으로써, 임의의 목표 계층화를 피할 수 있었다.
• 수치 실험 결과, 알고리즘이 탐색과 집중의 균형을 효과적으로 유지하며, 기준 방법보다 파레토 최적 해의 불확실성을 더 효율적으로 감소시킴을 입증하였다.
• 고차원성과 상충되는 목적이 있는 문제를 포함한 다양한 테스트 문제에서 뛰어난 성능을 보였다.
• 다음의 분석 공식 $b_{ij}^{(k)}(\mathbf{x})$와 $d_{ij}^{(k)}(\mathbf{x})$는 표준 이변량 정규CDF를 사용해 획득 함수를 정확하게 계산할 수 있게 하여 수치적 안정성과 효율성을 보장한다.