[논문 리뷰] Sequential design of experiments to estimate a probability of exceeding a threshold in a multi-fidelity stochastic simulator

Rémi Stroh, Séverine Demeyer외 3명|arXiv (Cornell University)|2017. 07. 26.

Advanced Multi-Objective Optimization Algorithms참고 문헌 7인용 수 3

한 줄 요약

이 논문은 높은 정밀도에서 다중 정밀도 확률적 시뮬레이터가 임계 임계값을 초과할 확률을 추정하기 위한 베이지안 순차 설계 전략인 최대 불확실성 감소 속도(MSUR)를 제안한다. 가용한 최적의 정밀도 수준에 대한 사전 지식 없이도, 물리적 입력과 정밀도 수준을 적응적으로 선택함으로써 MSUR는 단일 수준 SUR 전략의 최고 성능에 준하는 불확실성 감소를 달성한다. 이는 가우시안 프로세스 모델과 다중 정밀도 크리징을 활용하여 정확도와 계산 비용을 균형 잡는 데 기여한다.

ABSTRACT

In this article, we consider a stochastic numerical simulator to assess the impact of some factors on a phenomenon. The simulator is seen as a black box with inputs and outputs. The quality of a simulation, hereafter referred to as fidelity, is assumed to be tunable by means of an additional input of the simulator (e.g., a mesh size parameter): high-fidelity simulations provide more accurate results, but are time-consuming. Using a limited computation-time budget, we want to estimate, for any value of the physical inputs, the probability that a certain scalar output of the simulator will exceed a given critical threshold at the highest fidelity level. The problem is addressed in a Bayesian framework, using a Gaussian process model of the multi-fidelity simulator. We consider a Bayesian estimator of the probability, together with an associated measure of uncertainty, and propose a new multi-fidelity sequential design strategy, called Maximum Speed of Uncertainty Reduction (MSUR), to select the value of physical inputs and the fidelity level of new simulations. The MSUR strategy is tested on an example.

연구 동기 및 목표

• 제한된 계산 예산 내에서 높은 정밀도 수준에서 확률적 시뮬레이터의 출력이 임계값을 초과할 확률을 추정하는 것.
• 다중 정밀도 확률적 시뮬레이터에서 시뮬레이션 정확도와 계산 비용을 균형 잡는 데 도전하는 문제를 다루는 것.
• 불확실성 추정치를 최소화하기 위해 물리적 입력과 정밀도 수준을 적응적으로 선택하는 순차 실험 설계 전략을 개발하는 것.
• 가우시안 프로세스를 사용하여 시뮬레이터 출력을 모델링하고 임계값 초과 확률의 불확실성을 정량화하는 베이지안 프레임워크를 제공하는 것.
• 제안된 MSUR 전략이 최적의 정밀도 수준에 대한 사전 지식 없이도 단일 수준 SUR 전략의 최고 성능에 도달함을 보여주는 것.

제안 방법

• 시뮬레이터 출력을 평균 및 분산 함수를 가우시안 프로세스로 모델링하는 조건부 정규분포로 가정하며, 공분산 및 분산 함수가 알려져 있다고 가정한다.
• 의미 함수 ξ(x,t)에 대해 가우시안 프로세스 사전분포를 사용하며, 평균에 대해 비정규화된 균일 사전분포를 적용하여 크리징 공식을 통한 케이스 테일러 업데이트를 가능하게 한다.
• 고정밀도에서의 가우시안 프로세스 사후 평균 및 표준편차의 누적정규분포 함수(CDF) 변환을 통해 임계값 초과 확률 p(x)를 유도한다.
• 새로운 순차 설계 기준인 최대 불확실성 감소 속도(MSUR)를 제안하며, 관심 있는 확률의 사후 분산을 최대한으로 줄일 수 있도록 다음 시뮬레이션 점 (x,t)을 선택한다.
• 순차 불확실성 감소(SUR) 프레임워크를 다중 정밀도 환경에 적응시켜 물리적 입력과 정밀도 수준을 함께 최적화함으로써 수렴 속도를 향상시킨다.
• 다중 정밀도 크리징 모델을 활용하여 정밀도 수준 간의 정보를 공유함으로써 추정 효율성을 높이며, 계산 비용의 상충관계를 존중한다.

실험 결과

연구 질문

• RQ1 순차 설계 전략은 확률적 다중 정밀도 시뮬레이터의 임계값 초과 확률에 대한 불확실성을 효과적으로 감소시킬 수 있는가?
• RQ2 물리적 입력과 정밀도 수준의 선택을 어떻게 최적화하여 확률 추정치의 불확실성 감소 속도를 가속화할 수 있는가?
• RQ3 제안된 MSUR 전략은 최적의 정밀도 수준에 대한 사전 지식 없이도 최고의 단일 수준 SUR 전략과 유사한 성능을 달성하는가?
• RQ4 가우시안 프로세스 사전분포를 갖는 다중 정밀도 베이지안 프레임워크는 계산 비용이 높은 시뮬레이터에서 희귀사건 확률을 효율적으로 추정하는 데 어떻게 기여하는가?
• RQ5 다양한 정밀도 수준에서 임계값 초과 확률 추정에 있어서 계산 비용과 정확도 사이의 상충관계는 어떠한가?

주요 결과

• MSUR 전략은 모든 테스트된 정밀도 수준, 특히 가장 정밀한 수준에서도 최고의 단일 수준 SUR 전략과 유사한 불확실성 감소 성능을 달성한다.
• 임계값 초과 확률 오차 수준이 0.05일 때, MSUR는 가장 세밀한 시간 간격(Δ = 0.05 s)을 사용한 SL-SUR 전략과 동등한 성능을 보이며, 정밀도 수준 간에 강건함을 입증한다.
• MSUR는 최적의 정확도-비용 상충관계를 제공하는 정밀도 수준에 대한 사전 지식 없이도 가장 정보가 많은 물리적 입력과 정밀도 수준 조합을 성공적으로 식별한다.
• 계산 예산이 증가함에 따라 전역 확률 P와 국소 확률 함수 p(x)의 추정치에서 평균 제곱오차를 크게 감소시킨다.
• 고정밀도 시뮬레이션이 비쌀 경우, MSUR 전략은 단일 수준 SUR 전략보다 단위 비용 당 불확실성 감소 성능이 뛰어나다.
• 실험 결과에 따르면, 제한된 시뮬레이션 예산 조건에서도 MSUR는 확률 함수에 대한 L² 노름 오차와 전역 확률에 대한 오차를 낮게 유지한다.