[논문 리뷰] Survey of multifidelity methods in uncertainty propagation, inference, and optimization

Benjamin Peherstorfer, Karen Willcox외 1명|arXiv (Cornell University)|2018. 06. 28.

Probabilistic and Robust Engineering Design참고 문헌 157인용 수 28

한 줄 요약

이 논문은 고정밀도 및 저정밀도 모델을 조합함으로써 불확실성 전파, 추론 및 최적화를 가속화하는 다중정밀도 방법을 조사한다. 방법을 적응, 융합, 필터링으로 분류하고, 높은 정밀도 정확도를 유지하면서 더 저렴한 모델을 활용함으로써 외부 루프 응용 분야에서 상당한 계산 속도 향상을 가능하게 한다.

ABSTRACT

In many situations across computational science and engineering, multiple computational models are available that describe a system of interest. These different models have varying evaluation costs and varying fidelities. Typically, a computationally expensive high-fidelity model describes the system with the accuracy required by the current application at hand, while lower-fidelity models are less accurate but computationally cheaper than the high-fidelity model. Outer-loop applications, such as optimization, inference, and uncertainty quantification, require multiple model evaluations at many different inputs, which often leads to computational demands that exceed available resources if only the high-fidelity model is used. This work surveys multifidelity methods that accelerate the solution of outer-loop applications by combining high-fidelity and low-fidelity model evaluations, where the low-fidelity evaluations arise from an explicit low-fidelity model (e.g., a simplified physics approximation, a reduced model, a data-fit surrogate, etc.) that approximates the same output quantity as the high-fidelity model. The overall premise of these multifidelity methods is that low-fidelity models are leveraged for speedup while the high-fidelity model is kept in the loop to establish accuracy and/or convergence guarantees. We categorize multifidelity methods according to three classes of strategies: adaptation, fusion, and filtering. The paper reviews multifidelity methods in the outer-loop contexts of uncertainty propagation, inference, and optimization.

연구 동기 및 목표

• 반복적인 모델 평가가 필요한 외부 루프 응용 분야(예: 불확실성 정량화, 추론, 최적화)에서 발생하는 계산 병목 현상을 해결한다.
• 오직 고정밀도 모델을 사용할 경우의 높은 비용을 줄이기 위해 계산적으로 저렴하지만 정확도가 낮은 저정밀도 모델을 통합한다.
• 모델 관리 전략인 적응, 융합, 필터링을 기반으로 다중정밀도 방법을 체계적으로 분류한다.
• 단순화된 모델, 투영 기반 모델, 데이터 피팅 모델에 기반한 다양한 다중정밀도 접근 방식을 통합적인 시각으로 정리한다.
• 모델 부적합성 정량화 및 모델 이외의 정보원(예: 실험, 전문가 의견) 통합과 같은 열린 과제를 부각시킨다.

제안 방법

• 다중정밀도 방법을 세 가지 유형으로 분류한다: 적응(입력을 기반으로 평가할 모델을 선택함), 융합(여러 모델의 출력을 조합함), 필터링(저정밀도 모델을 고정밀도 평가를 안내하는 데 사용함).
• 고정밀도 모델과 저정밀도 모델을 입력에서 출력으로 매핑하는 함수로 정의하며, 고정밀도 모델은 목표 정확도를 나타내고, 저정밀도 모델은 계산적으로 저렴한 근사치를 제공한다.
• 저정밀도 모델을 세 가지 유형으로 분류한다: 단순화 모델(예: 축소된 물리 모델), 투영 기반 모델(예: 저차원 모델), 데이터 피팅 모델(예: 서rogate 모델, 머신러닝 근사치).
• 외부 루프 응용을 반복적 과정으로 프레임워크화하여 입력을 모델에 입력하고 출력을 집계하여 최적 설계, 사후 분포, 불확실성 분포와 같은 결과를 도출한다.
• 베이지안 모델 평균화 및 모델 부적합성 정량화 기법을 통합하여 모델 정밀도에 대한 불확실성을 고려하고 정확도를 향상시킨다.
• 실험 설계 및 정보의 가치 원리를 활용하여, 특히 다중 정보원 융합에서 언제, 어디서 어떤 모델을 평가할지 지도한다.

실험 결과

연구 질문

• RQ1 외부 루프 응용 분야에서 모델 관리 전략에 기반해 다중정밀도 방법을 체계적으로 분류할 수 있는가?
• RQ2 단순화, 투영 기반, 데이터 피팅 유형의 저정밀도 모델이 계산 가속화에 기여할 때 각각의 상대적 장점과 한계는 무엇인가?
• RQ3 다중정밀도 방법은 정확도를 훼손하지 않고 불확실성 전파, 통계적 추론 및 최적화의 효율성을 어떻게 향상시킬 수 있는가?
• RQ4 고정밀도 모델조차 현실의 근사치일 수 있다는 점을 고려해 모델 부적합성을 어떻게 정량화하고 다중정밀도 프레임워크에 통합할 수 있는가?
• RQ5 실험, 전문가 의견 등 모델 이외의 자료를 포함해, 어떤 전략을 사용하여 언제, 어디서 어떤 모델을 평가할지를 지능적으로 선택할 수 있는가?

주요 결과

• 적응, 융합, 필터링 기반의 다중정밀도 방법은 저정밀도 모델을 활용하면서도 고정밀도 모델을 사용함으로써 정확도를 유지함으로써 외부 루프 응용 분야에서 계산 비용을 체계적으로 줄일 수 있는 원칙적인 방법을 제공한다.
• 융합 기반 전략, 특히 베이지안 모델 평균화나 조정 인자 기반 전략은 여러 모델의 출력을 효과적으로 조합하여 예측 정확도를 향상시키고 모델 불확실성을 정량화하는 데 유용하다.
• 서rogate 모델 및 머신러닝 근사치와 같은 데이터 피팅 저정밀도 모델은 평가 속도가 빠르고 고정밀도 데이터로 훈련할 수 있다는 점에서 불확실성 정량화 및 최적화 분야에서 尤도 높은 효율성을 발휘한다.
• 투영 기반 모델(예: 저차원 모델)은 시스템의 내재된 저차원 구조를 가진 경우 강력한 계산 절감 효과를 제공한다.
• 단순화 모델은 정확도가 낮지만 계산 비용이 낮고 물리적 의미가 명확하므로 초기 설계 및 분석 단계에서 유용하다.
• 진전이 있었음에도 불구하고, 모델 부적합성 모델링, 다양한 정보원(예: 실험, 전문가 의견) 통합, 모델 기반 입력을 초월한 다중정밀도 프레임워크 확장 등 여전히 도전 과제가 남아 있다.