[논문 리뷰] Recursive co-kriging model for Design of Computer experiments with multiple levels of fidelity with an application to hydrodynamic

Loïc Le Gratiet|arXiv (Cornell University)|2012. 10. 02.

Advanced Multi-Objective Optimization Algorithms참고 문헌 16인용 수 17

한 줄 요약

이 논문은 다중 정밀도 컴퓨터 실험을 위한 재귀적 공크리깅 모델을 제안하며, 원래의 Kennedy-O'Hagan 공크리깅 프레임워크와 동일한 예측 평균과 분산을 유지하면서 계산 복잡도를 감소시킨다. 다중 정밀도 모델을 각 정밀도 수준별로 순차적이고 독립적인 크리깅으로 분해함으로써, 닫힌 형태의 해와 빠른 교차검증이 가능해져, 유체역학 시뮬레이션에서 대규모 데이터셋에 대한 확장성 향상에 기여한다.

ABSTRACT

In many practical cases, a sensitivity analysis or an optimization of a complex time consuming computer code requires to build a fast running approximation of it - also called surrogate model. We consider in this paper the problem of building a surrogate model of a complex computer code which can be run at different levels of accuracy. The co-kriging based surrogate model is a promising tool to build such an approximation. The idea is to improve the surrogate model by using fast and less accurate versions of the code. We present here a new approach to perform a multi-fidelity co-kriging model which is based on a recursive formulation. The strength of this new method is that the co-kriging model is built through a series of independent kriging models. From them, some properties of classical kriging models can naturally be extended to the presented co-kriging model such as a fast cross-validation procedure. Moreover, based on a Bayes linear formulation, an extension of the universal kriging equations are provided for the co-kriging model. Finally, the proposed model has the advantage to reduce the computational complexity compared to the previous models. The multi-fidelity model is successfully applied to emulate a hydrodynamic simulator. This real example illustrates the efficiency of the recursive model.

연구 동기 및 목표

• 다양한 정밀도 수준을 가진 다중 정밀도 컴퓨터 시뮬레이션을 위한 계산 효율적인 서rogate 모델링 방법을 개발하기 위해.
• 기존 공크리깅 모델과 동일한 예측 정확도를 유지하면서 계산 부담을 감소시키기 위해.
• 일반 공크리깅에서 예측 평균과 분산에 대한 닫힌 형태의 표현을 가능하게 하기 위해.
• 다중 정밀도 공크리깅 모델에 대한 빠른 교차검증 절차를 도입하기 위해.
• 실제 유체역학 시뮬레이션에 이 방법을 적용하여 확장성과 정확도를 입증하기 위해.

제안 방법

• 이 방법은 s개의 정밀도 수준별로 독립적인 크리깅을 수행함으로써 s단계의 공크리깅 모델을 재귀적 형식으로 구축한다.
• 공통 공분산 구조를 블록 단위 성분으로 분해하여, 하나의 큰 행렬 대신 하위 행렬을 별도로 역행렬화할 수 있도록 한다.
• 예측 평균과 분산은 블록 행렬 역행렬과 전체 기대값 및 분산의 법칙을 사용하여 유도된다.
• 재귀적 조건부 기대값을 활용하여 일반 공크리깅의 예측 평균과 분산에 대한 닫힌 형태의 표현을 유도한다.
• 재귀적 행렬 역행렬화와 한 개의 관측치를 제외한 추정을 활용하여, Dubrule(1983)의 빠른 교차검증 절차를 다중 정밀도 환경으로 확장한다.
• 매개변수 추정은 각 수준별로 독립적으로 수행되어, 불안정한 조건의 행렬을 피하고 수치적 안정성을 향상시킨다.

실험 결과

연구 질문

• RQ1 다중 정밀도 공크리깅의 재귀적 형식이 원래 공크리깅 모델과 동일한 예측 정확도를 달성할 수 있는가?
• RQ2 재귀적 접근이 일반 공크리깅에서 예측 평균과 분산에 대한 닫힌 형태의 표현을 가능하게 하는가?
• RQ3 빠른 교차검증 절차를 다중 정밀도 공크리깅 모델로 효과적으로 확장할 수 있는가?
• RQ4 기존 공크리깅 접근 방식에 비해 재귀적 방법이 계산 복잡도를 감소시키는가?
• RQ5 복잡한 유체역학 시뮬레이터에서 재귀적 공크리깅 모델은 실제로 어떻게 성능을 발휘하는가?

주요 결과

• 재귀적 공크리깅 모델은 원래의 Kennedy-O'Hagan 공크리깅 모델과 동일한 예측 평균과 분산을 생성한다.
• 일반 공크리깅의 예측 평균과 분산에 대한 닫힌 형태의 표현이 도출되어 분석적 계산이 가능해졌다.
• 빠른 교차검증 절차가 개발되어 모델 검증의 계산 비용을 크게 감소시켰다.
• 큰 행렬 역행렬을 각 정밀도 수준별로 더 작은 독립적인 역행렬로 분할함으로써 계산 복잡도가 감소했다.
• 모델은 성공적으로 유체역학 시뮬레이터에 적용되어 대규모 데이터셋에서의 확장성과 정확도를 입증했다.
• 재귀적 접근은 큰 공분산 행렬의 불안정한 조건을 피함으로써 수치적 안정성을 향상시켰다.