[논문 리뷰] Polynomial-Chaos-based Kriging

R. Schoebi, Bruno Sudret외 1명|arXiv (Cornell University)|2015. 02. 13.

Probabilistic and Robust Engineering Design참고 문헌 64인용 수 3

한 줄 요약

이 논문은 다항 혼합 전개(PCE)를 이용한 국소적 근사와 크리깅을 이용한 국소 보정을 결합한 새로운 비침습적 대체 모델링 기법인 PC-Kriging를 제안한다. 적응형 최소각도 회귀 알고리즘을 사용해 희박한 정규수직 다항식 집합을 선별하고 이를 통합된 크리깅 프레임워크에 통합함으로써, PC-Kriging는 제한된 실험 설계 조건에서도 기존의 단독 PCE나 크리깅보다 뛰어난 정확도를 달성한다. 이는 기준 함수에서 검증되었다.

ABSTRACT

Computer simulation has become the standard tool in many engineering fields for designing and optimizing systems, as well as for assessing their reliability. To cope with demanding analysis such as optimization and reliability, surrogate models (a.k.a meta-models) have been increasingly investigated in the last decade. Polynomial Chaos Expansions (PCE) and Kriging are two popular non-intrusive meta-modelling techniques. PCE surrogates the computational model with a series of orthonormal polynomials in the input variables where polynomials are chosen in coherency with the probability distributions of those input variables. On the other hand, Kriging assumes that the computer model behaves as a realization of a Gaussian random process whose parameters are estimated from the available computer runs, i.e. input vectors and response values. These two techniques have been developed more or less in parallel so far with little interaction between the researchers in the two fields. In this paper, PC-Kriging is derived as a new non-intrusive meta-modeling approach combining PCE and Kriging. A sparse set of orthonormal polynomials (PCE) approximates the global behavior of the computational model whereas Kriging manages the local variability of the model output. An adaptive algorithm similar to the least angle regression algorithm determines the optimal sparse set of polynomials. PC-Kriging is validated on various benchmark analytical functions which are easy to sample for reference results. From the numerical investigations it is concluded that PC-Kriging performs better than or at least as good as the two distinct meta-modeling techniques. A larger gain in accuracy is obtained when the experimental design has a limited size, which is an asset when dealing with demanding computational models.

연구 동기 및 목표

• 불확실성 정량화 및 신뢰성 분석에서 고정밀도 모델을 수천, 수만 번 이상 실행하는 데 있어 계산적으로 불가능한 문제를 해결한다.
• 단독 PCE나 크리깅의 한계를 극복하기 위해 전역 근사와 국소 보정의 강점을 결합한다.
• 전역 다항식 추세와 국소 가우시안 프로세스 상관관계를 모두 활용하는 통합된 비침습적 메타모델링 접근법을 개발한다.
• 적응형 알고리즘을 통해 희박한 정규수직 다항식 집합을 최적 선택함으로써, 특히 소규모 실험 설계에서 대체 모델의 정확도를 향상시킨다.
• 모델 평가 비용을 줄이면서도 높은 예측 정확도를 유지함으로써 효율적인 신뢰성 분석 및 최적화를 가능하게 한다.

제안 방법

• PCE를 추세 성분으로, 크리깅을 확률적 보정 성분으로 조합하여 통합 크리깅 모델을 구성함으로써 하이브리드 메타모델을 수립한다.
• 컴퓨터 모델의 전역적 행동을 가장 잘 표현하는 희박한 정규수직 다항식 집합을 선택하기 위해 최소각도 회귀(LAR)를 반복적으로 적용한다.
• 두 가지 변형을 구현한다: 순차적 PC-Kriging(SPC-Kriging), 다항식을 순차적으로 추가하고, 최적 PC-Kriging(OPC-Kriging), 임의의 하나의 샘플을 제외한 오차(LOO 오차) 기반으로 최적의 다항식 조합을 선택한다.
• LAR 기반의 선택 과정 각 단계에서 최대우도추정법(MLE)을 사용해 크리깅 상관함수의 초모수를 추정한다.
• 일반화 오차의 대체 기준으로 임의의 하나의 샘플을 제외한 오차(LOO 오차)를 사용하여 최적의 다항식 집합을 선별함으로써 모델 복잡도를 낮추되 정확도를 손상시키지 않는다.
• 대규모 검증 세트를 사용해 상대 일반화 오차를 계산함으로써 참값이 알려진 분석 기준 함수를 기반으로 방법을 검증한다.

실험 결과

연구 질문

• RQ1 PCE와 크리깅을 하나의 대체 모델로 융합함으로써, 특히 소규모 실험 설계 조건에서 단독으로 사용할 경우보다 정확도가 향상되는가?
• RQ2 최소각도 회귀를 통한 희박한 정규수직 다항식 집합의 적응형 선택은 결과 메타모델의 성능 및 복잡도에 어떤 영향을 미치는가?
• RQ3 LOO 오차 기반으로 최적의 다항식 조합을 선택하는 OPC-Kriging는 순차적으로 다항식을 추가하는 SPC-Kriging보다 더 높은 정확도와 낮은 복잡도를 달성하는가?
• RQ4 하이브리드 PC-Kriging 모델은 예측 정확도를 유지하면서도 불확실성 정량화 작업에서 필요한 모델 평가 횟수를 얼마나 줄일 수 있는가?
• RQ5 다양한 기준 함수와 표본 크기에서 PC-Kriging의 일반화 오차는 일반 크리깅 및 PCE와 비교해 어떻게 나타나는가?

주요 결과

• PC-Kriging는 테스트한 모든 기준 함수에서 단독 PCE나 크리깅과 비교해 일관되게 뛰어난 성능을 보이며, 특히 소규모 실험 설계 조건에서 두각을 나타낸다.
• OPC-Kriging는 SPC-Kriging와 비슷하거나 더 높은 정확도를 달성하면서도 추세 성분에 포함된 다항식의 수를 줄여 모델 복잡도를 낮춘다.
• Ishigami 함수의 경우 N=128개의 표본을 사용할 때 전체 56개 다항식 중 27개(반수)만 사용해도 전체 집합을 사용한 경우와 거의 동일한 정확도를 달성했으며, 이는 정확도 손실 없이 복잡도를 크게 감소시켰음을 시사한다.
• 일반화 오차의 진짜 상대값과 매우 유사하게 LOO 오차가 추적됨을 확인하여, 최적의 다항식 집합을 선별하는 데 신뢰할 수 있는 기준으로 사용될 수 있음을 검증했다.
• 특정 영역(예: 신뢰성 분석에서 한계 상태 표면 근처)에 집중적으로 샘플을 추가하는 적응형 실험 설계 전략은 정확도를 더욱 향상시킬 수 있으며, 특히 중요한 영역에서의 성능 향상에 기여한다.
• 계산 모델이 비용이 많이 들 경우 이 방법은 매우 유리하다. 소규모 모델 평가로도 높은 정확도를 달성할 수 있기 때문에, 신뢰성 분석 및 최적화 작업에 적합하다.