[논문 리뷰] On optimal experimental designs for Sparse Polynomial Chaos Expansions

Noura Fajraoui, Stefano Marelli외 1명|arXiv (Cornell University)|2017. 03. 15.

Probabilistic and Robust Engineering Design인용 수 13

한 줄 요약

이 논문은 계산 예산 제약 조건 하에서 전체 입력 공간에서 희소 다항 혼합 확장(PCE)의 정확도를 극대화하는 순차적 적응형 실험 설계(ED) 전략을 제안한다. 이 전략은 초기 균일 분포 설계를 S-값 기준으로 반복적으로 개선함으로써 성능을 향상시킨다. 제안된 방법은 D-최적성, 최대최소 거리 설계 및 표준 샘플링과 비교해 뛰어난 정확도와 안정성을 확보하며, 특히 고차원 문제에서 뛰어난 성능을 발휘한다.

ABSTRACT

Uncertainty quantification (UQ) has received much attention in the literature in the past decade. In this context, Sparse Polynomial chaos expansions (PCE) have been shown to be among the most promising methods because of their ability to model highly complex models at relatively low computational costs. A least-square minimization technique may be used to determine the coefficients of the sparse PCE by relying on the so called experimental design (ED), i.e. the sample points where the original computational model is evaluated. An efficient sampling strategy is then needed to generate an accurate PCE at low computational cost. This paper is concerned with the problem of identifying an optimal experimental design that maximizes the accuracy of the surrogate model over the whole input space within a given computational budget. A novel sequential adaptive strategy where the ED is enriched sequentially by capitalizing on the sparsity of the underlying metamodel is introduced. A comparative study between several state-of-the-art methods is performed on four numerical models with varying input dimensionality and computational complexity. It is shown that the optimal sequential design based on the S-value criterion yields accurate, stable and computationally efficient PCE.

연구 동기 및 목표

• 고정된 계산 예산 내에서 전체 입력 공간에서 희소 다항 혼합 확장(PCE)의 정확도를 극대화하는 최적의 실험 설계 전략을 개발하는 것.
• 최소 제곱 회귀를 통한 PCE 계수 추정을 위한 효율적인 샘플 포인트 선택 문제를 해결하는 것.
• S-값 및 D-최적성과 같은 최적성 기준에 기반한 순차적 적응형 ED 전략의 성능을 균일 분포 설계 및 최대최소 거리 설계와 비교하여 조사하는 것.
• 순차적 PCE 구축을 위한 최적의 초기 설계 크기($N_{\text{init}}$)와 증강 단계 크기($N_{\text{add}}$)를 결정하는 것.
• 다양한 입력 차원 수와 복잡도를 가진 모델에서 제안된 방법의 강인성과 확장성 평가.

제안 방법

• 이 방법은 가용 샘플에서 최적의 다항 기저를 식별하기 위해 최소 각도 회귀(LARS) 알고리즘을 기반으로 한 차수 적응형 희소 PCE를 사용한다.
• 초기 실험 설계는 입력 영역을 광범위하게 커버하기 위해 균일 분포 기법(예: 라틴 하이퍼큐브 샘플링)을 사용하여 생성된다.
• 현재 희소 PCE 기저에 따라 의존하는 최적성 기준에 의해 설계가 순차적으로 개선된다.
• 두 가지 최적성 기준이 평가되었으며, 각각 D-최적성(정보 행렬의 행렬식을 최대화)과 S-값(정보 행렬의 열 간 직교성을 최대화)이다.
• S-값 기준은 최소 제곱 문제의 조건 수를 향상시키고 안정성을 높이는 데 기여하는 새로운 샘플 포인트 선택을 이끈다.
• 네 가지 벤치마크 모델을 대상으로 $N_{\text{init}}$와 $N_{\text{add}}$가 최종 PCE 정확도에 미치는 영향을 평가하기 위해 파arametric 연구가 수행되었다.

실험 결과

연구 질문

• RQ1 순차적 S-값 최적 설계는 다른 샘플링 전략과 비교해 PCE 정확도와 안정성 측면에서 어떻게 성능을 발휘하는가?
• RQ2 순차적 PCE 구축을 위한 최적의 초기 설계 크기($N_{\text{init}}$)와 증강 단계 크기($N_{\text{add}}$) 사이의 균형은 무엇인가?
• RQ3 고차원 문제에서 S-값 기준은 D-최적성 및 최대최소 거리 기준을 능가하는가?
• RQ4 다양한 입력 차원 수와 계산 복잡도를 가진 모델에서 다양한 실험 설계 전략은 어떻게 성능을 발휘하는가?
• RQ5 순차적 적응형 접근 방식은 비용이 많이 드는 모델 평가 횟수를 최소화하면서도 PCE 정확도를 크게 향상시킬 수 있는가?

주요 결과

• 순차적 S-값 최적 설계($Seq$ S-optimal)는 모든 테스트 케이스에서 가장 높은 정확도와 안정성을 확보하며, 다른 전략들을 크게 앞서 간다.
• $Seq$ D-최적 설계는 열악한 성능을 보였으며, 이는 D-최적성이 순차적 희소 PCE 구축에 부적합함을 시사한다.
• 최대최소 거리 기반 순차 설계는 저차원에서 중간 수준의 입력 차원(≤10)에서는 양호한 성능를 보였지만, 고차원 케이스에서는 불안정한 행동을 보였다.
• 모델의 희소성과 복잡도에 따라 $N_{\text{init}}$와 $N_{\text{add}}$를 선택하는 데 통용 가능한 규칙은 존재하지 않으며, 이는 모델에 따라 달라지며, 이시가미 함수의 경우 더 큰 초기 설계가 더 좋은 결과를 낳는다.
• S-값 기준은 PCE 기저의 희소성을 효과적으로 활용하여 정보가 풍부한 샘플 포인트 선택을 이끌어내어 일반화 오차 성능을 향상시킨다.
• 제안된 순차적 적응형 전략은 상대적 일반화 오차를 크게 감소시켜, 1D 확산 문제 및 트러스 구조를 포함한 다양한 모델에서 강인성을 입증한다.